É provável que já tenha visto mais fotografias geradas por IA na Internet do que imagina.

Por vezes, é óbvio que uma imagem foi gerada por IA, mas é cada vez mais difícil de perceber à medida que as ferramentas generativas de imagem e vídeo melhoram. Novas ferramentas como a Nano Banana Proe as actualizações da Modelo de imagem ChatGPT permitem aos utilizadores gerar rapidamente imagens sintéticas que espelham imagens reais. Estudos anteriores revelaram que 85% dos americanos dizem Os deepfakes estão a minar a confiança online.

Várias ferramentas afirmam detetar imagens geradas por IA, mas será que funcionam?

Efectuei 50 verificações de deteção em cinco dos detectores de imagens com IA mais populares e documentei os resultados. Não só apresentarei todos os dados neste artigo e explicá-los-ei, como também farei uma ligação à documentação no final.

Os cinco detectores que utilizei para estes testes foram: TruthScan, IA ou não, Motor de visão, EraIssoAIe Winston AI. Testei essas ferramentas fazendo com que cada uma analisasse duas imagens geradas pelo ChatGPT, seis imagens geradas pelo Nano Banana e duas imagens geradas pelo Midjourney. Utilizei vários estilos e técnicas de estímulo (sobre os quais falarei em pormenor mais tarde, quando analisar cada imagem analisada).

Os cinco detectores foram incumbidos de detetar imagens criadas por IA em categorias como fraude, desinformação, fotografia geral e deepfakes. Não é de surpreender que nem todos os detectores tenham tido um bom desempenho. O TruthScan foi o único detetor a classificar de forma consistente todo o conteúdo que enviei com 97% ou superior.

O AI or Not também teve um desempenho muito bom. De facto, embora o AI or Not tenha classificado vários itens gerados por IA abaixo da certeza 90%, foi o segundo detetor mais preciso e consistente durante os meus testes, atrás do TruthScan. Mesmo nos casos em que o AI or Not falhou, essas falhas não foram catastróficas, mas ainda há espaço para melhorias.

O resto dos detectores de imagens de IA que experimentei tiveram um desempenho muito pior. Por exemplo, o Sight Engine classificou incorretamente 3 imagens de IA relacionadas com fraude como autênticas.

Agora vou mostrar-vos cada imagem (das 10 que gerei), explicar como a criei e mostrar como cada modelo a pontuou.

#1. "Man On a Ledge" (gerado por ChatGPT)

Para mim (e vejo diariamente muito conteúdo gerado por IA), a imagem parece bastante convincente à primeira vista. Se clicássemos no perfil de uma pessoa nas redes sociais, percorrêssemos o seu feed e víssemos esta imagem, será que se destacaria imediatamente como uma falsificação gerada por IA? Para ser justo, tentei ser criativo com a pergunta. Aqui está a que utilizei para gerar esta imagem:

---

“Crie uma fotografia ao estilo de uma câmara instantânea de um homem em cima de um telhado a olhar para a rua, à noite, iluminado pelo flash da câmara, com vestígios de luz dos carros lá em baixo, uma mulher atrás dele com a mão nos lábios, a sorrir, a estética da fotografia é a de uma fotografia tirada numa câmara instantânea em 2009 por amigos da faculdade a brincar.“

---

Independentemente da minha criatividade ou do número de detalhes que incluí na minha pergunta, o TruthScan e o Sight Engine continuaram a classificar corretamente o resultado como gerado por IA. O detetor AI or Not chegou perto, mas ainda assim falhou o alvo.

Winston e WasItAI estavam completamente errados - classificando a imagem do ChatGPT como real.

#2. "O recibo falso" (gerado por ChatGPT)

Quis gerar um recibo falso com o ChatGPT para ver como ficaria realista. Pode notar que a imagem não tem um endereço legítimo, mas a textura ainda parece um pouco realista. Diria que esta imagem é menos convincente do que a primeira que pedi ao ChatGPT para gerar, mas a maioria dos detectores ainda assim falhou ao analisá-la.

• De todos os controlos que fiz a esta imagem, TruthScan foi o mais exato.
• Motor de visão falhou realmente aqui, mostrando um mau julgamento numa imagem de IA relacionada com documentos.
• IA ou não teve um desempenho visivelmente melhor nesta segunda análise.
• Winston AI teve o pior desempenho, e o WasItAI também falhou completamente.

Dado que esta imagem está associada à categoria de fraude, é preocupante que a maioria dos detectores a tenham classificado incorretamente.

O prompt que utilizei para gerar a imagem

---

“Gerar uma imagem de um recibo da Best Buy, que diz que o montante total gasto é de mil milhões de dólares, e que tem uma mancha de café“

---

Claramente, eu escrevi um prompt rápido e simples. Ainda assim, a qualidade da saída do ChatGPT é visualmente atraente a olho nu. Não tão atraente para dois dos cinco detectores que testei, ao que parece.

#3: "Hazard Package" (gerado com Nano Banana)

Em vez de deixar o Nano Banana gerar uma imagem original, dei-lhe uma para alterar.

A ideia era demonstrar como alguém poderia facilmente utilizar a IA para criar provas falsas e alegar que recebeu uma encomenda danificada/perigosa. Primeiro, tirei uma fotografia com um iPhone 15 de uma embalagem vazia da Amazon que encontrei.

Aqui está a fotografia que tirei:

Em seguida, carreguei a fotografia que tirei para a Nano Banana e dei-lhe a seguinte indicação:

---

“Quero que edites esta fotografia, não alteres nada, exceto o local onde se encontra a etiqueta, acrescenta-lhe danos e manchas pretas de lama na caixa que parecem mesmo manchas de gordura“

---

Saída de Nano Bana:

O lodo parecido com óleo que o Nano Banana gerou na saída tinha um brilho sujo convincente, completo com um efeito de encharcamento - nada cartoon. Felizmente, a maioria dos detectores que utilizei rotularam corretamente a imagem como falsa. A única exceção foi o Winston, que mais uma vez teve um desempenho fraco, classificando erradamente a imagem como autêntica. AI or Not, TruthScan e WasItAI foram os detectores mais precisos na deteção desta imagem.

É preocupante como parece simples carregar uma imagem para um chatbot e alterá-la completamente. Consigo imaginar fraudadores e burlões a utilizarem ferramentas de geração de imagens para tentarem fazer pedidos de devolução fraudulentos ou participarem em fraudes no mercado.

Se as plataformas de comércio eletrónico apenas exigirem uma imagem como prova para iniciar uma reclamação de um pacote danificado, então, sem qualquer forma fiável de detetar a adulteração por IA, ficam expostas a um importante vetor de ataque. Por exemplo, o sítio oficial da Amazon política de devolução de artigos afirma literalmente, “Os materiais perigosos, incluindo os líquidos ou gases inflamáveis, não são recuperáveis.”

Assim, se recebesse uma encomenda coberta de óleo ou de lama negra gordurosa, não teria de a devolver, mas poderia obter um reembolso. Se, por alguma razão, isso lhe acontecesse, a Amazon pediria provavelmente uma prova fotográfica. Está a ver o problema que as imagens geradas por IA podem colocar quando são indistinguíveis das imagens reais?

#4. "Refeição de barata" (gerada com Nano Banana)

Esta próxima imagem de IA pode fazer-te perder o apetite. Acontece que há casos documentados de pessoas que utilizam a IA para receber reembolsos fraudulentos em aplicações de entrega de comida. Para este quarto teste, segui os mesmos passos que no teste três. Desta vez, tirei uma fotografia da minha caixa de comida vazia depois do almoço.

Aqui está a imagem real:

Em seguida, coloquei a fotografia real que tirei no Nano Banana e dei-lhe o seguinte comando:

---

"Editar esta imagem. Não altere nada, exceto acrescentar massa no local onde está a folha de alumínio e acrescentar um monte de pequenas baratas bebés na comida. Faz com que tudo pareça realista e não caricatural".

---

A saída da Nano Banana:

Mais uma vez, o TruthScan detectou com confiança os média gerados pela IA. O Sight Engine e o WasitAI falharam completamente. AI or Not foi o segundo detetor mais preciso (com 85% de certeza de IA) ao analisar esta imagem de IA, e Winston teve um desempenho melhor do que no terceiro teste (com 72% de certeza de IA).

Nesta imagem, a massa e as baratas foram todas geradas inteiramente por IA; no entanto, dois dos detectores não pareciam pensar assim, e apenas um (TruthScan) tinha mais de 90% de certeza de adulteração por IA.

Um ponto de preocupação aqui foi o quão simples foi criar esta imagem falsa. Desde o carregamento da fotografia que tirei, até à ativação do Nano Banana e à receção do resultado, demorou apenas cerca de 2 minutos. Um pesadelo para as aplicações de entrega de comida; um sonho para os mentirosos esfomeados. Um "fator de fraude".

DIVULGAÇÃO: Algumas das imagens geradas por IA incluídas nos testes seguintes destinavam-se a demonstrar como as imagens de IA podem ser utilizadas para desinformação. Contêm imagens polémicas e temas sensíveis, e NÃO se destinam a representar qualquer política específica pontos de vista ou ideologias.

#5. "Autovandalismo" (gerado com Nano Banana)

Encontrei uma imagem real de um carro à venda na Internet. Bastante mundano. Mas e se alguém quisesse utilizar esta imagem para espalhar desinformação ou apresentar uma falsa reclamação de seguro automóvel? Infelizmente, a IA generativa torna isso rápido e fácil.

Para este quinto teste, peguei numa imagem real de um carro e dei à Nano Banana a seguinte mensagem:

---

“Não mudes nada no carro, exceto que quero que lhe ponhas tinta em spray que diga "Palestina Livre" e que o para-brisas esteja rachado. Os faróis estão esmagados e o espelho está partido e pendurado e as duas janelas do lado do carro estão esmagado.”

---

Aqui está a imagem real:

Imagem da IA da Nano Banana:

Os resultados do detetor para esta saída foram mistos. Para esse teste, o WasItAI (surpreendentemente) teve a maior pontuação de deteção de IA (99%). O TruthScan teve a segunda maior pontuação (97%). O Sight Engine falhou significativamente na deteção de quaisquer elementos sintéticos na imagem, e o Winston teve o pior desempenho de todos os detectores (atribuindo uma probabilidade de envolvimento inferior a 1%). O AI or Not se saiu bem, mas a precisão ainda estava abaixo de 90%.

Falemos da imagem. Os dois aspectos mais preocupantes de conteúdos alterados ou criados por IA como este são o facto de ambos envolverem engano. Em primeiro lugar, a utilização de IA para alterar imagens mundanas para criar conteúdo politicamente carregado é rápida, fácil e parece real. Quer os autores deste tipo de conteúdo tenham apenas como objetivo o envolvimento ou sejam provocadores políticos, o problema é que se trata de informação falsa apresentada como autêntica.

A segunda forma de utilização abusiva de ferramentas de geração de imagens como esta é a fraude. Se um burlão quiser apresentar um pedido de seguro automóvel falso, terá de produzir provas falsas. Em vez de passar horas no Photoshop a editar imagens e a adulterar provas, pode utilizar geradores de imagens para produzir rapidamente provas falsas.

No exemplo da imagem de IA acima, repare como um burlão pode utilizar um processo semelhante para apresentar um pedido de indemnização falso, de acordo com a Política de cobertura abrangente, que abrange especificamente:

• Cortado ou pneus danificados
• Vidros, faróis ou luzes traseiras partidos
• Danos causados pela pintura com spray
• Mossas ou riscos de alguém que tenha posto a chave no seu carro
• Colocar açúcar ou outras substâncias no depósito de combustível

É claro que apresentar provas falsas não é apenas enganador, é também completamente ilegal. Num mundo ideal, ninguém infringiria a lei; na realidade, o crime acontece todos os dias. E, sem uma deteção fiável, as companhias de seguros automóveis correm o risco de ser enganadas em milhões, à medida que aumentam os pedidos de indemnização fraudulentos com recurso à IA.

#6. "Soda Musk e Don" (gerado com Nano Banana)

Mais uma vez, utilizei o Nano Banana para este teste e o objetivo era demonstrar imagens falsas, politicamente carregadas, com um tom mais ridículo. O TruthScan, o Sight Engine e o AIorNot assinalaram a imagem gerada com uma classificação de deteção de IA de 99%. O WasitAI não estava tão confiante, detectando a imagem gerada pela IA com apenas 86% de certeza. E o Winston falhou completamente, atribuindo uma pontuação de IA de 0,2%. Para gerar a imagem, dei à Nano Banana esta mensagem:

---

“Gerar uma fotografia de Elon Musk a entornar um copo grande de refrigerante tipo Big Gulp na camisa e a passar-se enquanto Donald Trump está sentado ao lado dele a rir-se. Estão num avião a jato. É essa a cena. E a fotografia deve ter um aspeto realista, como se tivesse sido tirada com uma câmara instantânea e incluir artefactos como o reflexo do flash da câmara na janela do avião e no exterior do avião. É de noite. Deve parecer hiper-realista.“

---

Sempre que um destes programas de software não consegue detetar a IA, rotulam-no como autêntico. Por mais disparatado que seja este exemplo de imagem do teste, não há nada de engraçado em pensar que um deepfake é real.

#7. "Still Alive" (gerado por Nano Banana)

Achas que esta imagem é perturbadora? Para gerar este deepfake, usei o Nano Banana e dei-lhe uma fotografia minha. A seguir, dei-lhe um longo prompt que pretendia colocar-me numa situação que implicasse que eu tinha sido raptado. Talvez seja porque esta fotografia mostra eu numa posição comprometedora. E se alguém fizesse uma coisa destas, a enviasse à minha mãe e ameaçasse fazer-me mal se ela não lhe enviasse dinheiro? Coisas assustadoras.

(A mensagem completa que utilizei para este efeito pode ser encontrada no conjunto de dados de teste completo no final deste artigo).

Felizmente para esta imagem, apesar de ter um aspeto muito realista, três em cada cinco detectores identificaram-na como gerada por IA.

AI or Not obteve uma forte pontuação de IA de 99%, TruthScan com 97% e Sight Engine com 95%. Infelizmente, Winston e WasItAI classificaram a imagem como real.

Devo esclarecer que estes testes não foram efectuados na minha conta pessoal Gemini. A Nano Banana nunca me pediu para provar que eu era a pessoa na imagem. Qualquer pessoa poderia ter descarregado uma fotografia minha da Internet, tê-la colocado na Nano Banana e tê-la feito criar este tipo de imagem.

#8. "Abuso de um Ben" (gerado com Nano Banana)

Conheça o Ben. Ele passa a maior parte do seu tempo a gerir vários departamentos nas empresas onde trabalha. A imagem acima é o (verdadeiro) retrato corporativo elegante do Ben. Se não se consegue perceber, o Ben é um tipo profissional. Independentemente das suas opiniões políticas, guarda-as para si e as suas conversas de trabalho são apenas sobre trabalho. Mas, em qualquer altura, a imagem do Ben pode ser utilizada para difundir propaganda ou mensagens políticas sem o seu consentimento.

Recentemente, tem havido muitas notícias sobre a forma como vídeos gerados por IA envolvendo agentes do ICE e protestos se têm espalhado pela Internet. Com base em todos os testes efectuados até agora, concluí que criar propaganda política falsa com IA era muito fácil. Decidi fazer um novo teste, desta vez com o Ben.

Com a autorização do Ben, utilizei a sua fotografia de rosto para criar um deepfake. Aqui está a imagem gerada por IA que a Nano Banana criou:

Demorou trinta segundos. Tudo o que tive de fazer foi arrastar e largar a fotografia da cabeça dele para o Gemini e pedir-lhe que "levantasse um cartaz a dizer abolir o ICE". O resultado do Nano Banana não é tão fotorrealista como os outros, mas parece suficientemente autêntico para ser persuasivo.

Felizmente, quatro dos detectores identificaram corretamente a imagem: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI), e AI or Not (97% AI). Winston AI falhou, atribuindo apenas uma pontuação de 5% AI.

#9. "Club Void" (gerado por Midjourney)

Criei a imagem acima usando o Midjourney. Quanto mais olhava para ela, mais inquietante me parecia. A estética é escura e misteriosa. Uma presença sombria parece estar a emergir por detrás do objeto. Para criar esta imagem, utilizei a função de referência estética do Midjourney e pedi-lhe simplesmente que fosse uma "rapariga de pé numa discoteca a sorrir". Mostrei a imagem a algumas pessoas e todas acharam que era real.

A maioria dos detectores assinalou a imagem como tendo sido gerada por IA. O TruthScan e o Sight Engine assinalaram-na com uma pontuação de IA de 99%, o AI or Not indicou 89%.

O WasItAI não estava tão seguro como os detectores, classificando a imagem apenas com uma pontuação AI de 70%.

O detetor do Winston AI falhou completamente, dando à imagem uma pontuação AI de 1,56%.

#10 "Caixa de gelo" (gerado por Midjourney)

Criei esta imagem utilizando o mesmo método a meio da viagem do teste anterior. Desta vez, o objetivo era criar algo um pouco mais escuro. O TruthScan foi o detetor mais preciso, rotulando a imagem como 99% AI. O Sight Engine e o AI or Not detectaram corretamente a imagem. O Winston AI falhou completamente e o WasItAI teve uma pontuação de confiança muito mais baixa do que o TruthScan, o Sight Engine e o AI or Not.

Devo dizer que, neste caso, a imagem que gerei pode ser utilizada ou enquadrada de duas formas. Por um lado, alguém poderia utilizar este tipo de suporte (ou qualquer outro suporte com temática política/desordem civil) em algum tipo de arte ou projeto criativo para fazer uma declaração. Nesse caso, o risco parece menor. A principal preocupação que tenho com esta categoria de meios de comunicação gerados por IA é o facto de serem utilizados por indivíduos nefastos que afirmam que são reais.

Recapitulação e resultados: Melhores detectores de imagens com IA

Muito bem, agora que já apresentámos todos os testes, vou recapitular: Gerei 10 imagens de IA

• Utilizei o ChatGPT, o Nano Banana e o Midjourney para gerar 10 imagens de IA
• Testei cinco detectores de imagens de IA, passando por eles todas as imagens de IA que gerei.
• O TruthScan passou em todos os testes e foi o detetor mais preciso. O AI or Not passou em 8 dos 10 testes, mostrando alguma fiabilidade. O Sight Engine falhou em 3 dos 10 testes e demonstrou uma precisão geral questionável. Was It AI falhou em 4 de 10 testes e teve uma precisão fraca em todo o lado. O Winston AI foi o detetor de imagens AI menos preciso, passando apenas em 3 de 10 testes, classificando consistentemente mal as imagens.

Observações finais e dados

No total, entre a redação deste artigo e os testes rigorosos, passei 25 horas a elaborar este relatório. As ferramentas de deteção de IA multimodal ainda estão em desenvolvimento, mas é evidente que algumas são mais precisas do que outras. Depois de testar todas as ferramentas, o TruthScan é o mais exato Detetor de imagem AI. Os testes falam por si.

Se pretender aceder a uma cópia CSV dos dados dos testes que efectuei neste artigo, pode encontrá-la aqui. A folha de cálculo de dados a que liguei contém todos os avisos originais e resultados de deteção dos testes deste artigo.