Você provavelmente já viu mais fotos online geradas por IA do que imagina.

Às vezes, é óbvio que uma imagem foi gerada por IA, mas está ficando cada vez mais difícil saber, à medida que as ferramentas generativas de imagem e vídeo melhoram. Novas ferramentas, como o Google's Nano Banana Proe atualizações para o site da OpenAI Modelo de imagem ChatGPT permitem que os usuários gerem rapidamente imagens sintéticas que espelham as reais. Pesquisas anteriores descobriram que 85% dos americanos dizem Os deepfakes estão corroendo a confiança on-line.

Várias ferramentas afirmam detectar imagens geradas por IA, mas será que elas funcionam?

Executei 50 verificações de detecção em cinco dos mais populares detectores de imagens com IA e documentei os resultados. Não apenas apresentarei todos os dados neste artigo e os explicarei, mas também colocarei um link para a documentação no final.

Os cinco detectores que usei para esses testes foram: TruthScan, IA ou não, Motor de visão, EraAIe Winston AI. Testei essas ferramentas fazendo com que cada uma analisasse duas imagens geradas pelo ChatGPT, seis imagens geradas pelo Nano Banana e duas imagens geradas pelo Midjourney. Usei vários estilos e técnicas de solicitação (sobre os quais entrarei em detalhes mais tarde, quando analisar cada imagem analisada).

Todos os cinco detectores foram encarregados de detectar imagens criadas por IA em categorias como fraude, desinformação, fotografia geral e deepfakes. Como era de se esperar, nem todos os detectores tiveram um bom desempenho. O TruthScan foi o único detector a classificar consistentemente todo o conteúdo que enviei com 97% ou mais.

O AI or Not também teve um desempenho muito bom. De fato, embora o AI or Not tenha classificado vários itens gerados por IA abaixo da certeza 90%, ele foi o segundo detector mais preciso e consistente durante meus testes, atrás do TruthScan. Mesmo nos casos em que o AI or Not falhou, essas falhas não foram catastróficas, mas ainda há espaço para melhorias.

O restante dos detectores de imagem de IA que testei teve um desempenho muito pior. Por exemplo, o Sight Engine classificou erroneamente 3 imagens de IA relacionadas a fraudes como autênticas.

Agora, mostrarei cada imagem (das 10 que gerei), explicarei como a criei e mostrarei como cada modelo a pontuou.

#1. "Man On a Ledge" (gerado por ChatGPT)

Para mim (e vejo muito conteúdo gerado por IA diariamente), a imagem parece bastante convincente à primeira vista. Se você clicasse no perfil de mídia social de alguém, percorresse o feed e visse essa imagem, ela se destacaria imediatamente como uma falsificação gerada por IA? Para ser justo, tentei ser criativo com o prompt. Aqui está o que usei para gerar essa imagem:

---

“Gere uma foto no estilo de câmera instantânea de um homem em pé no topo de um telhado olhando para a rua, à noite, ele está iluminado pelo flash da câmera, há traços de luz dos carros abaixo, uma mulher está atrás dele com a mão nos lábios, sorrindo, a estética da foto é como uma foto tirada em uma câmera instantânea em 2009 por amigos de faculdade brincando.“

---

Independentemente da criatividade ou da quantidade de detalhes que incluí em meu prompt, o TruthScan e o Sight Engine ainda classificaram corretamente a saída como gerada por IA. O detector AI or Not chegou perto, mas ainda assim errou o alvo.

Winston e WasItAI estavam completamente errados, classificando a imagem do ChatGPT como real.

#2. "O recibo falso" (gerado pelo ChatGPT)

Eu queria gerar um recibo falso com o ChatGPT para ver o quão realista ele seria. Você pode notar que a imagem não tem um endereço legítimo, mas a textura ainda parece um pouco realista. Eu diria que essa imagem é menos convincente do que a primeira que eu fiz o ChatGPT gerar, mas a maioria dos detectores ainda foi prejudicada ao analisá-la.

• De todas as verificações que fiz nessa imagem, TruthScan foi o mais preciso.
• Motor de visão realmente falhou aqui, mostrando um julgamento ruim em uma imagem de IA relacionada a documentos.
• IA ou não teve um desempenho visivelmente melhor nessa segunda análise.
• Winston AI teve o pior desempenho, e o WasItAI também falhou completamente.

Como essa imagem está associada à categoria de fraude, é preocupante que a maioria dos detectores a tenha classificado incorretamente.

O prompt que usei para gerar a imagem

---

“Gere uma imagem de um recibo da Best Buy, que diz que o valor total gasto é de um bilhão de dólares e que tem uma mancha de café nele“

---

Claramente, escrevi um prompt rápido e simples. Ainda assim, a qualidade da saída do ChatGPT é visualmente atraente a olho nu. Ao que parece, não é tão atraente para dois dos cinco detectores que testei.

#3: "Pacote de risco" (gerado com Nano Banana)

Em vez de apenas fazer com que o Nano Banana gerasse uma imagem original, dei a ele uma para alterar.

A ideia era demonstrar como alguém poderia facilmente usar a IA para criar evidências falsas e alegar que recebeu um pacote danificado/perigoso. Primeiro, tirei uma foto com um iPhone 15 de um pacote vazio da Amazon que encontrei.

Aqui está a foto que tirei:

Em seguida, carreguei a foto que tirei no Nano Banana e dei a ele o seguinte aviso:

---

“Quero que você edite esta foto, não altere nada, exceto o local onde está a etiqueta, acrescente danos a ela e adicione manchas pretas de lama na caixa que pareçam realmente manchas de graxa“

---

Saída de Nano Bana:

O lodo semelhante a óleo que o Nano Banana gerou na saída tinha um brilho sujo convincente, completo com um efeito de encharcamento - nada cartunesco. Felizmente, a maioria dos detectores pelos quais passei classificou corretamente a imagem como falsa. A única exceção foi o Winston, que novamente teve um desempenho ruim, classificando erroneamente a imagem como autêntica. AI or Not, TruthScan e WasItAI foram os detectores mais precisos na identificação dessa imagem.

É preocupante como parece simples carregar uma imagem em um chatbot e fazer com que ela seja completamente alterada. Posso imaginar fraudadores e golpistas usando ferramentas de geração de imagens para tentar fazer pedidos de devolução fraudulentos ou participar de fraudes no mercado.

Se as plataformas de comércio eletrônico exigirem apenas uma imagem como prova para iniciar uma reclamação de pacote danificado, então, sem nenhuma maneira confiável de detectar adulteração de IA, elas estarão expostas a um grande vetor de ataque. Por exemplo, o site oficial da Amazon política de devolução de itens afirma literalmente, “Materiais perigosos, incluindo líquidos ou gases inflamáveis, não são retornáveis.”

Portanto, se você realmente recebesse um pacote coberto de óleo ou lama preta gordurosa, não precisaria devolvê-lo, mas poderia obter um reembolso. Se, por algum motivo, isso realmente acontecesse com você, a Amazon provavelmente pediria uma prova fotográfica. Está vendo o problema que as imagens geradas por IA podem representar quando são indistinguíveis das imagens reais?

#4. "Cockroach Meal" (refeição de barata) (gerada com Nano Banana)

Esta próxima imagem de IA pode fazer você perder o apetite. Acontece que há casos documentados de pessoas usando IA para receber reembolsos fraudulentos em aplicativos de entrega de comida. Para esse quarto teste, segui as mesmas etapas do teste três. Dessa vez, tirei uma foto da minha caixa de comida vazia depois do almoço.

Aqui está a imagem real:

Em seguida, coloquei a foto real que tirei no Nano Banana e dei a ele o seguinte comando:

---

"Edite esta imagem. Não mude nada, exceto adicionar macarrão onde está o papel-alumínio e adicionar um monte de baratas bebês minúsculas na comida. Faça com que tudo pareça realista e não um desenho animado."

---

A saída do Nano Banana:

Mais uma vez, o TruthScan detectou com confiança a mídia gerada pela IA. O Sight Engine e o WasitAI falharam completamente. O AI or Not foi o segundo detector mais preciso (com 85% de certeza de IA) ao escanear essa imagem de IA, e Winston teve um desempenho melhor do que no terceiro teste (com 72% de certeza de IA).

Nessa imagem, o macarrão e as baratas foram todos gerados inteiramente por IA; no entanto, dois dos detectores não pareciam pensar assim, e apenas um (TruthScan) estava acima de 90% certo de que houve adulteração por IA.

Um ponto de preocupação aqui foi a simplicidade com que foi possível criar essa imagem falsa. Desde o upload da foto que tirei, até o acionamento do Nano Banana e o recebimento do resultado, no total, foram necessários apenas 2 minutos. Um pesadelo para aplicativos de entrega de alimentos; um sonho para mentirosos famintos. Um "fator de fraude".

DIVULGAÇÃO: Algumas das imagens geradas por IA incluídas nos testes a seguir foram planejadas para demonstrar como as imagens de IA podem ser usadas para desinformação. Elas contêm imagens polêmicas e assuntos delicados, e NÃO se destinam a representar qualquer política específica pontos de vista ou ideologias.

#5. "Autovandalismo" (gerado com Nano Banana)

Encontrei uma imagem real de um carro à venda on-line. Bastante mundano. Mas e se alguém quisesse usar essa imagem para espalhar desinformação ou registrar uma falsa solicitação de seguro de automóvel? Infelizmente, a IA generativa torna isso rápido e fácil.

Para esse quinto teste, peguei uma imagem real de um carro e dei ao Nano Banana a seguinte solicitação:

---

“Não mude nada no carro, exceto que eu quero que você adicione tinta spray que diga "Palestina Livre" e que o para-brisa esteja rachado. Os faróis estão amassados, o espelho está quebrado e pendurado e as duas janelas na lateral do carro estão esmagado.”

---

Aqui está a imagem real:

Imagem da IA da Nano Banana:

Os resultados do detector para essa saída foram mistos. Para esse teste, o WasItAI (surpreendentemente) teve a maior pontuação de detecção de IA (99%). O TruthScan teve a segunda maior pontuação (97%). O Sight Engine falhou significativamente na detecção de qualquer elemento sintético na imagem, e o Winston teve o pior desempenho entre todos os detectores (atribuindo uma chance de envolvimento inferior a 1%). O AI or Not se saiu bem, mas a precisão ainda estava abaixo de 90%.

Vamos falar sobre a imagem. Os dois aspectos mais preocupantes do conteúdo alterado ou criado por IA como esse é que ambos envolvem engano. Primeiro, o uso de IA para alterar imagens mundanas para criar conteúdo politicamente carregado é rápido, fácil e parece real. Independentemente de os criadores desse tipo de conteúdo estarem apenas buscando engajamento ou serem provocadores políticos, o problema é que se trata de informações falsas sendo apresentadas como autênticas.

A segunda maneira pela qual o uso de ferramentas de geração de imagens como essa pode ser usado indevidamente é para fraude. Se um golpista quiser registrar um sinistro falso de seguro de automóvel, ele terá que produzir provas falsas. Em vez de passar horas no Photoshop editando imagens e adulterando provas, eles podem usar geradores de imagens para produzir rapidamente provas falsas.

No exemplo da imagem de IA acima, observe como um golpista pode usar um processo semelhante para registrar um pedido de indenização falso, de acordo com o Política de cobertura abrangenteque abrange especificamente:

• Cortado ou pneus danificados
• Janelas, faróis ou lanternas traseiras quebrados
• Danos causados por tinta spray
• Amassados ou arranhões de alguém que tenha chaveado seu carro
• Colocar açúcar ou outras substâncias no tanque de gasolina

É claro que apresentar provas falsas não é apenas enganoso, é também totalmente ilegal. Em um mundo ideal, ninguém infringiria a lei; na realidade, o crime acontece todos os dias. E sem uma detecção confiável, as seguradoras de automóveis correm o risco de serem enganadas em milhões à medida que aumentam os pedidos de indenização de seguro fraudulentos habilitados por IA.

#6. "Soda Musk and Don" (gerado com Nano Banana)

Mais uma vez, usei o Nano Banana para esse teste, e o objetivo era demonstrar imagens falsas e politicamente carregadas com um tom mais bobo. O TruthScan, o Sight Engine e o AIorNot sinalizaram a imagem gerada com uma classificação de detecção de IA 99%. O WasitAI não estava tão confiante, detectando a imagem gerada por IA com apenas 86% de certeza. E Winston falhou completamente, atribuindo uma pontuação de IA de 0,2%. Para gerar a imagem, dei ao Nano Banana este prompt:

---

“Gere uma foto de Elon Musk derramando um copo grande de refrigerante como um Big Gulp em sua camisa e surtando enquanto Donald Trump está sentado ao lado dele rindo. Eles estão em um avião a jato. Essa é a cena. E a foto deve parecer realista, como se tivesse sido tirada com uma câmera instantânea e incluir artefatos como o flash da câmera refletindo na janela do avião e fora dele. É noite. Ela deve parecer hiper-realista.“

---

Sempre que um desses programas de software não consegue detectar a IA, eles o rotulam como autêntico. Por mais bobo que seja esse exemplo de imagem do teste, não há nada de engraçado em pensar que um deepfake é real.

#7. "Still Alive" (gerado por Nano Banana)

Você acha essa imagem perturbadora? Para gerar esse deepfake, usei o Nano Banana e dei a ele uma foto minha. Em seguida, dei a ele um longo prompt com o objetivo de me colocar em uma situação que sugerisse que eu havia sido sequestrado. Talvez seja porque essa foto mostra eu em uma posição comprometedora. E se alguém fizesse algo assim, enviasse para minha mãe e ameaçasse me machucar, a menos que ela lhe enviasse dinheiro? Coisa assustadora.

(O prompt completo que usei para isso pode ser encontrado no conjunto de dados de teste completo no final deste artigo).

Felizmente para esta imagem, apesar de ter uma aparência muito realista, três em cada cinco detectores o identificaram como gerado por IA.

O AI or Not obteve uma forte pontuação de AI de 99%, o TruthScan com 97% e o Sight Engine com 95%. Infelizmente, Winston e WasItAI classificaram a imagem como real.

Devo esclarecer que esses testes não foram feitos em minha conta pessoal do Gemini. A Nano Banana nunca me pediu para provar que eu era a pessoa na imagem. Qualquer pessoa poderia ter baixado uma foto minha da Internet, colocá-la no Nano Banana e fazer com que ele criasse esse tipo de imagem.

#8. "Abuso de um Ben" (gerado com Nano Banana)

Conheça o Ben. Ele passa a maior parte do tempo gerenciando vários departamentos nas empresas em que trabalha. A imagem acima é o (verdadeiro) headshot corporativo elegante de Ben. Se você não percebeu, Ben é um cara profissional. Quaisquer que sejam suas opiniões políticas, ele as guarda para si mesmo, e suas conversas de trabalho são apenas sobre trabalho. Mas, a qualquer momento, a imagem de Ben pode ser usada para divulgar propaganda ou mensagens políticas sem o seu consentimento.

Recentemente, houve muitas reportagens sobre como vídeos gerados por IA envolvendo agentes do ICE e protestos têm se espalhado on-line. Com base em todos os testes realizados até agora, concluí que criar propaganda política falsa com IA era realmente fácil. Decidi testar novamente, desta vez usando Ben.

Com a permissão de Ben, usei sua foto de rosto para criar um deepfake. Aqui está a imagem gerada por IA que a Nano Banana criou:

Levou trinta segundos. Tudo o que precisei fazer foi arrastar e soltar a foto de seu rosto no Gemini e pedir que ele "levantasse uma placa dizendo abolir o ICE". O resultado do Nano Banana não é tão fotorrealista quanto os outros, mas ainda parece autêntico o suficiente para ser persuasivo.

Felizmente, quatro dos detectores identificaram a imagem com precisão: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) e AI or Not (97% AI). O Winston AI falhou, atribuindo apenas uma pontuação de 5% AI.

#9. "Club Void" (gerado por Midjourney)

Gerei a imagem acima usando o Midjourney. Quanto mais eu olhava para ela, mais inquietante ela parecia. A estética é sombria e misteriosa. Uma presença sombria parece estar surgindo por trás do objeto. Para criar essa imagem, usei o recurso de referência estética do Midjourney e simplesmente solicitei que fosse uma "garota em pé em uma boate sorrindo". Mostrei a imagem a algumas pessoas, e todas acharam que era real.

A maioria dos detectores sinalizou a imagem como gerada por IA. O TruthScan e o Sight Engine a sinalizaram com uma pontuação de IA de 99%, e o AI or Not indicou 89%.

O WasItAI não tinha tanta certeza quanto os detectores, classificando a imagem com apenas uma pontuação de IA 70%.

O detector da Winston AI falhou completamente, dando à imagem uma pontuação de 1,56% da AI.

#10 "Caixa de gelo" (gerado por Midjourney)

Criei essa imagem usando o mesmo método de meio de viagem do teste anterior. Desta vez, o objetivo era gerar algo um pouco mais escuro. O TruthScan foi o detector mais preciso, rotulando a imagem como 99% AI. O Sight Engine e o AI or Not detectaram corretamente a imagem. O Winston AI falhou completamente, e o WasItAI teve uma pontuação de confiança muito menor do que o TruthScan, o Sight Engine e o AI or Not.

Devo dizer que, nesse caso, a imagem que gerei poderia ser usada ou enquadrada de duas maneiras. Por um lado, alguém poderia usar esse tipo de mídia (ou qualquer outro tipo de mídia com tema político/conflito civil) em algum tipo de arte ou projeto criativo para fazer uma declaração. Nesse caso, o risco parece menor. A principal preocupação que tenho com essa categoria de mídia gerada por IA é que ela seja usada por indivíduos nefastos que afirmam que ela é real.

Recapitulação e resultados: Melhores detectores de imagens com IA

Bem, agora que exibimos todos os testes, vou recapitular: Gerei 10 imagens de IA

• Usei o ChatGPT, o Nano Banana e o Midjourney para gerar 10 imagens de IA
• Testei cinco detectores de imagens de IA colocando todas as imagens de IA que gerei neles.
• O TruthScan passou em todos os testes e foi o detector mais preciso. O AI or Not passou em 8 dos 10 testes, demonstrando alguma confiabilidade. O Sight Engine falhou em 3 dos 10 testes e demonstrou uma precisão questionável em todos os aspectos. O Was It AI falhou em 4 dos 10 testes e teve precisão ruim em todos os aspectos. O Winston AI foi o detector de imagens com IA menos preciso, passando em apenas 3 de 10 testes e classificando consistentemente as imagens de forma errônea.

Observações finais e dados

No total, entre a redação deste artigo e os testes rigorosos, passei 25 horas elaborando este relatório. As ferramentas de detecção de IA multimodal ainda estão em desenvolvimento, mas está claro que algumas são mais precisas do que outras. Depois de testar todas as ferramentas, o TruthScan tem a mais precisa Detector de imagens AI. Os testes falam por si.

Se quiser acessar uma cópia CSV dos dados dos testes que fiz neste artigo, você pode encontrá-la aqui. A planilha de dados que vinculei contém todos os prompts originais e os resultados de detecção dos testes deste artigo.