Probablemente hayas visto en Internet más fotos generadas por IA de las que crees.

A veces es obvio que una imagen ha sido generada por IA, pero cada vez es más difícil saberlo a medida que mejoran las herramientas generativas de imagen y vídeo. Nuevas herramientas como Google Nano Banana Proy actualizaciones de OpenAI Modelo de imagen ChatGPT permiten a los usuarios generar rápidamente imágenes sintéticas que reflejan las reales. Investigaciones anteriores encontraron que 85% de los estadounidenses dicen los deepfakes erosionan la confianza en línea.

Múltiples herramientas afirman detectar imágenes generadas por IA, pero ¿funcionan?

He realizado 50 comprobaciones de detección en cinco de los detectores de imágenes de IA más populares y he documentado los resultados. No solo presentaré todos los datos en este artículo y los explicaré, sino que también enlazaré con la documentación al final.

Los cinco detectores que utilicé para estas pruebas fueron: TruthScan, IA o no, Motor de visión, WasItAIy Winston AI. Probé estas herramientas haciendo que cada una analizara dos imágenes generadas por ChatGPT, seis imágenes generadas por Nano Banana y dos imágenes generadas por Midjourney. Utilicé varios estilos y técnicas de incitación (que detallaré más adelante, cuando analice cada imagen).

Los cinco detectores se encargaron de detectar imágenes creadas por IA en categorías como fraude, desinformación, fotografía general y deepfakes. Como era de esperar, no todos los detectores obtuvieron buenos resultados. TruthScan fue el único detector que clasificó sistemáticamente todos los contenidos que envié a 97% o superior.

AI or Not también funcionó bastante bien. De hecho, aunque AI or Not clasificó múltiples elementos generados por la IA por debajo de 90% de certeza, fue el segundo detector más preciso y consistente durante mis pruebas, por detrás de TruthScan. Incluso cuando AI or Not falló, esos fallos no fueron catastróficos, pero aún hay margen de mejora.

El resto de los detectores de imágenes de IA que probé obtuvieron resultados mucho peores. Por ejemplo, Sight Engine clasificó erróneamente como auténticas 3 imágenes de IA relacionadas con fraudes.

Ahora te mostraré cada imagen (de las 10 que generé) te explicaré cómo la creé y te mostraré cómo la puntuó cada modelo.

#1. "Man On a Ledge" (generado por ChatGPT)

Para mí (y veo muchos contenidos generados por IA a diario), la imagen parece bastante convincente a primera vista. Si hicieras clic en el perfil de alguien en las redes sociales, te desplazaras por su feed y vieras esta imagen, ¿destacarías inmediatamente que se trata de una falsificación generada por IA? Para ser justos, intenté ser creativo con la pregunta. Ésta es la que utilicé para generar esta imagen:

---

“Generame una foto estilo cámara instantánea de un hombre de pie en lo alto de un tejado mirando hacia la calle, de noche, está iluminado por el flash de la cámara, hay rastros de luz de los coches de abajo, una mujer está de pie detrás de él con la mano en los labios, sonriendo, la estética de la foto es como una foto tomada con una cámara instantánea en 2009 por amigos de la universidad haciendo el tonto.“

---

Por muy creativo que fuera o por muchos detalles que incluyera en mi mensaje, TruthScan y Sight Engine seguían clasificando correctamente el resultado como generado por la IA. El detector AI or Not se acercó, pero no dio en el blanco.

Winston y WasItAI se equivocaron rotundamente al clasificar la imagen ChatGPT como real.

#2. "El recibo falso" (generado por ChatGPT)

Quería generar un recibo falso con ChatGPT para ver cómo de realista se vería. Puede que notes que a la imagen le falta una dirección legítima, pero la textura sigue pareciendo ligeramente realista. Diría que esta imagen es menos convincente que la primera que generé con ChatGPT, pero la mayoría de los detectores no funcionaron al analizarla.

• De todas las comprobaciones que hice en esta imagen, TruthScan era el más preciso.
• Motor de visión realmente falló aquí, mostrando mal juicio en una imagen de IA relacionada con documentos.
• IA o no obtuvo resultados notablemente mejores en este segundo análisis.
• Winston AI obtuvo los peores resultados, y WasItAI también fracasó por completo.

Dado que esta imagen está asociada a la categoría de fraude, es preocupante que la mayoría de los detectores la clasificaran erróneamente.

El prompt que utilicé para generar la imagen

---

“Generar una imagen de un recibo de best buy, que diga que la cantidad total gastada es de mil millones de dólares, y que haya una mancha de café en él.“

---

Está claro que escribí un prompt rápido y sencillo. Aún así, la calidad de la salida ChatGPT es visualmente convincente a simple vista. No tan convincente para dos de los cinco detectores que probé, parece.

#3: "Hazard Package" (generado con Nano Banana)

En lugar de hacer que Nano Banana generara una imagen original, le di una para que la modificara.

La idea era demostrar cómo alguien podría utilizar fácilmente la IA para crear pruebas falsas y afirmar que ha recibido un paquete dañado/peligroso. En primer lugar, tomé una foto con un iPhone 15 de un paquete vacío de Amazon que encontré.

Aquí está la foto que tomé:

A continuación, subí la foto que tomé a Nano Banana y le di la siguiente indicación:

---

“Quiero que edites esta foto no cambies nada excepto donde está la etiqueta añádele daños y añade manchas de lodo negro en la caja que parezcan manchas de grasa reales“

---

Salida Nano Bana:

El lodo aceitoso que Nano Banana generó en la salida tenía un convincente brillo mugriento, con un efecto de empapado, nada caricaturesco. Por suerte, la mayoría de los detectores por los que pasé la imagen la etiquetaron correctamente como falsa. El único caso atípico fue el de Winston, que, una vez más, dio un resultado mediocre, clasificando erróneamente la imagen como auténtica. AI or Not, TruthScan y WasItAI fueron los detectores más precisos a la hora de detectar esta imagen.

Es preocupante lo sencillo que parece subir una imagen a un chatbot y que la altere por completo. Me imagino a estafadores y estafadores utilizando herramientas de generación de imágenes para intentar realizar reclamaciones de devolución fraudulentas o cometer fraudes en el mercado.

Si las plataformas de comercio electrónico sólo requieren una imagen como prueba para iniciar una reclamación por paquete dañado, entonces, sin ninguna forma fiable de detectar la manipulación de IA, están expuestas a un importante vector de ataque. Por ejemplo, el sistema oficial de Amazon política de devolución de artículos afirma literalmente, “Los materiales peligrosos, incluidos los líquidos o gases inflamables, no son retornables..”

Así que si realmente recibes un paquete cubierto de aceite o lodo negro grasiento, no tendrías que devolverlo, pero podrías obtener un reembolso. Si, por alguna razón, eso te ocurriera realmente, Amazon probablemente te pediría una prueba fotográfica. ¿Ves el problema que pueden plantear las imágenes generadas por IA cuando son indistinguibles de las reales?

#4. "Cockroach Meal" (generado con Nano Banana)

La siguiente imagen de IA podría hacerte perder el apetito. Resulta que hay casos documentados de personas que utilizan IA para recibir devoluciones fraudulentas en aplicaciones de reparto de comida. Para esta cuarta prueba, seguí los mismos pasos que en la tercera. Esta vez, tomé una foto de mi caja vacía de comida para llevar después de comer.

Aquí está la imagen real:

Luego puse la foto real que tomé en Nano Banana y le di la siguiente indicación:

---

"Edita esta imagen. No cambies nada excepto añadir fideos donde está el papel de aluminio y añadir un montón de pequeñas cucarachas bebé en la comida. Haz que todo parezca realista y no caricaturesco".

---

La salida Nano Banana:

Una vez más, TruthScan detectó con seguridad los medios generados por la IA. Sight Engine y WasitAI fallaron por completo. AI or Not fue el segundo detector más preciso (con una certeza de IA de 85%) al escanear esta imagen de IA, y Winston obtuvo mejores resultados que en la tercera prueba (con una certeza de IA de 72%).

En esta imagen, los fideos y las cucarachas fueron generados en su totalidad por la IA; sin embargo, dos de los detectores no parecían pensar lo mismo, y sólo uno (TruthScan) estaba por encima de 90% seguro de la manipulación por parte de la IA.

Un punto de preocupación aquí fue lo sencillo que fue crear esta imagen falsa. Desde subir la foto que tomé hasta pedirle a Nano Banana que lo hiciera y recibir el resultado, en total, sólo tardé unos 2 minutos. Una pesadilla para las aplicaciones de reparto de comida; un sueño para los mentirosos hambrientos. Un "factor fraude".

DIVULGACIÓN: Algunas de las imágenes generadas por IA incluidas en las siguientes pruebas pretendían demostrar cómo pueden utilizarse las imágenes de IA para desinformar. Contienen imágenes controvertidas y temas delicados, y NO pretenden representar a ningún partido político en particular. opiniones o ideologías.

#5. "Autovandalismo" (generado con Nano Banana)

He encontrado una imagen real de un coche a la venta en línea. Bastante mundano. Pero, ¿y si alguien quisiera utilizar esta imagen para difundir desinformación o presentar una reclamación falsa al seguro del coche? Por desgracia, la IA generativa lo hace fácil y rápido.

Para esta quinta prueba, tomé una imagen real de un coche y le di a Nano Banana la siguiente instrucción:

---

“No cambies nada del coche, excepto que quiero que le añadas pintura en spray que ponga 'Palestina libre' y que el parabrisas esté rajado. Los faros delanteros están destrozados y el retrovisor está roto y colgando y las dos ventanillas del lateral del coche están aplastado.”

---

Aquí está la imagen real:

Imagen de Nano Banana AI:

Los resultados del detector para esta salida fueron mixtos. En esta prueba, WasItAI (sorprendentemente) obtuvo la puntuación más alta en detección de IA (99%). TruthScan obtuvo la segunda mejor puntuación (97%). Sight Engine falló significativamente a la hora de detectar elementos sintéticos en la imagen, y Winston fue el peor de todos los detectores (asignando una probabilidad de implicación inferior a 1%). AI or Not lo hizo bien, pero la precisión siguió siendo inferior a 90%.

Hablemos de la imagen. Los dos aspectos más preocupantes de este tipo de contenido alterado o creado con IA son que ambos implican engaño. En primer lugar, el uso de IA para alterar imágenes mundanas con el fin de crear contenido con carga política es rápido, fácil y parece real. Tanto si lo que se busca con este tipo de contenido es captar la atención como si se trata de provocadores políticos, el problema es que se trata de información falsa presentada como auténtica.

La segunda forma de abusar de este tipo de herramientas de generación de imágenes es el fraude. Si un estafador quiere presentar una reclamación falsa al seguro del automóvil, tendrá que presentar pruebas falsas. En lugar de pasar horas en Photoshop editando imágenes y manipulando pruebas, pueden utilizar generadores de imágenes para producir rápidamente pruebas falsas.

En el ejemplo de la imagen de IA anterior, observe cómo un estafador podría utilizar un proceso similar para presentar una reclamación falsa de acuerdo con Progressive's Política de cobertura globalque cubre específicamente:

• Acuchillado o neumáticos dañados
• Cristales, faros o pilotos traseros rotos
• Daños por pintura en aerosol
• Abolladuras o arañazos de alguien rayando tu coche
• Echar azúcar u otras sustancias en el depósito de gasolina

Por supuesto, presentar pruebas falsas no sólo es engañoso, sino también ilegal. En un mundo ideal, nadie infringiría la ley; en realidad, se cometen delitos todos los días. Y sin una detección fiable, las compañías de seguros de automóviles corren el riesgo de ser estafadas por millones a medida que aumentan las reclamaciones de seguros fraudulentas basadas en IA.

#6. "Soda Musk y Don" (generado con Nano Banana)

Una vez más, utilicé Nano Banana para esta prueba, y el objetivo era demostrar imágenes falsas, políticamente cargadas con un trasfondo más tonto. TruthScan, Sight Engine y AIorNot marcaron la imagen generada con una puntuación de detección de IA de 99%. WasitAI no se mostró tan seguro, ya que sólo detectó la imagen generada por la IA con una certeza de 86%. Y Winston falló completamente, asignando una puntuación de IA de 0.2%. Para generar la imagen, le di a Nano Banana este mensaje:

---

“Genera una foto de Elon Musk derramando un gran vaso de refresco como un Big Gulp sobre su camisa y flipando mientras Donald Trump está sentado a su lado riéndose. Están en un avión a reacción. Esa es la escena. Y la foto debe parecer realista como si hubiera sido tomada con una cámara instantánea e incluir artefactos como el flash de la cámara reflejándose en la ventanilla del avión y fuera del avión. Es de noche. Debe tener un aspecto hiperrealista.“

---

Cada vez que uno de estos programas de software no detecta IA, lo etiquetan como auténtico. Por muy tonto que sea este ejemplo de imagen de la prueba, no hay nada divertido en pensar que un deepfake es real.

#7. "Still Alive" (generado por Nano Banana)

¿Te parece inquietante esta imagen? Para generar este deepfake, utilicé Nano Banana y le di una foto mía. A continuación, le di un mensaje largo para ponerme en una situación que diera a entender que había sido secuestrado. Tal vez sea porque esta foto muestra me en una posición comprometida. ¿Qué pasaría si alguien hiciera algo así, se lo enviara a mi madre y amenazara con hacerme daño a menos que le enviara dinero? Qué miedo.

(La indicación completa que utilicé para ello se encuentra en el conjunto de datos de prueba completo al final de este artículo).

Por suerte para esta imagen, a pesar de tener un aspecto muy realista, tres de cada cinco detectores lo identificaron como generado por IA.

AI or Not obtuvo una puntuación de 99%, TruthScan de 97% y Sight Engine de 95%. Por desgracia, Winston y WasItAI clasificaron la imagen como real.

Debo aclarar que estas pruebas no se hicieron en mi cuenta personal de Gemini. Nano Banana nunca me pidió que demostrara que yo era la persona de la imagen. Cualquiera podría haber descargado una foto mía de Internet, meterla en Nano Banana y hacer que creara este tipo de imagen.

#8. "Abuso de un Ben" (generado con Nano Banana)

Conoce a Ben. Pasa la mayor parte de su tiempo dirigiendo varios departamentos en las empresas en las que trabaja. La imagen de arriba es el (verdadero) elegante retrato corporativo de Ben. Por si no se nota, Ben es un tipo profesional. Se guarda para sí las opiniones políticas que tiene, y sus conversaciones de trabajo son sólo sobre trabajo. Pero en un momento dado, la imagen de Ben podría utilizarse para difundir propaganda o mensajes políticos sin su consentimiento.

Recientemente se ha informado mucho sobre cómo se han difundido en Internet vídeos generados por IA en los que aparecen agentes del Servicio de Inmigración y Control de Aduanas (ICE) y protestas. Basándome en todas las pruebas realizadas hasta el momento, llegué a la conclusión de que crear propaganda política falsa con IA era realmente fácil. Decidí hacer otra prueba, esta vez con Ben.

Con el permiso de Ben, utilicé su retrato para crear un deepfake. Aquí está la imagen generada por IA que creó Nano Banana:

Me llevó treinta segundos. Todo lo que tuve que hacer fue arrastrar y soltar su foto de la cabeza en Gemini y le pedí que "levantara un cartel que dijera abolir ICE". El resultado de Nano Banana no es tan fotorrealista como los demás, pero sigue pareciendo lo bastante auténtico como para resultar persuasivo.

Afortunadamente, cuatro de los detectores identificaron la imagen con precisión: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI), y AI or Not (97% AI). Winston AI falló, asignando sólo una puntuación de 5% AI.

#9. "Club Void" (generado por Midjourney)

Generé la imagen de arriba con Midjourney. Cuanto más la miraba, más inquietante me parecía. La estética es oscura e inquietante. Una presencia sombría parece surgir de detrás del sujeto. Para crear esta imagen, utilicé la función de referencia estética de Midjourney y simplemente le pedí que fuera una "chica de pie en un club sonriendo". Mostré la imagen a varias personas y todas pensaron que era real.

La mayoría de los detectores marcaron la imagen como generada por IA. TruthScan y Sight Engine la marcaron con una puntuación de IA de 99%, AI or Not dijo 89%.

WasItAI no estaba tan seguro como los detectores, clasificando la imagen con sólo una puntuación AI de 70%.

El detector de Winston AI falló completamente, dando a la imagen una puntuación AI de 1,56%.

#10 "Hielera" (generado por Midjourney)

Creé esta imagen utilizando el mismo método de medio viaje de la prueba anterior. Esta vez, el objetivo era generar algo un poco más oscuro. TruthScan fue el detector más preciso, etiquetando la imagen como 99% AI. Sight Engine y AI or Not detectaron correctamente la imagen. Winston AI falló por completo, y WasItAI tuvo una puntuación de confianza mucho más baja que TruthScan, Sight Engine y AI or Not.

Debo decir que, en este caso, la imagen que he generado podría utilizarse o enmarcarse de dos maneras. Por un lado, alguien podría utilizar este tipo de medio (o cualquier otro de temática política o de disturbios civiles) en algún tipo de proyecto artístico o creativo para hacer una declaración. En tal caso, el riesgo parece menor. Lo que más me preocupa de esta categoría de medios generados por IA es que los utilicen individuos malintencionados que afirmen que son reales.

Recapitulación y resultados: Los mejores detectores de imágenes AI

Bien, ahora que hemos visualizado todas las pruebas, voy a recapitular: He generado 10 imágenes AI

• Utilicé ChatGPT, Nano Banana y Midjourney para generar 10 imágenes de IA
• He probado cinco detectores de imágenes de IA haciendo pasar por ellos todas las imágenes de IA que he generado.
• TruthScan superó todas las pruebas y fue el detector más preciso. AI or Not superó 8 de las 10 pruebas, mostrando cierta fiabilidad. Sight Engine falló 3 de las 10 pruebas y demostró una precisión cuestionable. Was It AI no superó 4 de las 10 pruebas y su precisión fue deficiente en general. Winston AI fue el detector de imágenes menos preciso, sólo superó 3 de 10 pruebas, clasificando erróneamente las imágenes.

Observaciones finales y datos

En total, entre la redacción de este artículo y las rigurosas pruebas, he dedicado 25 horas a elaborar este informe. Las herramientas de detección multimodal de IA siguen desarrollándose, pero está claro que algunas son más precisas que otras. Tras probar todas las herramientas, TruthScan es la más precisa. Detector de imágenes AI. Las pruebas hablan por sí solas.

Si quieres acceder a una copia en CSV de los datos de las pruebas que hice en este artículo, puedes encontrarla aquí. La hoja de cálculo de datos que he enlazado contiene todas las indicaciones originales y los resultados de detección de las pruebas de este artículo.