¿Has visto ese viral Foto del Papa con una elegante chaqueta blanca en 2023?
Millones de personas la compartieron, los sitios de noticias informaron sobre ella y todo el mundo habló de lo elegante que estaba el Papa.
Sólo había un problema: nunca ocurrió. La imagen fue creada completamente por la inteligencia artificial.
O puede que recuerde la impactante imagen de un explosión en el Pentágono que sacudió brevemente el mercado de valores. ¡Falsa!
¿Y las fotos de Trump abordado y detenido? De nuevo, también fueron completamente inventados por la IA.
Las imágenes falsas de IA han causado daños reales.
La gente ha perdido dinero invirtiendo basándose en fotos de noticias falsas.
Famosos y gente corriente han puesto sus caras en otros cuerpos en situaciones embarazosas o inapropiadas.
Se ha mostrado a políticos diciendo y haciendo cosas que en realidad nunca hicieron.
Cuando no podemos fiarnos de nuestros propios ojos, necesitamos nuevas formas de averiguar qué es real y qué no.
En este blog, te mostraré cómo ha evolucionado la tecnología de IA y DeepFake a lo largo de los años, la importancia de identificar IA frente a imágenes reales, cómo saber si una imagen está generada por IA o la mejor herramienta para detectar imágenes generadas por IA.
Cómo han evolucionado el arte de la IA y la tecnología Deepfake
Hablemos de AI primero...
No hace mucho, las imágenes generadas por IA parecían un mal sueño: caras borrosas, dedos de más y un montón de rarezas. Pero hoy, el arte de la IA es sorprendentemente realista.
Todo empezó en 2014 con GANs (Generative Adversarial Networks), en el que dos modelos de IA -uno que creaba falsificaciones y otro que las detectaba- se mejoraban mutuamente.
No vuelvas a preocuparte de que la IA detecte tus textos. Undetectable AI puede ayudarle:
- Haz que aparezca tu escritura asistida por IA de aspecto humano.
- Bypass las principales herramientas de detección de IA con un solo clic.
- Utilice AI de forma segura y con confianza en la escuela y el trabajo.
Las primeras imágenes de GAN eran bastante malas: caras borrosas con ojos raros y orejas perdidas.
En 2020, las cosas mejoraron mucho con "modelos de difusión".
Empiezan con un dibujo desordenado lleno de puntos y poco a poco lo van limpiando hasta que parece real.
Esto supuso un enorme salto adelante. De repente, la IA podía crear imágenes mucho más claras y realistas.
Tecnología Deepfake funciona de la misma manera, pero más complicada.
Implica el uso de tecnología de IA y Deepfake.
La IA aprende cómo es la cara de una persona desde muchos ángulos y expresiones estudiando montones de vídeos y fotos suyas.
Luego puede poner la cara de esa persona en el cuerpo de otra en un vídeo diferente.
El ordenador aprende a adaptar la iluminación, el tono de la piel e incluso las pequeñas expresiones para que parezca real.
Los primeros deepfakes de 2017 parecían obvios y fallidos. Los deepfakes actuales pueden ser casi perfectos.
Para ver la comparación, vea los vídeos siguientes:
Deepfake en 2017 - Vídeo falso de Obama
Deepfake en 2023 - Emma Watson en "Get Out (2017)"
En 2022, se crearon unos 6 millones de imágenes con IA. A principios de 2023, la cifra aumentó a más de 20 millones de imágenes diarias.
Hoy en día, existen miles de millones de imágenes creadas con IA en Internet, y la mayoría de nosotros las vemos a diario sin siquiera saberlo.
Riesgos de las imágenes generadas por IA en la desinformación
Las noticias falsas se difunden 6 veces más rápido que las verdaderas en las redes sociales.
El daño suele estar hecho en el momento en que alguien señala que una imagen es falsa.
Los riesgos asociados a las imágenes falsas son:
1) Manipulación - Las imágenes falsas crean narrativas falsas sobre los demás, incluidas las elecciones, los líderes y los acontecimientos mundiales. Por ejemplo, Imágenes generadas por IA representaban falsamente la detención del presidente de Estados Unidos, Donald Trump.
2) Difamación - Las imágenes falsas pueden arruinar la reputación. Por ejemplo, en enero de 2024, circularon por Internet imágenes de Taylor Swift generadas por IA que la retrataban falsamente.
3) Disturbios sociales - Una sola imagen falsa puede crear indignación, disturbios o incluso violencia. Por ejemplo, En mayo de 2023, una imagen generada por IA que mostraba una explosión cerca del Pentágono circuló ampliamente por las redes sociales.
4) Fraude - Los estafadores utilizan imágenes deepfake para engañar a la gente y que envíe dinero. Por ejemplo; Michael Hewson (analista financiero) se hizo pasar por él para promover planes de inversión fraudulentos.
Ahora hay otro problema llamado "dividendo del mentiroso".
A medida que las falsificaciones de IA se vuelven comunes, las personas atrapadas en escándalos reales simplemente descartan las pruebas como "deepfake" - incluso cuando es auténtica. Los políticos ya han empezado a utilizar esta táctica.
La importancia de identificar la IA frente a las imágenes reales
La necesidad de entender la imagen real frente a la falsa es más necesaria que nunca por un par de razones:
1 - Erosión de la confianza pública
Nuestra sociedad se basa en la confianza. Nuestro cerebro acepta lo que ve en las noticias, en los tribunales o de nuestros líderes.
Pero ahora, con la IA creando imágenes falsas tan convincentes, esa confianza se está resquebrajando.
Si todos seguimos siendo así de desconfiados, cambiará por completo nuestra forma de relacionarnos con el mundo.
2 - Implicaciones jurídicas y normativa emergente
Los gobiernos intentan averiguar qué hacer con las imágenes falsas de IA.
Por ejemplo,
- California acaba de aprobar una ley que ilegaliza la creación de anuncios políticos falsos mediante IA en época electoral.
- En La Ley de Inteligencia de la UE impone obligaciones sobre el etiquetado de los requisitos de los materiales de IA y deepfake.
3 - Impacto en las competencias digitales
A medida que la IA mejora en la creación de imágenes falsas, todos debemos mejorar en su detección.
Las escuelas tienen que enseñar a los estudiantes sobre la IA y la tecnología en constante evolución de Deepfake.
Tenemos que desarrollar una comprensión completa para no creer simplemente cualquier cosa que veamos en Internet.
4 - Mantener las cadenas de autenticidad
Una solución puede ser "Cadenas de autenticidad."
Esto significa rastrear de dónde viene una imagen, desde el momento en que se crea hasta el momento en que la vemos.
Una tecnología especial puede añadir marcas invisibles a las fotos reales que indican quién las hizo y cuándo.
Si lo utilizamos, podremos verificar el historial de una imagen y su autenticidad.
Cómo saber si una imagen está generada por IA (señales clave)
Las imágenes generadas por la IA tienen un aspecto tan real que a un novato le costará encontrar la diferencia.
Si eres alguien que intenta aprender a identificar si una imagen está generada por IA, busca estos detalles clave:
- 1. Detalles antinaturales o surrealistas
La IA no puede descifrar ciertas partes del cuerpo, especialmente las manos.
Tenemos 5 dedos en cada mano, pero la IA suele dar a la gente de 6 a 8 dedos, dedos fusionados o pulgares de aspecto extraño. Mira las manos.
Fuente = Tiempos de vuelo
La IA también la lía dientes mucho.
Busque dientes que parezcan demasiado perfectos, demasiados dientes en una boca o dientes que no estén bien alineados.
A veces, todos los dientes se funden en una mancha blanca.
Imagen generada por ChatGPT
Otros errores corporales son:
- Ojos que no coinciden o miran en direcciones ligeramente diferentes
- Orejas que no coinciden o están a diferente altura
- Gafas que se deforman de forma extraña o flotan fuera de la cara
- Joyas que se funden con la piel o no siguen el movimiento del cuerpo.
- 2. Texturas demasiado lisas o similares al plástico
Piel auténtica tiene textura (poros, líneas, pequeñas imperfecciones). Sin embargo, la IA a menudo hace que la piel parezca una muñeca de plástico: ¡demasiado perfecta!
El pelo es otra pista. El pelo de verdad tiene mechones individuales que van en distintas direcciones.
El pelo de la IA suele parecer una sola pieza, sobre todo en la zona de la frente.
La línea del cabello puede parecer pintada en lugar de mostrar cabellos individuales.
Fuente = Mikestuzzi
Ropa en las imágenes de IA son muy suaves o tienen arrugas raras que no tienen sentido físico.
Fíjate en cómo se doblan los tejidos: ¿se doblan como lo harían los materiales reales?
A menudo la IA hace que la tela parezca derretida o congelada de formas imposibles.
¿Por qué ocurre esto? La IA no entiende de física ni de materiales: se limita a copiar patrones que ha visto antes.
Por ejemplo,
Podría saber cómo es la tela vaquerapero no cómo se comporta la tela vaquera cuando alguien se sienta sobre ella. Busca estas pistas.
- 3. Texto borroso o ininteligible en la imagen
El texto es la mayor debilidad de la IA.
Cuando ves palabras o letras en una imagen de IA, a menudo están borrosas, no tienen sentido o simplemente son incorrectas.
Imagen generada por ChatGPT
Busca:
- Palabras que empiezan normalmente pero se convierten en un galimatías
- Letras que se mezclan o cambian de forma
- Combinaciones imposibles de símbolos
- Texto sin sentido en carteles o camisetas
Esto ocurre porque la IA no entiende el lenguaje del mismo modo que entiende las imágenes. Los textos parecen ser otro patrón visual.
- 4. Iluminación y sombras incoherentes
Las imágenes generadas por IA no siguen ni entienden las reglas de la luz y la sombra.
Por ejemplo, a veces parece que hay varios soles en el cielo.
O habría sombras en los objetos (piel, metal, cristal) que no tienen sentido.
La IA no entiende la física de la luz. Solo intenta igualar patrones que ha visto antes, no calcular cómo rebota y se refleja la luz.
Fuente = Creador.nightcafe.club
Estos problemas de luz están mejorando, pero siguen siendo comunes incluso en las imágenes AI de alta calidad.
- 5. Fondos extraños o percepción de profundidad poco realista
El fondo de las imágenes de IA suele dar pistas de que algo no va bien. Busca:
- Edificios de arquitectura imposible (ventanas que no se alinean, puertas que no llevan a ninguna parte)
- Objetos que parecen confundirse entre sí o con el fondo
- Cosas que deberían estar lejos pero parecen del mismo tamaño que las cosas de cerca
Fuente = Papel pintadoaccess.com
A veces, el borde en el que una persona se encuentra con el fondo tiene un aspecto extraño, ya sea demasiado nítido o demasiado borroso. Esto ocurre porque la IA crea la persona y el fondo por separado y luego intenta pegarlos.
- 6. Compruebe los metadatos y la información de origen
Cada foto tomada por una cámara real tiene "Metadatos" - información sobre cuándo y cómo se tomó la fotografía.
Las imágenes de AI no tienen metadatos o metadatos que muestren que fueron hechas por programas como DALL-E o Midjourney.
Puede comprobar los metadatos utilizando:
- Haga clic con el botón derecho en una imagen y consulte "Propiedades" o "Información".
- A través de sitios web como metadatos2go.com
- En el teléfono, utiliza aplicaciones como Photo Investigator
Si no está seguro, pruebe con una búsqueda inversa de imágenes.
- Ir a Google Imágenes
- Sube la foto para ver si aparece en algún otro sitio en línea o en diferentes versiones.
Recuerda que el hecho de que alguien afirme haber hecho una foto no significa que sea cierta.
¿Quién ha publicado esto y por qué? ¿Quieren enfadarme o asustarme?
Suelen ser indicios de imágenes falsas.
La mejor herramienta para detectar imágenes generadas por IA
Sorprendentemente, disponemos de otras herramientas entrenadas en IA que ayudan en la detección de IA. En este caso, la herramienta es Detector de imágenes AI.
Veamos en qué consiste un buen detector de IA.
1 - Precisión: Algunas herramientas detectoras aciertan casi siempre, mientras que otras cometen errores.
El mejor detector actual acierta aproximadamente el 80-85% de las veces, lo cual no es perfecto pero es mucho mejor que adivinar.
2 - Qué generadores de IA puede detectar: Algunas herramientas son excelentes para detectar una fuente (por ejemplo, las imágenes de DALL-E), pero no detectan otras (por ejemplo, las falsificaciones de Midjourney).
Esta herramienta está entrenado en las principales herramientas artísticas de IA: DALL-E, Midjourney, Stable Diffusion, etc.
3 - Facilidad de uso: No hace falta ser informático para comprobar si una imagen es falsa.
Sólo tienes que subir la foto y obtendrás el resultado en unos segundos.
4 - Privacidad: Algunos detectores guardan todas las imágenes que subes, lo que podría ser un problema si estás comprobando fotos sensibles. Esta herramienta elimina las imágenes después de comprobarlas.
A continuación se explica cómo utilizar nuestro Detector de imágenes AI:
- Haga clic en este enlace para visitar el sitio web.
- Seleccione la imagen deseada desde su ordenador o teléfono. La herramienta acepta formatos JPEG y PNG de hasta 4,5 MB de tamaño.
- Pulse el botón y espere unos segundos.
- Una puntuación global del 1 al 100 muestra la probabilidad de que la imagen esté generada por IA
Para obtener mejores resultados, utilice imágenes que no hayan sido comprimidas ni redimensionadas.
Las capturas de pantalla y las imágenes de las redes sociales suelen estar comprimidas, lo que puede dificultar su detección.
A veces, los detectores se equivocan de dos maneras principales:
- Falsos positivos ocurren cuando el detector dice que una imagen está generada por IA, pero es real. Esto puede ocurrir con fotos muy editadas, ilustraciones o imágenes con una iluminación inusual.
Falsos negativos ocurre cuando el detector dice que una imagen es real, pero en realidad es generada por la IA.
Esto suele ocurrir con imágenes de IA muy editadas o creadas por nuevos modelos de IA que el detector aún no conoce.
Si buscas una forma sencilla de analizar los contenidos generados por IA, echa un vistazo a nuestro Detector de IA y Humanizador en el widget de abajo.
Preguntas frecuentes sobre la detección de imágenes generadas por IA
¿Cómo saber si una imagen o un vídeo están generados por IA?
Las imágenes generadas por IA suelen tener problemas con el texto, los objetos simétricos y la representación de fondos coherentes.
En los vídeos, las personas pueden moverse de forma poco natural, sus voces pueden no coincidir con sus labios o partes del vídeo pueden parpadear de un fotograma a otro.
¿Existen marcas de agua en las imágenes generadas por IA?
Sí, algunas herramientas de IA como Midjourney y DALL-E de OpenAI ocultan marcas de agua secretas en sus imágenes.
¿Pueden ser completamente indetectables las imágenes generadas por IA?
La respuesta es "No" a partir de 2025. Los modelos avanzados de IA están creando imágenes muy convincentes, pero los artefactos técnicos siguen al mismo nivel.
Actualmente, la tecnología puede eliminar aproximadamente 85% de las cosas que se notan, pero aún no puede hacer algo completamente invisible.
¿Por qué algunas imágenes de IA parecen hiperrealistas?
Los modelos de IA más recientes hacen fotos superrealistas utilizando tecnología inteligente.
Se han entrenado con miles de millones de imágenes de alta calidad y siguen mejorando con actualizaciones especiales.
Estos modelos son especialmente buenos para captar estilos fotográficos, iluminación realista y texturas detalladas.
¿Cuál es el mejor detector de IA para imágenes?
En Detector de imágenes AI de Undetectable AI detecta imágenes generadas por IA con una precisión de hasta 85%.
Utiliza un proceso inteligente de varios pasos para comprobar los pequeños detalles de las imágenes.
Busca patrones en los píxeles, datos ocultos y pequeños errores que otras herramientas podrían pasar desapercibidos.
Reflexiones finales: Cómo detectar imágenes generadas por IA
Y antes de terminar este blog, tengo una pregunta para usted.
¿Por qué nuestro cerebro se deja engañar tan fácilmente por las imágenes de la IA?
La respuesta está en la psicología humana.
Nuestro cerebro sigue "efecto de superioridad de imagen".
Según esto, las imágenes se quedan grabadas en nuestra mente mejor que las palabras.
Cuando algo parece real y encaja con lo que ya creemos, no lo cuestionamos. Además, a menudo estamos demasiado ocupados para volver a comprobar si una imagen es real o falsa.
En este caso, puedes buscar las pistas que hemos comentado antes. Unas manos raras, un texto extraño y una piel perfecta pueden ayudarte a detectar falsificaciones de IA.
Lo más importante que debes recordar es que tus ojos pueden ser engañados. Que una foto parezca real no significa que lo sea.
Cuando veas algo sorprendente o impactante en Internet, tómate un minuto para pensarlo antes de compartirlo o emitir un juicio.
Como la IA es cada día mayor, todos tenemos que mejorar a la hora de detectarlas. La próxima vez que veas una foto impresionante, ¿serás el súper detective de imágenes y buscarás las pistas?