Cada vez resulta más difícil distinguir a simple vista las imágenes generadas por IA de las fotografías. Mientras que los primeros generadores de imágenes solían producir errores evidentes, los modelos más recientes son capaces de crear imágenes muy realistas con pocas imperfecciones visibles.
Afortunadamente, todavía hay formas de detectar posibles indicios de contenido sintético. En esta guía, explicamos qué son los artefactos de imagen generados por IA, los diferentes tipos que hay que tener en cuenta y cómo detectarlos.
Vamos a sumergirnos.
Principales conclusiones
- Los artefactos de imagen generados por IA son irregularidades visuales, estadísticas y técnicas que pueden revelar si una imagen ha sido generada o modificada por IA.
- Entre los artefactos visuales más comunes se encuentran la anatomía distorsionada, el texto ilegible, los objetos deformados, las texturas poco naturales, la iluminación inconsistente y los reflejos incorrectos.
- Las señales de IA menos visibles pueden aparecer en patrones de píxeles, datos de frecuencia, metadatos e información de procedencia, lo que hace que su detección manual resulte cada vez más difícil.
- Los detectores de imágenes generadas por IA analizan múltiples señales a la vez para identificar patrones que puedan indicar una generación por IA, incluidos los artefactos que el ojo humano podría pasar por alto.
- La herramienta de detección de imágenes generadas por IA de Undetectable AI, que utiliza la tecnología de TruthScan, analiza las imágenes en busca de señales relacionadas con la IA y ofrece una puntuación de detección que ayuda a evaluar si una imagen ha sido generada por IA.
¿Qué son los artefactos de imagen generados por IA?
Generación de imágenes Los modelos generan imágenes estimando patrones visuales estadísticamente probables a partir de las relaciones aprendidas de sus datos de entrenamiento.
Dado que este proceso difiere de la forma en que una cámara captura una escena física, puede generar inconsistencias visuales y características estadísticas que difieren de las que se observan en las fotografías. Estas irregularidades se denominan «artefactos de imagen de IA».
Tipos de artefactos de IA
Los artefactos de la IA pueden aparecer en la propia imagen o en los datos subyacentes y las propiedades estadísticas del archivo. A medida que mejoran las herramientas de IA generativa, la prevalencia de irregularidades visuales puede disminuir, pero persisten los patrones estadísticos anómalos u otras características.
No vuelvas a preocuparte de que la IA detecte tus textos. Undetectable AI puede ayudarle:
- Haz que aparezca tu escritura asistida por IA de aspecto humano.
- Bypass las principales herramientas de detección de IA con un solo clic.
- Utilice AI de forma segura y con confianza en la escuela y el trabajo.
Incoherencias visuales
Como ya se ha mencionado, los modelos de generación de imágenes funcionan prediciendo patrones visuales estadísticamente probables basándose en las relaciones aprendidas a partir de sus datos de entrenamiento.
Dado que estiman cómo debería ser una imagen en lugar de capturar directamente escenas reales mediante una cámara física, a veces pueden generar detalles visuales que no se ajustan a los objetos, la anatomía, la iluminación y las leyes de la física del mundo real.
Entre los ejemplos de estas irregularidades visuales se incluyen:
- Artefactos anatómicos: Dedos de más o que faltan, manos deformadas, rasgos faciales inusuales, ojos asimétricos o proporciones corporales poco naturales.
- Elementos relacionados con el texto y la tipografía: Caracteres ilegibles, palabras mal escritas, letras irregulares o texto distorsionado en carteles, etiquetas y otros objetos.
- Artefactos relacionados con objetos y geometría: Objetos deformados, piezas duplicadas o que faltan, objetos fusionados, formas incoherentes o estructuras físicamente inverosímiles.
- Artefactos de textura: Patrones anómalos o incoherentes en la piel, el cabello, el pelaje, los tejidos, las superficies u otros materiales.
- Artefactos de luz y sombra: Sombras, reflejos o iluminaciones que parecen incompatibles con las fuentes de luz visibles o con los objetos circundantes.
- Artefactos de fondo: Edificios, paisajes, personas u otros elementos del fondo distorsionados que no conservan formas ni detalles coherentes.
- Artefactos de reflexión: Reflejos en espejos, cristales, agua u otras superficies reflectantes que no se corresponden con exactitud con los objetos o la escena que reflejan.
Patrones estadísticos a nivel de píxel
Dado que los generadores de imágenes utilizan procesos matemáticos para producir resultados, las imágenes generadas por IA pueden presentar relaciones estadísticas entre píxeles adyacentes que difieren de las que se observan en las fotografías captadas por sensores físicos de cámara. Estas inconsistencias se manifiestan en la distribución de los píxeles, el ruido local y las correlaciones entre píxeles cercanos.
Patrones en el dominio de la frecuencia
Los procesos matemáticos que utilizan los generadores de imágenes pueden producir patrones en la distribución de las frecuencias espaciales que difieren de los que se observan en las fotografías naturales. Estas irregularidades pueden manifestarse en los detalles más sutiles, en las texturas y en los cambios generales de color y estructura.
Anomalías en los metadatos
Los archivos de imagen suelen contener metadatos que recogen información sobre el dispositivo, el software, el proceso de creación o el historial de edición. Sin embargo, los generadores de imágenes pueden añadir, modificar o eliminar esta información durante la generación, la edición o la exportación.
Información sobre la procedencia
Algunas herramientas de generación y edición de imágenes pueden adjuntar a una imagen información sobre su procedencia verificable criptográficamente. Estándares como las credenciales de contenido C2PA permiten registrar información sobre el origen de un recurso y sus modificaciones posteriores.
¿Se pueden detectar manualmente los artefactos generados por IA?
La detección manual es posible, pero se vuelve más difícil a medida que evolucionan los generadores de imágenes. Aunque muchas herramientas siguen dejando artefactos visuales evidentes, los modelos más recientes pueden crear imágenes de aspecto realista sin indicios evidentes. Esto significa que las comprobaciones visuales pueden resultar poco fiables si se realizan de forma aislada.
Las señales adicionales, como los patrones a nivel de píxel y en el dominio de la frecuencia, son más difíciles de detectar sin conocimientos técnicos especializados. A diferencia de los artefactos visuales evidentes, estos patrones suelen requerir una comparación estadística con imágenes reales conocidas e imágenes generadas por IA para determinar si aportan pruebas significativas de que se trata de una generación por IA.
Es posible realizar una investigación manual de los metadatos y la información de procedencia, aunque de forma limitada. Se pueden examinar los metadatos disponibles para obtener detalles sobre el dispositivo, el software, las marcas de tiempo y el historial de edición, mientras que las herramientas de procedencia compatibles pueden verificar información como el origen de una imagen y su historial de modificaciones.
Sin embargo, estas señales pueden faltar, eliminarse o alterarse durante el procesamiento habitual de las imágenes, por lo que no deben considerarse una prueba por sí solas de que se trate de una generación por IA.
Para obtener un análisis más fiable, combina la investigación manual con la detección de imágenes mediante IA. Los detectores de imágenes pueden comprobar si una imagen es real o generado por IA mediante el análisis simultáneo de múltiples señales, entre las que se incluyen características visuales, estadísticas a nivel de píxel, patrones en el dominio de la frecuencia y metadatos o información de procedencia disponibles.
¿Cómo funciona la detección de imágenes mediante IA?
Los detectores de imágenes basados en IA utilizan una combinación de modelos de visión artificial, análisis estadístico y técnicas de procesamiento de señales para analizar imágenes en busca de artefactos y otros patrones que difieran de las imágenes captadas por una cámara.
Evalúan todas las capas de los artefactos, incluidas las inconsistencias visuales, los patrones de píxeles, los patrones en el dominio de la frecuencia, los metadatos y la información sobre la procedencia, combinando múltiples señales para calcular la probabilidad de que una imagen tenga su origen en la IA o haya sido alterada por ella.
Cómo detectar artefactos en imágenes generadas por IA con un detector de IA
Con el detector de imágenes basado en IA adecuado, detectar artefactos de IA es muy sencillo. Algunas herramientas ofrecen un razonamiento detallado en el que se enumeran las señales que han influido en la puntuación o el veredicto. A modo de ejemplo, realizaremos un análisis de imágenes utilizando TruthScan, el detector de imágenes que hace posible la IA indetectable.
Subir la imagen
El primer paso consiste en subir una imagen al software de detección. Elegimos una selfie generada por ChatGPT que no presentara indicios visuales evidentes.
Sin embargo, cuando la pasamos por el detector, los resultados indicaron que la imagen tenía una probabilidad de 97% de haber sido generada por IA.
Lee el análisis detallado
Algunos detectores de IA ofrecen explicaciones detalladas sobre las puntuaciones que otorgan. TruthScan cuenta con una sección de «Análisis detallado de IA», que incluye un mapa de calor, un razonamiento detallado y una lista de los indicadores clave que han influido en el veredicto.
En la sección de indicadores clave es donde se encuentran los artefactos de IA.
Como se ha mostrado anteriormente, el indicio principal fue la presencia de una marca de agua «SYNTHID», lo que indica que la imagen procedía de OpenAI GPT-Image-2. El resto de los indicadores eran artefactos visuales difíciles de detectar a simple vista, como una simetría excesivamente perfecta, una iluminación poco natural y texturas poco naturales.
Preguntas frecuentes
¿Cuáles son algunos ejemplos de artefactos de IA?
Los artefactos de la IA incluyen inconsistencias visuales como anatomías distorsionadas, texto ilegible, objetos deformados, texturas poco naturales, iluminación inconsistente y reflejos incorrectos. Las imágenes generadas por IA también pueden contener características estadísticas o técnicas menos visibles en sus patrones de píxeles, características de frecuencia, metadatos o información de procedencia.
¿Qué provoca los artefactos de IA?
Los artefactos de la IA pueden producirse porque los modelos de IA generativa estiman patrones visuales a partir de las relaciones aprendidas durante el entrenamiento, un proceso que, en ocasiones, puede generar inconsistencias en la anatomía, la geometría, las texturas, la iluminación y otros detalles visuales. También pueden generar características estadísticas que difieren de las que se observan en las imágenes captadas por una cámara.
¿Cómo puedo detectar los artefactos de la IA?
Empieza por examinar la imagen en busca de incoherencias en la anatomía, el texto, los objetos, las texturas, la iluminación, los reflejos y la perspectiva. También puedes revisar los metadatos disponibles y la información sobre la procedencia. Si no se aprecia nada de esto, puedes someter la imagen a un detector de IA que ofrezca un análisis detallado.
¿Se pueden eliminar los artefactos de IA de una imagen?
Sí, las herramientas de edición de imágenes y las basadas en inteligencia artificial pueden corregir algunos artefactos visibles, como manos distorsionadas, texto o detalles de objetos. Sin embargo, la eliminación de artefactos visibles no elimina necesariamente las características estadísticas o técnicas asociadas a la generación mediante IA. La edición también puede introducir nuevos artefactos o alterar los metadatos y la información sobre la procedencia de la imagen.
Reflexiones finales
Aunque los avances en la tecnología de la inteligencia artificial han contribuido a que las imágenes sintéticas parezcan más realistas, el proceso de generación crea irregularidades que diferencian los resultados de las imágenes captadas por una cámara. El software de detección basado en inteligencia artificial puede analizar las imágenes en profundidad para descubrir las irregularidades que el ojo humano no puede percibir.
Si necesitas una herramienta básica de detección de IA, echa un vistazo a la versión gratuita de Undetectable AI herramienta de detección de imágenes. Gracias a la tecnología de TruthScan, puede analizar una imagen en busca de indicios relacionados con la generación mediante IA y proporcionar una puntuación de detección que te ayude a evaluar la probabilidad de que se trate de contenido generado por IA.