¿Qué es un Deepfake? Definición y ejemplos reales

El término deepfake apareció por primera vez en Reddit en 2017cuando un usuario con el mismo nombre de usuario empezó a compartir vídeos alterados que utilizaban IA para intercambiar caras, inicialmente en contenido para adultos. 

Aunque Reddit prohibió el subreddit original, la idea ya había despegado. 

Pero las raíces de esta tecnología se remontan aún más atrás.

En 1997, los investigadores ya habían empezado a experimentar con la edición de vídeo mediante aprendizaje automático. 

Su primera herramienta de sincronización labial, llamada Reescritura de vídeos podría hacer que alguien pareciera decir algo que no había dicho.

Técnicamente no era un deepfake según los estándares actuales, pero sentó las bases de lo que vendría después.

El blog de hoy trata de cómo funciona esta tecnología en evolución, dónde aparece en la vida cotidiana y qué riesgos y beneficios conlleva. 

Empecemos por entender qué es en realidad un deepfake.

---

Principales conclusiones:

• Los deepfakes son medios generados por inteligencia artificial que hacen que las personas parezcan decir o hacer cosas que en realidad nunca hicieron.

• Con herramientas gratuitas y conocimientos básicos, casi cualquiera puede crear vídeos, imágenes o clips de audio deepfake convincentes.

• Aunque los deepfakes pueden ser creativos o divertidos, también plantean graves riesgos como las estafas, la difamación y la desinformación.

• Puedes detectar la mayoría de los deepfakes utilizando herramientas de detección o prestando atención a las incoherencias visuales y de comportamiento.

---

¿Qué es un Deepfake?

Un deepfake es un medio de comunicación falso, normalmente un vídeo, un clip de audio o una imagen, que se ha alterado utilizando inteligencia artificial para hacer que alguien parezca o suene como si estuviera haciendo o diciendo algo que en realidad nunca hizo. 

No lo confundas con un mal trabajo de Photoshop o una voz en off poco convincente.

Hablamos de manipulación de alto nivel mediante una tecnología llamada aprendizaje profundo, que es un subconjunto de la IA.

Eso es lo que implica el término "deepfake": aprendizaje profundo y contenido falso.

El objetivo de un deepfake suele ser crear algo que parezca lo suficientemente real como para engañar a la gente.

Tal vez hayas visto esos vídeos virales de famosos haciendo cosas extrañas o de políticos haciendo declaraciones escandalosas que en realidad nunca dirían. 

Son casos clásicos de deepfake. Lo que ves no es real, pero la tecnología que hay detrás es lo suficientemente buena como para que tu cerebro no se dé cuenta inmediatamente de la falsedad, a menos que estés muy atento.

De hecho, según el equipo de investigación de Undetectable AI, 85 % de los estadounidenses dicen que los deepfakes han erosionado su confianza en la información en línea.

Acabas de aprender lo que es un vídeo o medio deepfake, ahora vamos a ver cómo se hacen.

Cómo se hacen los deepfakes

La tecnología detrás de la mayoría de los deepfakes es una categoría de algoritmos de aprendizaje automático llamados redes generativas adversariales, o GAN. 

Los GAN se componen de dos partes: un generador y un discriminador. 

El generador crea medios falsos basándose en lo que ha sido entrenado para replicar, y el trabajo del discriminador consiste en señalar lo que parece falso. 

Siguen yendo y viniendo hasta que el generador mejora en la creación de contenidos falsos que puedan pasar la prueba del discriminador. 

Con el tiempo, estas idas y venidas dan lugar a medios que parecen sorprendentemente realistas.

¿Qué es un proceso de generación de vídeo deepfake?

Al construir un vídeo deepfake, el sistema analiza vídeos desde múltiples ángulos, estudia cómo habla la persona, cómo se mueve su cara, cómo se desplaza su cuerpo. 

Toda esa información se introduce en el generador para que pueda crear contenidos que imiten esos comportamientos. 

A continuación, el discriminador ayuda a afinarlo señalando lo que falla hasta que el resultado final es perfecto.

Por eso la ilusión se mantiene tan bien en movimiento.

Se utilizan varias técnicas en función de la finalidad del vídeo deepfake. 

Si la idea es hacer que alguien parezca decir o hacer algo en un vídeo que en realidad nunca dijo o hizo, entonces estamos ante lo que se denomina un deepfake de vídeo fuente. 

Un autocodificador de deepfake, compuesto por un codificador y un descodificador, estudia la secuencia original y le aplica las expresiones, los gestos y los sutiles movimientos de cabeza del objetivo. 

Deepfakes de audio

Un deepfake de audio funciona clonando la voz de alguien, de nuevo mediante GAN, basándose en grabaciones de cómo habla de forma natural. 

Una vez entrenado, el modelo puede generar un nuevo discurso con esa voz, aunque la persona nunca haya pronunciado esas palabras. 

Otra capa que se suele añadir es la sincronización labial. 

En este caso, el sistema mapea audio generado o pregrabado en un vídeo.

El objetivo es hacer que los labios del vídeo coincidan con las palabras del audio. 

Ejemplos reales de deepfakes

Los deepfakes están apareciendo por todas partes estos días. 

Te presentamos algunos deepfakes populares que demuestran lo lejos que ha llegado la tecnología.

El Deepfake del Presidente Zelenskyy pidiendo a las tropas ucranianas que se rindan

En marzo de 2022, durante las primeras fases de la guerra entre Rusia y Ucrania, apareció un vídeo en Internet que muestra al presidente ucraniano Volodymyr Zelenskyy instando a sus soldados a rendirse. 

Parecía un discurso nacional, con la voz y los modales de Zelenskyy. 

El vídeo se difundió por las redes sociales e incluso se publicó en un sitio web de noticias ucraniano comprometido. 

El Presidente actuó con rapidez y emitió un comunicado oficial a través de sus canales verificados para desacreditar las imágenes. 

La imagen viral deepfake del Papa Francisco con una chaqueta de chándal de diseño

A veces, una imagen deepfake no necesita ser maliciosa para causar confusión.

En 2023, una foto viral de El Papa Francisco se pasea con un elegante puffer blanco de Balenciaga arrasó en Internet.

Acumuló decenas de millones de visitas y se compartió ampliamente en todas las plataformas.

La imagen fue creada con una herramienta de IA llamada Midjourney por un usuario anónimo de Chicago. 

Deepfakes de Elon Musk utilizados en estafas en línea

En 2024, deepfakes con Elon Musk se convirtió en un elemento central de varias estafas en línea a gran escala. 

En Facebook, TikTok y otras plataformas empezaron a aparecer vídeos de Musk generados por inteligencia artificial en los que se promocionaban falsos regalos de criptomonedas y planes de inversión. 

Estos clips parecían y sonaban extraordinariamente reales.

Los daños no fueron sólo teóricos. Al parecer, un anciano jubilado perdió casi $700.000 tras dejarse convencer por uno de estos vídeos. 

La llamada falsa de Joe Biden dirigida a los votantes estadounidenses

A principios de 2024, justo antes de las primarias de New Hampshire, votantes recibieron robocalls que sonaba exactamente igual que el Presidente de Estados Unidos, Joe Biden. 

En la llamada, Joe Biden instaba a los votantes a quedarse en casa y reservar su voto para las elecciones generales de noviembre. La intención era confundir y engañar a los votantes para que se saltaran las primarias.

El incidente desencadenó peticiones de regulación. Los grupos de defensa instaron a la Comisión Electoral Federal de Estados Unidos a intervenir, pero la FEC se negó en última instancia, citando las limitaciones de su autoridad.

Mientras tanto, la empresa de telecomunicaciones responsable de la distribución de la robocall acordó pagar una multa de $1 millones.

Uso de deepfakes políticos en las elecciones indias de 2020

No todos los usos de la tecnología deepfake son perjudiciales o engañosos en su intención (más adelante en el blog se tratará este tema).

Durante las elecciones a la Asamblea Legislativa de Delhi de 2020, el El Partido Bharatiya Janata utilizó la IA para adaptar un anuncio de campaña para públicos lingüísticos diferentes. 

El partido tomó un vídeo de su líder Manoj Tiwari hablando en inglés y utilizó la sincronización labial deepfake para producir una versión en haryanvi, un dialecto regional.

Mientras que la voz en off procedía de un actor, los efectos visuales se modificaron para adaptarlos al nuevo audio utilizando IA entrenada con imágenes reales de Tiwari. 

Los miembros del partido lo vieron como una aplicación positiva de la tecnología que les permitía conectar con los votantes en un idioma que entendían, aunque el candidato no lo hablara con fluidez.

¿Son peligrosos los deepfakes? Riesgos y preocupaciones

Hasta ahora hemos visto qué es un deepfake, cómo se fabrica y dónde ha aparecido ya en el mundo real. 

Es innegable que la tecnología es impresionante, pero los riesgos que conlleva son graves y crecen con rapidez. 

Los deepfakes pueden convertirse en un arma de múltiples maneras. He aquí algunas de las principales preocupaciones.

Difamación

Cuando se utiliza la imagen o la voz de alguien para crear comentarios, declaraciones o vídeos falsos, especialmente los que son ofensivos o polémicos, se puede arruinar la reputación casi al instante. 

Y a diferencia de los antiguos bulos o citas falsas, un deepfake convincente deja poco lugar a dudas en la mente del espectador.

En este sentido, los deepfakes pueden provocar indignación, destruir relaciones o simplemente impulsar una narrativa perjudicial. 

Lo que es especialmente preocupante es que el deepfake ni siquiera necesita ser perfecto.

Mientras la persona sea reconocible y el contenido lo bastante creíble, puede dejar un impacto duradero en la opinión pública.

Credibilidad de la información

Otra preocupación importante es cómo los deepfakes socavan la idea misma de verdad. 

A medida que los deepfakes se hacen más comunes, se hace más difícil saber si lo que estamos viendo o escuchando es real. Con el tiempo, esto podría conducir a una mayor erosión de la confianza en cualquier forma de comunicación digital.

Esta crisis de credibilidad va más allá de los incidentes individuales.

En las sociedades democráticas, las personas se basan en hechos compartidos para tomar decisiones, debatir cuestiones y resolver problemas colectivos. 

Pero si los votantes, los telespectadores o los ciudadanos empiezan a cuestionarlo todo, resulta mucho más fácil manipular a la opinión pública o descartar las verdades incómodas como "otro deepfake más". 

Chantaje

Los medios generados por la IA pueden utilizarse para incriminar falsamente a las personas, haciendo que parezca que han hecho algo ilegal, poco ético o vergonzoso. 

Este tipo de pruebas fabricadas pueden utilizarse para amenazarles o controlarles.

Y esto va en ambos sentidos. Como los deepfakes son ahora tan realistas, alguien que se enfrente a un chantaje real podría afirmar que las pruebas son falsas, aunque no lo sean. 

Esto se conoce a veces como inflación de chantaje, en la que el gran volumen de falsificaciones creíbles acaba reduciendo el valor del material incriminatorio real. 

La credibilidad de las pruebas reales se pierde en la niebla, y eso sólo añade otra capa de complejidad cuando se trata de sacar a la luz irregularidades.

Fraudes y estafas

Utilizando vídeos generados por inteligencia artificial o voces de personajes públicos de confianza, los estafadores están creando ardides increíblemente convincentes.

En algunos casos, se utilizan deepfakes de famosos como Elon Musk, Tom Hanks u Oprah Winfrey para promocionar productos o servicios de los que nunca han oído hablar.

Estos vídeos se difunden a través de las plataformas sociales, donde llegan a millones de personas.

Incluso los particulares corren peligro, especialmente en las campañas de spearphishing que se dirigen a personas concretas con contenidos personalizados diseñados para manipular o engañar.

Según un Informe 2024 de ForbesSegún las estimaciones, el fraude provocado por deepfakes ya ha acumulado unas pérdidas globales de $12.000 millones, y se espera que esta cifra se triplique con creces en los próximos años. 

Usos positivos y creativos de los deepfakes

Cabe señalar que no todas las aplicaciones de la tecnología son negativas. 

Aunque muchos blogs que explican qué es un deepfake se centran en el uso indebido, hay una lista creciente de formas creativas y productivas en que se están utilizando los deepfakes. 

A continuación figuran algunos ejemplos notables.

Cine e interpretación

Los estudios están empezando a confiar en la tecnología deepfake para cosas como: 

• Mejora de los efectos visuales
• Reducir los costes de producción
• Traer de vuelta a personajes que ya no están 

Disneypor ejemplo, ha estado perfeccionando modelos deepfake de alta resolución que permiten intercambiar rostros y envejecer a los actores con un realismo impresionante.

Su tecnología funciona a una resolución de 1024 x 1024 y puede seguir con precisión las expresiones faciales para que los personajes parezcan más jóvenes o expresivos.

Más allá de Hollywood, los deepfakes han permitido realizar campañas mundiales, como cuando David Beckham fue clonado digitalmente para transmitir un mensaje sanitario en varios idiomas.

Arte

En 2018, el artista multimedia Joseph Ayerle utilizó la tecnología deepfake para crear un actor de IA que mezclaba el rostro de la estrella de cine italiana Ornella Muti con el cuerpo de Kendall Jenner. 

El resultado fue una exploración surrealista de la identidad generacional y la provocación artística, parte de una obra de videoarte titulada Un'emozione per sempre 2.0.

Los deepfakes también han aparecido en la sátira y la parodia. 

La serie web de 2020 Sassy Justice, creada por los creadores de South Park, Trey Parker y Matt Stone, es un buen ejemplo. 

Utilizaba personajes públicos falsificados para burlarse de la actualidad y dar a conocer la tecnología. 

Atención al cliente

Fuera de las industrias creativas, las empresas están encontrando utilidad en las deepfakes para los servicios de cara al cliente. 

Algunos centros de llamadas utilizan ahora voces sintéticas con tecnología deepfake para automatizar peticiones básicas, como consultas sobre cuentas o registro de quejas. 

En estos casos, la intención no es maliciosa, sino simplemente racionalizar.

Los sistemas de respuesta a llamadas pueden personalizarse utilizando voces generadas por IA para que los servicios automatizados suenen más naturales y atractivos.

Dado que las tareas gestionadas suelen ser de bajo riesgo y repetitivas, los deepfakes en este contexto ayudan a reducir costes y liberar agentes humanos para cuestiones más complejas.

Educación

Las plataformas educativas también han empezado a incorporar tutores impulsados por deepfake para ayudar a los alumnos de forma más interactiva. 

Estos tutores controlados por inteligencia artificial pueden impartir clases utilizando voces sintéticas y orientación personalizada.

Herramientas y técnicas de detección de deepfakes

A medida que los deepfakes se vuelven más avanzados y accesibles, también lo hace la necesidad de identificarlos antes de que causen daños. 

Las personas y las organizaciones también necesitan las herramientas y técnicas adecuadas para ir un paso por delante. He aquí algunas de ellas.

Detector de imágenes AI por Undetectable AI

El detector de imágenes AI de Undetectable AI facilita la detección de deepfakes, incluso para quienes no tienen conocimientos técnicos. 

El detector funciona analizando varios elementos de una imagen cargada, como patrones de color, texturas, rasgos faciales e incoherencias estructurales. 

Admite la detección de medios creados con los generadores de imágenes de IA más conocidos, como 

• A mitad de viaje 
• DALL-E
• Difusión estable 
• Ideograma
• Modelos basados en GAN

Para utilizarla, basta con subir una imagen, dejar que la herramienta la analice y recibir un veredicto claro con una puntuación de confianza.

Si no estás seguro de si una imagen que has encontrado es auténtica, pruebe nuestro Detector de Imágenes AI para comprobar si hay signos de manipulación de IA.

Por ejemplo, he aquí una imagen de un flamenco generada mediante difusión estable.

Ahora, pongamos Detector de IA de Undetectable a la prueba y ver si puede decir con precisión que la imagen está generada por IA.

Como puede ver, el detector de IA de imágenes de Undetectable AI ha marcado esta imagen como 100% generada por IA.

TruthScan

Otra herramienta digna de mención en la lucha contra los deepfakes es TruthScan. 

TruthScan está diseñado para el análisis de vídeo de alto riesgo. Está orientado a proteger a las organizaciones frente al fraude de vídeo, la suplantación de identidad y las campañas de desinformación en plataformas digitales.

TruthScan ofrece un amplio conjunto de funciones:

• Face Swap Detection busca indicios de sustituciones faciales y ataques de recreación mediante el análisis fotograma a fotograma.
• La autenticación facial ayuda a verificar si la cara y las expresiones de una persona son auténticas o generadas sintéticamente.
• El análisis de secuencias en directo es especialmente útil para videollamadas o eventos en directo, ya que detecta deepfakes en tiempo real con baja latencia.
• El análisis forense de vídeo indaga en los artefactos de compresión, las incoherencias de los fotogramas y las huellas digitales que pueden revelar indicios de edición.

Técnicas visuales y de comportamiento para la detección manual

También existen técnicas prácticas que los particulares pueden utilizar para detectar manualmente los deepfakes, especialmente en situaciones en las que se necesita un análisis inmediato.

Algunas señales de alarma visuales son:

• Postura facial incómoda o expresiones extrañas.
• Iluminación o coloración incoherente en distintas partes de la imagen o el vídeo.
• Parpadeo alrededor de la cara o del nacimiento del pelo, especialmente durante el movimiento.
• Falta de parpadeo natural o movimiento irregular de los ojos.
• Discrepancias en la sincronización labial cuando el audio no coincide con el discurso.

Desde el punto de vista del comportamiento, los deepfakes suelen esforzarse por imitar rasgos humanos sutiles. Presta atención al lenguaje corporal, las expresiones emocionales y los gestos habituales.

Y en las conversaciones en tiempo real, especialmente en los vídeos en directo, pide una vista de perfil lateral.

Muchos modelos deepfake siguen teniendo dificultades para representar con precisión un ángulo facial de 90 grados o movimientos complejos como girar la cabeza manteniendo expresiones naturales.

Detectar falsificaciones profundas en texto y contexto

Los deepfakes no se limitan a lo visual. Algunas versiones incluyen texto, voz o comportamiento sintéticos que imitan el estilo de comunicación de alguien.

Al analizar el contenido textual o el diálogo, esté atento a:

• Faltas de ortografía y gramática extraña.
• Frases forzadas o que no fluyen con naturalidad.
• Direcciones de correo electrónico inusuales o redacción incoherente.
• Mensajes que parecen fuera de contexto o no guardan relación con la situación.

El contexto también importa. Si un vídeo o mensaje aparece en un entorno que no tiene sentido, como un político anunciando casualmente una decisión importante en un clip de baja calidad, merece la pena cuestionar su autenticidad.

¿Tiene curiosidad por conocer nuestro Detector de IA y nuestro Humanizador? Pruébelos en el widget que aparece a continuación.

Preguntas frecuentes sobre Deepfakes

Reflexiones finales

Ahora ya sabes lo que es una imagen deepfake o los medios de comunicación en general. Es una compleja mezcla de IA y aprendizaje profundo que puede imitar de forma convincente a las personas, visual o auditivamente, a menudo sin su conocimiento o consentimiento. 

Y aunque los peligros son muy reales, los usos creativos tampoco lo son menos.

La conclusión final es la siguiente: los deepfakes no van a desaparecer. A medida que la tecnología sigue mejorando, también debe hacerlo nuestra capacidad para reconocerla y responder a ella. 

Si desea una forma sencilla y eficaz de verificar si una imagen ha sido generada por IA, pruebe el Detector de Imágenes de IA de Undetectable AI. 

Es rápido, preciso y fácil de usar para todos.

Compruebe ahora su imagen con el Detector de Imágenes AI y vea lo que revela.