O que é um Deepfake? Definição e exemplos reais

O termo deepfake apareceu pela primeira vez no Reddit em 2017quando um usuário com o mesmo nome de tela começou a compartilhar vídeos alterados que usavam IA para trocar rostos, inicialmente em conteúdo adulto. 

Embora o Reddit tenha banido o subreddit original, a ideia já havia decolado. 

Mas as raízes dessa tecnologia são ainda mais antigas.

Em 1997, os pesquisadores já haviam começado a fazer experiências com a edição de vídeo por meio do aprendizado de máquina. 

Sua primeira ferramenta de sincronização labial, chamada Reescrita de vídeo pode fazer com que alguém pareça ter dito algo que não disse.

Tecnicamente, não era um deepfake de acordo com os padrões atuais, mas lançou as bases para o que viria a seguir.

O blog de hoje trata de como essa tecnologia em evolução funciona, onde ela aparece na vida cotidiana e quais são os riscos e benefícios que ela traz consigo. 

Vamos começar entendendo o que é de fato um deepfake.

---

Principais conclusões:

• Deepfakes são mídias geradas por IA que fazem com que as pessoas pareçam dizer ou fazer coisas que nunca fizeram de fato.

• Com ferramentas gratuitas e habilidades básicas, praticamente qualquer pessoa pode criar vídeos, imagens ou clipes de áudio deepfake convincentes.

• Embora os deepfakes possam ser criativos ou divertidos, eles também representam riscos sérios, como fraudes, difamação e desinformação.

• Você pode identificar a maioria dos deepfakes usando ferramentas de detecção ou observando atentamente as inconsistências visuais e comportamentais.

---

O que é um Deepfake?

Um deepfake é uma mídia falsa, geralmente um vídeo, clipe de áudio ou imagem, que foi alterada usando inteligência artificial para fazer com que alguém pareça estar fazendo ou dizendo algo que nunca fez. 

Agora, não confunda isso apenas com um trabalho ruim de Photoshop ou com uma narração malfeita.

Estamos falando de manipulação de alto nível usando uma tecnologia chamada aprendizagem profunda, que é um subconjunto da IA.

É isso que o termo "deepfake" implica: aprendizagem profunda e conteúdo falso.

O objetivo de um deepfake geralmente é criar algo que pareça real o suficiente para enganar as pessoas.

Talvez você já tenha visto aqueles vídeos virais de celebridades fazendo coisas bizarras ou de políticos fazendo declarações ultrajantes que nunca diriam. 

Esses são casos clássicos de uso de deepfake. O que você está vendo não é real, mas a tecnologia por trás disso ficou boa o suficiente para que seu cérebro não perceba imediatamente a falsificação, a menos que você esteja realmente procurando.

Na verdade, de acordo com a equipe de pesquisa da Undetectable AI, 85 % dos norte-americanos dizem que os deepfakes diminuíram sua confiança nas informações on-line.

Você acabou de aprender o que é realmente um vídeo ou mídia deepfake, agora vamos ver como as pessoas os criam.

Como as deepfakes são criadas

A tecnologia por trás da maioria dos deepfakes é uma categoria de algoritmos de aprendizado de máquina chamada de redes adversárias generativas, ou GANs. 

Os GANs são compostos de duas partes: um gerador e um discriminador. 

O gerador cria mídia falsa com base no que foi treinado para replicar, e o trabalho do discriminador é identificar o que parece falso. 

Eles continuam indo e voltando até que o gerador se torne melhor na criação de conteúdo falso que possa passar no teste do discriminador. 

Com o tempo, esse vai-e-vem leva a uma mídia que parece surpreendentemente realista.

O que é um processo de geração de vídeo Deepfake?

Ao criar um vídeo deepfake, o sistema analisa vídeos de vários ângulos, estuda como a pessoa fala, como seu rosto se move e como seu corpo se desloca. 

Todas essas informações são inseridas no gerador para que ele possa criar conteúdo que imite esses comportamentos. 

Em seguida, o discriminador ajuda a fazer o ajuste fino, apontando o que está errado até que o resultado final fique perfeito.

É por isso que a ilusão se mantém tão bem em movimento.

Há algumas técnicas diferentes usadas, dependendo da finalidade do vídeo deepfake. 

Se a ideia é fazer com que alguém pareça dizer ou fazer algo em um vídeo que nunca disse ou fez, então estamos lidando com o que é chamado de deepfake de vídeo de origem. 

Um codificador automático de deepfake, composto por um codificador e um decodificador, estuda a filmagem original e aplica a ela as expressões, os gestos e os movimentos sutis da cabeça do alvo. 

Deepfakes de áudio

Um deepfake de áudio funciona clonando a voz de uma pessoa, novamente usando GANs, com base em gravações de como ela fala naturalmente. 

Uma vez treinado, o modelo pode gerar um novo discurso com essa voz, mesmo que a pessoa nunca tenha realmente dito essas palavras. 

Outra camada frequentemente adicionada é a sincronização labial. 

Aqui, o sistema mapeia o áudio gerado ou pré-gravado em um vídeo.

O objetivo é fazer com que os lábios no vídeo correspondam às palavras no áudio. 

Exemplos reais de deepfakes

Os deepfakes estão aparecendo em todos os lugares atualmente. 

Vamos apresentar a você alguns deepfakes populares que mostram o quanto a tecnologia avançou.

O Deepfake do presidente Zelenskyy pedindo às tropas ucranianas que se rendam

Em março de 2022, durante os estágios iniciais da guerra entre a Rússia e a Ucrânia, um vídeo apareceu on-line mostrando o presidente ucraniano Volodymyr Zelenskyy incitando seus soldados a se renderem. 

Parecia um discurso nacional, com a voz e os trejeitos de Zelenskyy. 

O vídeo se espalhou pelas plataformas de mídia social e foi até mesmo publicado em um site de notícias ucraniano comprometido. 

O presidente agiu rapidamente e divulgou uma declaração oficial por meio de seus canais verificados para desmentir a filmagem. 

A imagem deepfake viral do Papa Francisco em uma jaqueta de grife

Às vezes, uma imagem deepfake não precisa ser maliciosa para causar confusão.

Em 2023, uma foto viral de O Papa Francisco passeando com uma elegante jaqueta branca da Balenciaga tomou a internet de assalto.

Ele acumulou dezenas de milhões de visualizações e foi amplamente compartilhado em várias plataformas.

A imagem foi criada por um usuário anônimo de Chicago usando uma ferramenta de IA chamada Midjourney. 

Deepfakes de Elon Musk usados em golpes on-line

Em 2024, deepfakes com Elon Musk tornou-se uma parte central de vários golpes on-line em grande escala. 

Vídeos de Musk gerados por IA começaram a aparecer no Facebook, no TikTok e em outras plataformas, promovendo brindes falsos de criptomoedas e esquemas de investimento. 

Esses clipes pareciam e soavam incrivelmente reais.

O prejuízo não foi apenas teórico. Um aposentado idoso teria perdido quase $700.000 após ser convencido por um desses vídeos. 

O Robocall Deepfake de Joe Biden que teve como alvo os eleitores dos EUA

No início de 2024, pouco antes das primárias de New Hampshire, eleitores receberam ligações automáticas que soou exatamente como o presidente dos EUA, Joe Biden. 

Na ligação, Joe Biden estava pedindo aos eleitores que ficassem em casa e guardassem seu voto para a eleição geral em novembro. A intenção era confundir e enganar os eleitores para que não participassem das primárias.

O incidente provocou pedidos de regulamentação. Grupos de defesa pediram que a Comissão Eleitoral Federal dos EUA interviesse, mas a FEC acabou recusando, citando limitações em sua autoridade.

Enquanto isso, a empresa de telecomunicações responsável pela distribuição do robocall concordou em pagar uma multa de $1 milhão.

Uso de deepfake político nas eleições indianas de 2020

Nem todos os usos da tecnologia deepfake são prejudiciais ou enganosos em termos de intenção (mais sobre isso mais adiante no blog).

Durante a eleição para a Assembleia Legislativa de Délhi em 2020, o O Bharatiya Janata Party usou IA para personalizar um anúncio de campanha para diferentes públicos linguísticos. 

O partido pegou um vídeo de seu líder Manoj Tiwari falando em inglês e usou a sincronização labial deepfake para produzir uma versão em Haryanvi, um dialeto regional.

Embora a narração tenha sido feita por um ator, os visuais foram modificados para corresponder ao novo áudio usando IA treinada em imagens reais de Tiwari. 

Os membros do partido viram isso como uma aplicação positiva da tecnologia que permitiu que eles se conectassem com os eleitores em um idioma que eles entendiam, mesmo que o candidato não falasse o idioma fluentemente.

As deepfakes são perigosas? Riscos e preocupações

Até agora, vimos o que é um deepfake, como ele é criado e onde ele já apareceu no mundo real. 

A tecnologia é inegavelmente impressionante, mas os riscos associados a ela são sérios e estão crescendo rapidamente. 

As deepfakes podem ser transformadas em armas de várias maneiras. Aqui estão algumas das principais preocupações.

Difamação

Quando a semelhança ou a voz de alguém é usada para criar comentários, declarações ou vídeos falsos, especialmente aqueles que são ofensivos ou controversos, isso pode arruinar a reputação quase que instantaneamente. 

E, ao contrário de fraudes mais antigas ou citações falsas, um deepfake convincente deixa pouco espaço para dúvidas na mente do espectador.

Nesse sentido, os deepfakes podem causar indignação, destruir relacionamentos ou simplesmente promover uma narrativa prejudicial. 

O que é especialmente preocupante é que o deepfake nem precisa ser perfeito.

Desde que a pessoa seja reconhecível e o conteúdo seja suficientemente crível, isso pode causar um impacto duradouro na opinião pública.

Credibilidade das informações

Outra grande preocupação é como os deepfakes minam a própria ideia de verdade. 

À medida que os deepfakes se tornam mais comuns, fica cada vez mais difícil saber se o que estamos vendo ou ouvindo é real. Com o tempo, isso pode levar a uma erosão mais ampla da confiança em qualquer forma de comunicação digital.

Essa crise de credibilidade vai além de incidentes individuais.

Nas sociedades democráticas, as pessoas se baseiam em fatos compartilhados para tomar decisões, debater questões e resolver problemas coletivos. 

Mas se os eleitores, espectadores ou cidadãos começarem a questionar tudo, fica muito mais fácil manipular a opinião pública ou descartar verdades inconvenientes como "apenas mais um deepfake". 

Chantagem

A mídia gerada por IA pode ser usada para incriminar falsamente as pessoas, fazendo parecer que elas fizeram algo ilegal, antiético ou embaraçoso. 

Esse tipo de evidência fabricada pode ser usado para ameaçá-los ou controlá-los.

E isso é válido para ambos os lados. Como os deepfakes são agora tão realistas, alguém que esteja enfrentando uma chantagem real pode alegar que a evidência é falsa, mesmo que não seja. 

Isso às vezes é chamado de inflação de chantagem, em que o grande volume de falsificações confiáveis acaba reduzindo o valor do material incriminador real. 

A credibilidade das evidências reais se perde na névoa, e isso só acrescenta outra camada de complexidade ao tentar expor uma transgressão.

Fraudes e golpes

Usando vídeos gerados por IA ou vozes de figuras públicas confiáveis, os fraudadores estão criando esquemas incrivelmente convincentes.

Em alguns casos, deepfakes de celebridades como Elon Musk, Tom Hanks ou Oprah Winfrey são usados para endossar produtos ou serviços dos quais eles nunca ouviram falar.

Em seguida, esses vídeos são divulgados nas plataformas sociais, onde alcançam milhões de pessoas.

Até mesmo pessoas físicas estão em risco, especialmente em campanhas de spearphishing que visam pessoas específicas com conteúdo personalizado projetado para manipular ou enganar.

De acordo com uma Relatório de 2024 da ForbesSegundo a empresa, as fraudes baseadas em deepfake já acumularam perdas globais estimadas em $12 bilhões, e espera-se que esse número mais do que triplique nos próximos anos. 

Usos positivos e criativos de Deepfakes

Vale a pena observar que nem toda aplicação da tecnologia é negativa. 

Embora muitos blogs que explicam o que é um deepfake se concentrem no uso indevido, há uma lista cada vez maior de maneiras criativas e produtivas de usar os deepfakes. 

Abaixo estão alguns exemplos notáveis.

Apresentações em filmes e atuações

Os estúdios estão começando a contar com a tecnologia deepfake para coisas como: 

• Aprimoramento de efeitos visuais
• Redução dos custos de produção
• Trazer de volta personagens que não estão mais presentes 

Disneypor exemplo, vem refinando modelos deepfake de alta resolução que permitem a troca de rostos e o envelhecimento de atores com um realismo impressionante.

Sua tecnologia opera em uma resolução de 1024 x 1024 e pode rastrear com precisão as expressões faciais para fazer com que os personagens pareçam mais jovens ou mais expressivos.

Além de Hollywood, os deepfakes possibilitaram o trabalho de campanhas globais, como quando David Beckham foi clonado digitalmente para transmitir uma mensagem de saúde em vários idiomas.

Arte

Em 2018, o artista multimídia Joseph Ayerle usou a tecnologia deepfake para criar um ator de IA que misturava o rosto da estrela de cinema italiana Ornella Muti com o corpo de Kendall Jenner. 

O resultado foi uma exploração surrealista da identidade geracional e da provocação artística, parte de uma obra de arte em vídeo intitulada Un'emozione per sempre 2.0.

Os deepfakes também apareceram em sátiras e paródias. 

A série da web Sassy Justice, de 2020, criada pelos criadores de South Park, Trey Parker e Matt Stone, é um excelente exemplo. 

Ele usava figuras públicas com deepfakes para fazer graça com os eventos atuais e, ao mesmo tempo, aumentar a conscientização sobre a própria tecnologia. 

Atendimento ao cliente

Fora dos setores criativos, as empresas estão encontrando utilidade em deepfakes para serviços voltados para o cliente. 

Algumas centrais de atendimento agora usam vozes sintéticas alimentadas pela tecnologia deepfake para automatizar solicitações básicas, como consultas de contas ou registro de reclamações. 

Nesses casos, a intenção não é maliciosa, mas simplesmente simplificar.

Os sistemas de resposta a chamadas podem ser personalizados usando vozes geradas por IA para fazer com que os serviços automatizados pareçam mais naturais e envolventes.

Como as tarefas tratadas geralmente são de baixo risco e repetitivas, os deepfakes nesse contexto ajudam a reduzir os custos e liberam os agentes humanos para questões mais complexas.

Educação

As plataformas educacionais também começaram a incorporar tutores com tecnologia deepfake para ajudar os alunos de forma mais interativa. 

Esses tutores orientados por IA podem ministrar aulas usando vozes sintéticas e orientação personalizada.

Ferramentas e técnicas de detecção de deepfake

À medida que as deepfakes se tornam mais avançadas e acessíveis, também aumenta a necessidade de identificá-las antes que causem danos. 

As pessoas e as organizações também precisam das ferramentas e técnicas certas para se manterem um passo à frente. Portanto, aqui estão algumas ferramentas e técnicas.

Detector de imagens de IA da Undetectable AI

O Detector de imagens com IA da Undetectable AI torna a detecção de deepfake mais fácil, mesmo para quem não tem formação técnica. 

O detector funciona analisando vários elementos em uma imagem carregada, como padrões de cores, texturas, características faciais e inconsistências estruturais. 

Ele suporta a detecção de mídia criada usando os geradores de imagens de IA mais conhecidos, como 

• Meio da jornada 
• DALL-E
• Difusão estável 
• Ideograma
• Modelos baseados em GAN

Para usá-lo, basta carregar uma imagem, deixar que a ferramenta a analise e receber um veredicto claro com uma pontuação de confiança.

Se você não tiver certeza de que uma imagem que encontrou é genuína, experimente nosso AI Image Detector para verificar se há sinais de adulteração de IA.

Por exemplo, aqui está uma imagem de IA de um flamingo gerada usando a difusão estável.

Agora, vamos colocar Detector de IA da Undetectable para o teste e ver se ele consegue identificar com precisão que a imagem foi gerada por IA.

Como você pode ver, o detector de IA de imagens da Undetectable AI sinalizou essa imagem como 100% gerada por IA.

TruthScan

Outra ferramenta notável na luta contra as deepfakes é TruthScan. 

O TruthScan foi desenvolvido para análise de vídeo de alto risco. Ele é voltado para proteger as organizações contra fraudes em vídeo, falsificação de identidade e campanhas de desinformação em plataformas digitais.

O TruthScan oferece um amplo conjunto de recursos:

• A detecção de troca de rosto procura sinais de substituições faciais e ataques de reencenação usando análise quadro a quadro.
• A autenticação facial ajuda a verificar se o rosto e as expressões de uma pessoa são genuínos ou gerados sinteticamente.
• O Live Stream Analysis é especialmente útil para chamadas de vídeo ou eventos ao vivo, detectando deepfakes em tempo real com baixa latência.
• A análise forense de vídeo investiga artefatos de compressão, inconsistências de quadros e impressões digitais que podem revelar sinais de edição.

Técnicas visuais e comportamentais para detecção manual

Há também técnicas práticas que as pessoas podem usar para detectar deepfakes manualmente, especialmente em situações em que é necessária uma análise imediata.

Alguns sinais de alerta visuais incluem:

• Posicionamento facial desajeitado ou expressões estranhas.
• Iluminação ou coloração inconsistente em diferentes partes da imagem ou do vídeo.
• Cintilação ao redor do rosto ou da linha do cabelo, principalmente durante o movimento.
• Falta de piscar natural ou movimento irregular dos olhos.
• Discrepâncias na sincronização labial quando o áudio não coincide com a fala.

Do ponto de vista comportamental, os deepfakes geralmente se esforçam para imitar traços humanos sutis. Preste atenção na linguagem corporal, nas expressões emocionais e nos gestos habituais.

E em conversas em tempo real, especialmente em vídeos ao vivo, peça uma visão de perfil lateral.

Muitos modelos de deepfake ainda têm dificuldade para renderizar com precisão um ângulo facial de 90 graus ou movimentos complexos, como virar a cabeça, mantendo expressões naturais.

Detectando Deepfakes no texto e no contexto

As deepfakes não se limitam a recursos visuais. Algumas versões envolvem texto, voz ou comportamento sintéticos que imitam o estilo de comunicação de alguém.

Ao analisar o conteúdo textual ou o diálogo, fique atento:

• Erros ortográficos e gramática estranha.
• Frases que parecem forçadas ou que não fluem naturalmente.
• Endereços de e-mail incomuns ou frases inconsistentes.
• Mensagens que parecem fora de contexto ou sem relação com a situação.

O contexto também é importante. Se um vídeo ou mensagem aparecer em um ambiente que não faz sentido, como um político anunciando casualmente uma decisão importante em um clipe de baixa qualidade, vale a pena questionar sua autenticidade.

Curioso sobre nosso Detector de IA e Humanizador? Experimente-os no widget abaixo!

Perguntas frequentes sobre Deepfakes

Considerações finais

Agora você sabe o que é uma imagem ou mídia deepfake em geral. É uma mistura complexa de IA e aprendizagem profunda que pode imitar pessoas de forma convincente, visual ou audivelmente, muitas vezes sem seu conhecimento ou consentimento. 

E, embora os perigos sejam muito reais, os usos criativos também não são menores.

A conclusão final é a seguinte: as deepfakes não vão a lugar algum. À medida que a tecnologia continua a melhorar, nossa capacidade de reconhecê-la e reagir a ela também deve melhorar. 

Se você quiser uma maneira simples e eficaz de verificar se uma imagem foi gerada por IA, experimente o AI Image Detector da Undetectable AI. 

É rápido, preciso e fácil de usar para todos.

Verifique sua imagem agora com o AI Image Detector e veja o que ele revela.