Em 2018, Jordan Peele criou um vídeo do antigo presidente dos EUA, Barack Obama, que enganou milhões de americanos.
O vídeo foi divulgado em todos os noticiários, mostrando Obama a transmitir uma mensagem de aviso.
Mas adivinha qual era o tema? Notícias falsas.
Foi então revelado que se tratava de IA. Peele utilizou este facto como uma demonstração de como a tecnologia, especialmente os deepfakes, pode manipular a realidade.
Mas isso foi em 2018 e, desde então, os deepfakes e os vídeos gerados por IA tornaram-se assustadoramente bons.
Os maus actores utilizam-nos para tudo, desde a pornografia de vingança à desinformação política.
As caras das celebridades são trocadas por conteúdos explícitos.
Os políticos parecem fazer declarações que nunca fizeram. O seu vizinho pode, teoricamente, obrigá-lo a dizer qualquer coisa num vídeo.
O que antes exigia software dispendioso e conhecimentos técnicos especializados, agora acontece com aplicações gratuitas para smartphones.
Qualquer pessoa pode criar conteúdos falsos convincentes em minutos. Mas há boas notícias: é possível aprender a detetá-los.
Este guia ensinar-lhe-á exatamente como identificar deepfakes antes que o enganem.
Porque num mundo em que ver já não é acreditar, as suas capacidades de pensamento crítico são a sua melhor defesa.
Principais conclusões
- As falsificações profundas têm frequentemente falhas visuais subtis nos movimentos faciais, na iluminação e no contacto visual
- Incoerências de áudio, como padrões de respiração não naturais e flutuações de voz, são grandes sinais de alerta
- As técnicas de deteção manual centram-se na análise da sincronização labial, dos padrões de pestanejo e da consistência do fundo
- As ferramentas de deteção profissionais podem identificar conteúdos sintéticos com maior precisão do que a observação humana
- Compreender a diferença entre deepfakes e cheapfakes ajuda-o a estar atento aos diferentes tipos de manipulação
- Os métodos de verificação rápida incluem pesquisas de imagens invertidas e verificação da credibilidade da fonte
Sinais comuns de que está a olhar para um Deepfake
Os deepfakes não são perfeitos. Pelo menos, ainda não.
Mesmo o mais sofisticado conteúdo gerado por IA deixa sinais reveladores que podem ser detectados por olhos treinados. Pense neles como o equivalente digital de um BI falso.
A tecnologia é impressionante, mas não é perfeita.
Nunca mais se preocupe com o facto de a IA detetar os seus textos. Undetectable AI Pode ajudar-vos:
- Faça aparecer a sua escrita assistida por IA de tipo humano.
- Bypass todas as principais ferramentas de deteção de IA com apenas um clique.
- Utilização IA com segurança e com confiança na escola e no trabalho.
O sinal mais óbvio está normalmente nos olhos.
Os olhos humanos têm um brilho natural, uma vivacidade que é difícil de reproduzir. As falsificações profundas produzem frequentemente olhos que parecem ligeiramente vítreos ou desfocados.
A pessoa pode olhar fixamente para a frente sem os micro-movimentos naturais que os olhos reais fazem.
É subtil, mas quando se sabe o que procurar, é difícil não reparar.
As expressões faciais são outro ponto fraco.
Os rostos humanos reais têm inúmeros movimentos musculares minúsculos a acontecer em simultâneo.
Quando sorrimos, não é só a boca que se mexe. As suas bochechas levantam-se, os seus olhos enrugam, todo o seu rosto participa.
Os deepfakes têm dificuldade em lidar com esta complexidade. Podem acertar nas grandes expressões mas falhar os movimentos subtis de apoio.
Como detetar um vídeo Deepfake
Os deepfakes de vídeo são o tipo mais comum e potencialmente perigoso de media sintéticos.
São utilizados em tudo, desde fraudes financeiras a manipulação política.
Aprender a analisar imagens em movimento requer um conjunto de competências diferente do que detetar fotografias falsas.
- Comece por observar os padrões de pestanejo da pessoa. Os seres humanos pestanejam regular e naturalmente, normalmente a cada 3-5 segundos. Piscar demasiado ou muito pouco pode ser um sinal de alerta.
- Prestar atenção aos movimentos da cabeça e à linguagem corporal. As pessoas reais têm movimentos naturais e fluidos que correspondem ao seu discurso e emoções. A linguagem corporal pode não corresponder ao tom de voz ou ao conteúdo do discurso.
- Examinar cuidadosamente os antecedentes. Os deepfakes concentram muitas vezes tanto poder de processamento no rosto que negligenciam tudo o resto. Procure fundos que pareçam artificialmente desfocados ou estáticos.
- Verificar a existência de artefactos digitais nas extremidades do rosto. Nos locais onde o rosto gerado se encontra com o vídeo original, poderá ver halos subtis, mudanças de cor ou pixelização. Esses artefactos digitais são especialmente visíveis quando a pessoa vira a cabeça ou se move rapidamente. A tecnologia tem dificuldade em manter os bordos limpos durante os movimentos rápidos.
- As inconsistências na taxa de fotogramas também podem revelar deepfakes. Se o rosto parecer mover-se a uma velocidade de fotogramas diferente da do resto do vídeo, isso é suspeito.
- A qualidade do áudio é crucial. Mesmo que os elementos visuais pareçam perfeitos, o áudio pode denunciar a falsificação.
Como analisar o áudio para obter pistas de Deepfake
As falsificações de áudio estão a tornar-se assustadoramente sofisticadas.
A tecnologia de clonagem de voz pode agora replicar os padrões de discurso de alguém com apenas alguns minutos de amostra de áudio.
Mas, tal como as deepfakes visuais, as falsificações áudio têm caraterísticas que os ouvintes mais atentos podem identificar.
Comece por prestar atenção à respiração. Em conversas reais, as pessoas fazem pausas para inalar, exalar ou ajustar a sua energia vocal.
Muitas vezes, os deepfakes saltam completamente esta parte ou inserem sons de respiração que parecem robóticos e uniformemente espaçados.
O resultado? Uma voz que fala de forma demasiado suave, demasiado contínua, quase como se estivesse a deslizar sobre carris.
Pode detetar estas anomalias mais facilmente ouvindo-as:
- Sem pausas para respirar, mesmo em frases longas
- Respirações que soam idênticas, com um timing uniforme, ou estranhamente colocado
- Um tom plano sem fadiga ou tensão vocal
- Discurso que parece "demasiado perfeito", como se tivesse sido concebido
Os humanos não são assim tão polidos. As nossas vozes vacilam.
Tossimos, engolimos, perdemos o rumo a meio do pensamento.
Por isso, quando ouvimos uma voz que parece ter sido passada a ferro do princípio ao fim, isso é uma pista.
O ruído de fundo também pode denunciar um deepfake.
Se alguém estiver supostamente num café movimentado, devem ouvir-se copos a tilintar, conversas baixas, talvez um alarme de carro.
Se for silenciosa ou cheia de zumbido de fundo genérico, algo não bate certo. As gravações reais têm uma textura ambiental.
Agora pensa em sotaques. Maneirismos. Pequenas esquisitices na forma como alguém fala.
Aquela forma estranha como o teu amigo diz "botão" ou como o teu colega de trabalho deixa cair a última sílaba em cada frase? Os deepfakes muitas vezes não os apanham. Eles copiam a voz, não a pessoa.
A qualidade do som é outro fator a ter em conta. Alguns clipes têm uma nitidez de alta qualidade, mas afirmam ser gravações telefónicas.
Outros soam comprimidos, mas não de uma forma que faça sentido para o contexto. Se o áudio não corresponder ao cenário, é mais um sinal de alerta.
A emoção pode ser a coisa mais difícil de fingir, e a mais fácil de detetar.
Se alguém soa alegre ao dar más notícias, ou robótico ao contar uma história profundamente pessoal, confie nos seus instintos. O discurso sintético ainda não domina o tom.
Os deepfakes são impressionantes. Mas não são indetectáveis. Ainda não são.
E se estivermos a ouvir com atenção, a verdade está normalmente enterrada nos pormenores.
Como detetar uma fotografia Deepfake
O facto de fotografias deepfake? Muitas vezes, são perfeitos no centro e tornam-se estranhos nas extremidades.
Comecemos pela iluminação.
Na vida real, as sombras e as luzes seguem regras.
Um rosto iluminado a partir da esquerda deve corresponder ao resto do ambiente.
Mas os deepfakes nem sempre recebem o memorando.
Verá sombras a cair em direcções opostas ou iluminação que parece dramática sem razão aparente.
Um fotograma. Um momento. Sem movimento para analisar. É por isso que estas falsificações são mais difíceis de apanhar.
Mas ainda pode.
Olhar para os olhos, depois olhar para o que se reflecte neles.
Se alguém usar óculos, deve ver o mundo refletido: janelas, luzes, até mesmo outras pessoas.
Se for apenas ruído ou estiver estranhamente em branco, a imagem pode ser sintética.
Depois há a pele.
A pele humana real é complicada: poros, textura, descoloração e até uma borbulha ocasional.
Os deepfakes tendem a suavizar demasiado a imagem. Não como um filtro, mas mais como se alguém o tivesse lixado no Photoshop.
Pode parecer perfeito, até deixar de o ser.
Se algo parecer estranho, faça zoom. Olha à tua volta. Confia no desconforto.
Quanto mais subtil for a falha, mais confiante é a falsificação.
Sugestões para a deteção manual sem ferramentas
Não são necessárias ferramentas sofisticadas para apanhar uma falsificação.
Os seus olhos e ouvidos, quando usados intencionalmente, são muitas vezes suficientes.
Confie nos seus instintos. Se algo lhe parecer estranho, é porque provavelmente é.
Compare o conteúdo com imagens verificadas da mesma pessoa, especialmente a sua voz, maneirismos e pormenores faciais.
Os deepfakes normalmente não percebem as nuances.
Diminua a velocidade dos vídeos para captar elementos tremidos ou mudanças de iluminação estranhas, fotograma a fotograma.
Questionar a fonte: Quem o publicou primeiro? Porquê? Clips de alta qualidade supostamente filmados em dispositivos de baixa qualidade ou encontrados num único local devem levantar suspeitas.
Mesmo sem metadados ou análises avançadas, a maioria das falsificações deixa pistas se souber o que procurar.
Deepfake vs Cheapfake: Saiba a diferença
Falsificações profundas
- Imagens ou áudio gerados por IA
- Troca de rosto, clonagem de voz, sincronização labial sintética
- Exigir dados de formação e ferramentas especializadas
- Muitas vezes mais difícil de produzir, mas mais realista
Falsificações baratas
- Sem IA envolvida
- Edição básica: cortar, recortar, abrandar, reenquadrar
- Conteúdo real, contexto errado
- Mais fácil de detetar, mas muitas vezes ignorado
As falsificações profundas baseiam-se em tecnologia avançada, enquanto as falsificações baratas se baseiam na manipulação e na manipulação incorrecta.
Ambos podem enganar-nos, mas por razões diferentes.
As falsificações baratas passam muitas vezes despercebidas porque utilizam conteúdo real distorcido apenas o suficiente para enganar.
Saber com qual deles está a lidar ajuda-o a detetar o problema mais rapidamente e a manter-se mais inteligente em linha.
Ferramentas que pode utilizar para detetar um Deepfake
Enquanto a deteção manual é valiosaSe o utilizador tiver uma visão geral da situação, as ferramentas especializadas podem identificar conteúdos sintéticos susceptíveis de enganar os observadores humanos.
Estas ferramentas utilizam algoritmos de aprendizagem automática treinados especificamente para reconhecer conteúdos gerados por IA.
Para imagens, experimente Undetectable AI's Detetor de imagens AI para avaliar se uma fotografia contém elementos sintéticos.
Esta ferramenta analisa vários aspectos da geração de imagens e consegue detetar artefactos subtis que passam despercebidos aos olhos humanos.
É particularmente eficaz na identificação de rostos e objectos gerados por IA.
Para uma deteção abrangente de deepfake em vários tipos de mídia, confira o Detetor de falsificação profunda.
A plataforma combina vários algoritmos de deteção para analisar vídeos, fotografias e áudio para detetar sinais de geração sintética.
As ferramentas de pesquisa inversa de imagens, como o Google Images, o TinEye ou o Yandex, podem ajudar a verificar a autenticidade das fotografias.
Se encontrar a mesma imagem utilizada em vários contextos ou descobrir que está a circular há anos, isso sugere uma potencial manipulação ou utilização indevida.
Lembre-se que as ferramentas de deteção não são perfeitas. Podem produzir falsos positivos (identificando conteúdos reais como falsos) e falsos negativos (não detectando deepfakes reais).
Utilizar as ferramentas como parte de uma estratégia de verificação mais alargada e não como prova definitiva.
O que fazer se suspeitar de um Deepfake
Não o partilhe nem o desminta.
Isso pode, inadvertidamente, aumentar o seu alcance. Se achar que o conteúdo é falso, denuncie-o diretamente à plataforma. A maioria dos sítios tem ferramentas para sinalizar os meios sintéticos.
Verificação de factos através de fontes fiáveis como Snopes ou PolitiFact. Se ainda não tiver sido verificado, considere a possibilidade de o submeter.
Faça capturas de ecrã ou guarde as ligações antes que o conteúdo desapareça, pois pode ajudar os jornalistas ou investigadores mais tarde.
Avise a sua rede de contactos, mas evite publicar a falsificação. Em vez disso, concentre-se em ensinar como detetar a falsificação. Se alguém estiver a fazer-se passar por outra pessoa, informe essa pessoa.
Poderão querer responder ou intentar uma ação judicial.
Para deepfakes relacionados com ameaças ou crimes, denuncie-os às autoridades policiais. As leis dos meios de comunicação sintéticos estão a ser actualizadas e a sua dica pode fazer a diferença.
Comece a explorar - o nosso Detetor de IA e o Humanizador estão à sua espera no widget abaixo!
Perguntas frequentes sobre a deteção de Deepfake
As falsificações profundas podem ser detectadas em 100% das vezes?
Não. Até as melhores ferramentas deixam passar coisas. A deteção funciona melhor quando as ferramentas de IA, a revisão humana e o pensamento crítico são utilizados em conjunto.
O que devo fazer se alguém me fizer um deepfishing?
Guardar as provas. Comunique o facto à plataforma. Se for prejudicial ou ilegal, contacte um advogado. Muitas regiões têm atualmente leis contra deepfakes maliciosos.
Como posso ajudar os outros a detetar deepfakes?
Concentre-se na consciencialização e não no medo. Ensine competências de observação, partilhe exemplos claros e lembre sempre as pessoas de verificarem as fontes antes de partilharem.
Linhas desfocadas e mentiras de pixéis
As falsificações profundas representam um dos desafios mais significativos para a integridade da informação na era digital. Mas não são mágicas.
Com os conhecimentos e as ferramentas certas, pode proteger-se a si e aos outros da manipulação sintética dos meios de comunicação social.
Lembre-se dos princípios fundamentais: confie nos seus instintos, examine cuidadosamente os pormenores, verifique as fontes e utilize as ferramentas disponíveis.
Procure inconsistências na iluminação, nos movimentos faciais, na qualidade do áudio e nos elementos de fundo. Preste atenção ao contexto e considere as motivações subjacentes ao conteúdo suspeito.
A tecnologia continuará a evoluir. As falsificações profundas vão melhorar, mas os métodos de deteção também vão melhorar.
Mantenha-se informado sobre novas técnicas e ferramentas. Partilhe os seus conhecimentos com os outros. Construir uma rede de pensadores críticos que possam ajudar a identificar e combater os media sintéticos.
A sua vigilância é importante. Cada vídeo falso que apanha, cada imagem enganadora que não partilha, cada pessoa que ensina a pensar de forma crítica torna a Internet um pouco mais fiável.
Num mundo em que a tecnologia pode colocar palavras na boca de qualquer pessoa, o seu ceticismo e conhecimento são armas poderosas contra o engano.
IA indetetável oferece ferramentas que o ajudam a analisar, questionar e verificar conteúdos digitais mais rapidamente. Utilize-as. Partilhe-as. Seja a razão pela qual a desinformação acaba consigo.
O futuro da informação depende de todos nós nos tornarmos mais capazes de distinguir a realidade da invenção.
Ver já não é acreditar, mas saber o que procurar continua a ser.