Deepfakes werden immer besser darin, das menschliche Auge zu täuschen.
Stellen Sie sich einen Videoanruf Ihres Chefs vor, in dem er Sie bittet, eine dringende Überweisung zu genehmigen. Das Gesicht, die Stimme und die Gesten stimmen zwar überein, aber die Person auf dem Bildschirm ist nicht echt.
Deepfake-Gesichtsvertauschungen machen dieses Szenario nun möglich, und laut einer Studie können Menschen Deepfake-Videos nur in etwa 58% der Fälle erkennen, Studie aus dem Jahr 2026 in Kognitive Forschung: Grundlagen und Implikationen. Betrüger nutzen sie, um sich als Führungskräfte, Prominente und Liebespartner auszugeben, und der Realismus wird immer besser.
In diesem Leitfaden zeigen wir, wie man Gesichtsvertauschungen in Fotos und Kurzvideos mithilfe manueller Überprüfung und KI-Erkennung erkennt, und testen anschließend, wie gut die KI-Erkennung funktioniert.
Wichtigste Erkenntnisse
- Unser Test ergab, dass die Detektoren von „Undetectable AI“ alle fünf Beispiele für Gesichtsaustausch identifizierten, wobei die drei Bilder mit Werten von 1% bis 49% wahrscheinlich echt sind und die beiden Videos mit Werten von 86% und 97% wahrscheinlich KI-generiert sind.
- Probe drei lieferte das schwächste Ergebnis (49% real), daher sollten die Erkennungswerte eher als Wahrscheinlichkeiten denn als eindeutiger Beweis gewertet werden.
- Manuelle Überprüfungen auf Artefakte wie Übergänge, ungewöhnliche Beleuchtung und Flackern sind ein nützlicher erster Schritt, können jedoch neuere Modelle übersehen, bei denen diese Mängel verborgen sind.
- Die Erkenntnis daraus ist, dass man visuelle Überprüfungen, die Überprüfung von Quellen und Metadaten sowie KI-basierte Erkennung kombinieren sollte, anstatt sich auf eine einzige Methode zu verlassen.
- Die auf TruthScan basierenden Bild- und Videodetektoren von Undetectable AI suchen nach Anomalien auf Pixelebene und statistischen Mustern, die dem menschlichen Auge oft entgehen
Was ist ein Deepfake-Gesichts-Swap?
Ein Deepfake-Gesichtsaustausch ist ein durch künstliche Intelligenz erzeugtes oder manipuliertes Bild oder Video, bei dem das Gesicht einer Person durch das einer anderen ersetzt wird. Die Technologie nutzt Deep-Learning-Verfahren, um Muster in Gesichtszügen, Mimik und Bewegungen zu erfassen und nachzubilden – ein Prozess, der den resultierenden Austausch überzeugender erscheinen lässt.
Beispiele für Betrugsfälle mit Deepfake-Gesichtsvertauschung
Zwar können Gesichtsvertauschungen der harmlosen Unterhaltung oder kreativen Zwecken dienen, doch nutzen sie auch böswillige Akteure, um sich als andere Personen auszugeben, Opfer von Welsangriffen, oder Falschinformationen zu verbreiten. Deepfakes helfen Betrügern dabei, ihre wahre Identität zu verbergen und bei ahnungslosen Opfern Vertrauen aufzubauen.
Identitätsbetrug bei Videoanrufen
Betrüger nutzen Deepfake-Technologie, um sich in Live-Videoanrufen als vertrauenswürdige Personen auszugeben. Sie geben sich möglicherweise als Führungskräfte, Familienangehörige oder Autoritätspersonen aus, um ihre Opfer dazu zu manipulieren, Geld oder sensible Informationen preiszugeben.
Machen Sie sich nie wieder Sorgen, dass KI Ihre Texte erkennt. Undetectable AI Kann Ihnen helfen:
- Lassen Sie Ihr AI-unterstütztes Schreiben erscheinen menschenähnlich.
- Bypass alle wichtigen KI-Erkennungstools mit nur einem Klick.
- Verwenden Sie AI sicher und zuversichtlich in Schule und Beruf.
Fiktive Prominentenwerbung
Betrüger bedienen sich des Images einer vertrauenswürdigen Persönlichkeit des öffentlichen Lebens, um das Wohlwollen und das Vertrauen ihres Publikums auszunutzen. Sie bewerben unter Umständen verdächtige oder risikoreiche Projekte, wie beispielsweise Kryptowährungsplattformen, Investitionsbetrug oder Wundermittel.
Liebesbetrug
Bei einem Liebesbetrug nutzt ein Betrüger eine falsche Identität, um eine Beziehung zu einem Opfer aufzubauen, in der Regel über eine Dating plPlattform. Der Betrüger nutzt die Gefühle seines Opfers aus und verleitet es dazu, Geld zu überweisen, vertrauliche Informationen preiszugeben oder sich bei betrügerischen Investitionsplattformen anzumelden.
KYC-Umgehung
Mithilfe der Deepfake-Technologie lassen sich Ausweisdokumente erstellen, die so überzeugend wirken, dass sie KYC-Prüfungen umgehen können. Betrüger nutzen diese gefälschten Dokumente, um fiktive Identitäten zu schaffen, betrügerische Konten zu eröffnen und sich unbefugten Zugang zu Finanzdienstleistungen zu verschaffen.
So erkennt man Deepfake-Gesichtsverfälschungen
Obwohl Deepfake-Gesichtsvertauschungen immer überzeugender werden, können visuelle Analysen, die Überprüfung von Metadaten und KI-basierte Erkennungswerkzeuge nach wie vor dabei helfen, sie von echten Medieninhalten zu unterscheiden. Hier finden Sie eine Schritt-für-Schritt-Anleitung zur Erkennung von Deepfake-Gesichtsvertauschungen.
Schritt 1: Manuelle Sichtprüfung durchführen
Da generative Modelle zur Erstellung von Bildern mathematische Verfahren nutzen, anstatt Szenen direkt mit Kameras aufzunehmen, weisen ihre Ergebnisse oft subtile KI-Artefakte die im Widerspruch zur natürlichen Anatomie, zur Beleuchtung oder zu physischen Interaktionen stehen.
Zu den Artefakten, auf die Sie prüfen können, gehören:
- Gesichtsverzerrungen: Schiefstehende Augen, ungleichmäßige Gesichtszüge, unnatürlich aussehende Zähne oder unregelmäßige Hautstrukturen.
- Unregelmäßigkeiten bei der Beleuchtung: Schatten, Lichter oder Hauttöne, die nicht zur umgebenden Szene passen.
- Artefakte mischen: Sichtbare Nähte, unscharfe Kanten oder unnatürliche Übergänge an der Stelle, an der das ausgetauschte Gesicht auf den ursprünglichen Kopf trifft.
- Unnatürliche Ausdrücke: Gesichtsbewegungen oder Mimik, die steif, übertrieben oder im Widerspruch zum Rest des Gesichts wirken.
- Uneinheitliche Hautstruktur: Unterschiede in der Schärfe, Detailgenauigkeit oder Textur zwischen dem ausgetauschten Gesicht und der umgebenden Haut.
- Grenzverzerrungen: Verzerrungen im Bereich der Kieferlinie, des Haaransatzes, der Ohren oder des Halses, wo das ersetzte Gesicht auf das ursprüngliche Bild trifft.
- Zeitliche Unstimmigkeiten in Videos: Flackernde Gesichtszüge, plötzliche Veränderungen im Aussehen oder Bewegungen, die nicht über alle Einzelbilder hinweg konsistent bleiben.
Diese Methode eignet sich für ältere oder einfachere Modelle, die nicht auf dem neuesten Stand der modernen Generierungstechniken sind. Viele neuere Modelle wurden jedoch ausreichend trainiert, um Artefakte effektiver zu verbergen, wodurch Deepfake-Gesichtsvertauschungen allein durch visuelle Überprüfung schwerer zu erkennen sind.
Schritt 2: Vergleichen Sie den verdächtigen Gegenstand mit anderen Medien
Stammt der mutmaßliche Deepfake aus einer Online-Veröffentlichung (im Gegensatz zu einem privaten Bild, Profilfoto oder Videoanruf), lohnt es sich, die begleitenden Informationen zu prüfen. Der Kontext und die Quelle des Mediums können Unstimmigkeiten aufdecken, die auf Manipulation oder Falschdarstellung hindeuten.
Hier sind einige Möglichkeiten, dies zu überprüfen:
- Überprüfen Sie die Originalquelle: Suchen Sie nach der frühesten verfügbaren Version des Bildes oder Videos. Echte Fotos stammen eher von seriösen Nachrichtenagenturen, offiziellen Websites oder verifizierten Konten. Wenn das Bildmaterial an anderer Stelle veröffentlicht wurde, haben Sie Grund, es mit Argwohn zu betrachten.
- Schau dir die anderen Fotos der Person an: Wenn es sich bei der Person im Deepfake um eine Persönlichkeit des öffentlichen Lebens oder jemanden handelt, den Sie kennen, bieten andere verifizierte Fotos oder Bilder einen guten Anhaltspunkt. Ein Vergleich der verdächtigen Medien mit diesen anderen Fotos kann Unstimmigkeiten bei den Gesichtszügen, dem Gesichtsausdruck oder anderen kontextbezogenen Details aufdecken.
- Suchen Sie nach Belegen, die dies bestätigen: Prüfen Sie, ob andere zuverlässige Quellen das in den Medien dargestellte Ereignis, die Aussage oder die Interaktion bestätigen.
Die Tatsache, dass ein Foto oder Video von einer verifizierten Quelle gepostet wurde, garantiert nicht, dass es echt ist. Allerdings ist die Wahrscheinlichkeit, dass das Foto für betrügerische Zwecke missbraucht wird, dadurch deutlich geringer.
Schritt 3: Metadaten und Herkunft prüfen
Metadaten sind die Daten in einem Bild oder Video, die dessen Eigenschaften beschreiben, darunter auch, wie es erstellt, bearbeitet und verarbeitet wurde. Provenienzaufzeichnungen hingegen enthalten Informationen darüber, woher eine Datei stammt und wie sie sich im Laufe der Zeit verändert hat. Beides liefert nützliche Hinweise auf die Herkunft eines mutmaßlichen Deepfake-Gesichtsaustauschs.
Die Überprüfung von Metadaten und Provenienzdaten umfasst die folgenden Schritte:
- Die Originaldatei herunterladen: Der erste Schritt besteht darin, das Bild oder Video direkt von der Originalquelle zu beziehen. Vermeiden Sie Screenshots oder erneut hochgeladene Inhalte aus sozialen Medien, da dabei Metadaten in der Regel entfernt, verändert oder neu kodiert werden.
- Überprüfen Sie die Metadaten: Sie können die Metadaten mit einem Metadaten-Tool wie beispielsweise ExifTool oder Metadata2Go einsehen. Je nach Betriebssystem können Sie auch mit der rechten Maustaste auf das Foto klicken, um weitere Informationen zu erhalten.
- Achten Sie auf Unstimmigkeiten: Prüfen Sie, ob Unstimmigkeiten zwischen Zeitstempeln, Software-Tags oder anderen verfügbaren Angaben und der angegebenen Herkunft der Datei bestehen. So können beispielsweise bearbeitete Software-Tags darauf hindeuten, dass die Datei bearbeitet wurde, während widersprüchliche Zeitstempel Zweifel an ihrem Entstehungsverlauf aufkommen lassen können.
- Auf Inhaltszertifikate prüfen: C2PA-kompatible Prüfprogramme können aufzeigen, ob eine Datei Anzeichen einer Manipulation aufweist oder gültige digitale Signaturen enthält. Außerdem können sie verfügbare Herkunftsdaten anzeigen, darunter die Herkunft der Datei, die Erstellungsmethode und dokumentierte Bearbeitungen, was dabei helfen kann, von KI generierte oder manipulierte Inhalte zu identifizieren.
Nutzen Sie die Ergebnisse der Metadatenanalyse als eine von mehreren Beweisquellen im Rahmen einer umfassenderen Untersuchung. Auch wenn Unstimmigkeiten eine genauere Prüfung erfordern, lassen sich anhand von Metadaten allein keine Schlussfolgerungen darüber ziehen, ob eine Datei authentisch ist oder manipuliert wurde. Manche Deepfakes enthalten nach wie vor plausible Metadaten, während legitime Medien Bearbeitungshinweise enthalten oder gänzlich keine Herkunftsangaben aufweisen können.
Schritt 4: Führen Sie eine KI-Erkennungsanalyse durch
Eine effiziente Methode zur Untersuchung mutmaßlicher Deepfakes ist die Durchführung einer KI-Erkennungsanalyse. KI-Erkennungstools nutzen forensische Analysen, um Bilder und Videos nach Anzeichen zu durchsuchen, die typischerweise mit generativer KI in Verbindung gebracht werden, wie beispielsweise statistische Muster, Anomalien auf Pixelebene, Unstimmigkeiten in den Metadaten sowie visuelle Unstimmigkeiten, die für das menschliche Auge nur schwer zu erkennen sind.
Erkennungsmodelle kombinieren diese Signale, um die Wahrscheinlichkeit zu berechnen, dass ein Inhalt von einer KI erstellt oder verändert wurde.
Kann die KI-Erkennung Deepfake-Gesichtsvertauschungen aufdecken? Ein Test
Um zu testen, wie effektiv KI-Detektoren Deepfake-Gesichtsvertauschungen erkennen können, haben wir drei Bild- und zwei Video-Gesichtsvertauschungen durch die Bild- und Videodetektoren von „Undetectable AI“ laufen lassen. Die Beispiele haben wir mithilfe kostenloser Generatoren für Gesichtsvertauschungen erstellt, indem wir nicht lizenzierte Stockbilder mit bereits vorhandenen Vorlagen für Gesichtsvertauschungen kombiniert haben.
Die von uns verwendeten Tools waren der „Undetectable AI“-Bilddetektor und der „Undetectable AI“-Videodetektor. Beide basieren auf TruthScan und wurden anhand von Modellen wie Dall-E, ChatGPT und Gemini trainiert.
Bildergebnisse
Bildbeispiel 1
Erkennungswert = 3% Real
Beispielbild 2
Erkennungswert = 1% Real
Bildbeispiel 3
Erkennungswert = 4% Real
Die nicht nachweisbaren KI-Systeme AI-Bild-Detektor bewertet Bilder danach, wie wahrscheinlich es ist, dass sie echt sind. Je näher ein Wert also bei Null liegt, desto wahrscheinlicher ist es, dass ein Bild von einer KI generiert wurde. Unsere Beispiele erzielten Werte von 3%, 1% bzw. 49%.
Wie Sie sehen können, wies keines der Bilder offensichtliche visuelle Mängel auf, mit Ausnahme von Beispiel drei, bei dem geringfügige Unstimmigkeiten hinsichtlich der Beleuchtung und der Proportionen zu erkennen sind. Der KI-Detektor konnte die subtilen Muster erkennen, die darauf hindeuteten, dass die Fotos mathematisch generiert und nicht direkt mit einer Kamera aufgenommen wurden.
Videoergebnisse
Erkennungswert = 86% AI
Erkennungswert = 97% KI
Das Unauffindbare KI-Videodetektor bewertet Videos danach, wie wahrscheinlich es ist, dass sie KI-generierte Inhalte enthalten. Je näher eine Bewertung an 100% liegt, desto wahrscheinlicher ist es, dass das Video von einer KI generiert oder bearbeitet wurde.
Unser Test mit Videos ergab ähnliche Ergebnisse. Der Videodetektor erkannte verzerrte Gesichtsausdrücke, unnatürliche Bewegungen und unnatürliche anatomische Proportionen erfolgreich.
Häufig gestellte Fragen
Woran erkennt man, ob auf einem Foto ein Gesicht ausgetauscht wurde?
Bei Deepfake-Gesichtsvertauschungen lassen sich häufig visuelle Details erkennen, die nicht mit den Gesetzen der Physik, der Anatomie oder der Beleuchtung in der realen Welt vereinbar sind. Zu den typischen Merkmalen zählen verzerrte Gesichtszüge, unnatürliche Hauttexturen, unpassende Beleuchtung, unscharfe Kanten im Kieferbereich oder unregelmäßige Übergänge zwischen dem Gesicht und der umgebenden Haut. Mithilfe von KI-Erkennung lassen sich auch Anzeichen identifizieren, die nicht auf den ersten Blick erkennbar sind.
Können KI-Detektoren Gesichtsvertauschungen in Kurzvideos erkennen?
KI-Detektoren können Muster erkennen, die typischerweise mit Deepfake-Gesichtsvertauschungen in Verbindung gebracht werden. Sie können Videos auf visuelle und zeitliche Unstimmigkeiten untersuchen, wie beispielsweise anatomische Fehler, Überblendungsartefakte, Unstimmigkeiten in der Beleuchtung und inkonsistente Bewegungen. Allerdings liefern KI-Detektoren in der Regel eher Wahrscheinlichkeitswerte als eindeutige Urteile, weshalb es ratsam ist, die Ergebnisse eher als Indizien denn als eindeutige Beweise zu betrachten.
Was soll ich tun, wenn ich den Verdacht habe, dass es sich bei einem Bild oder Video um einen Deepfake handelt?
Was zu tun ist, hängt von Ihrer aktuellen Situation ab.
Sollten Sie bei der Kommunikation mit einer Ihnen vertrauten Person – beispielsweise einem Angehörigen, einem Geschäftspartner oder einem Dienstleister – auf einen mutmaßlichen Deepfake stoßen, brechen Sie die Kommunikation ab und kontaktieren Sie die Person über einen vertrauenswürdigen Kanal, um ihre Identität zu überprüfen.
Sollten Sie auf einer Dating-Plattform auf mutmaßliche Deepfakes stoßen, vergleichen Sie die Bilder und Videos mit den anderen Online-Profilen der betreffenden Person. Achten Sie auf visuelle Unstimmigkeiten oder Hinweise darauf, dass es sich bei dem Inhalt um eine echte Person handelt.
Wenn Sie in einem Beitrag in den sozialen Medien oder auf einer Website auf ein Bild oder Video stoßen, bei dem der Verdacht auf einen Deepfake besteht, suchen Sie nach der Originalquelle und prüfen Sie deren Vertrauenswürdigkeit. Vergleichen Sie den Inhalt mit zuverlässigen Quellen, um sicherzustellen, dass die dargestellten Informationen der Wahrheit entsprechen.
Schlussgedanken
Um Deepfake-Gesichtsvertauschungen zu erkennen, sollte man zunächst auf unnatürliche Gesichtszüge, uneinheitliche Beleuchtung und unstimmige Bewegungen achten. Wenn etwas verdächtig erscheint, sollte man sich nicht allein auf die visuelle Überprüfung verlassen. Nutzen Sie KI-basierte Erkennungsmethoden, um den Inhalt zu bewerten, bevor Sie ihm vertrauen oder ihn weitergeben.
Möchten Sie ein verdächtiges Bild oder Video überprüfen? Probieren Sie „Undetectable AI“ aus. Deepfake-Detektor um potenziell manipulierte Medien zu analysieren und fundiertere Entscheidungen darüber zu treffen, was Sie online sehen.