Co to jest Deepfake? Definicja i prawdziwe przykłady

Termin deepfake po raz pierwszy pojawił się na Reddicie w 2017 rokuKiedy użytkownik o tej samej nazwie ekranowej zaczął udostępniać zmienione filmy, które wykorzystywały sztuczną inteligencję do zamiany twarzy, początkowo w treściach dla dorosłych. 

Podczas gdy Reddit zbanował oryginalny subreddit, pomysł już się przyjął. 

Ale korzenie tej technologii sięgają jeszcze dalej.

W 1997 roku naukowcy zaczęli już eksperymentować z edycją wideo za pomocą uczenia maszynowego. 

Ich wczesne narzędzie do synchronizacji ruchu warg, zwane Przepisywanie wideo może sprawić, że ktoś wyda się mówić coś, czego nie powiedział.

Nie był to technicznie deepfake według dzisiejszych standardów, ale położył podwaliny pod to, co miało nastąpić później.

Dzisiejszy blog poświęcony jest temu, jak działa ta rozwijająca się technologia, gdzie pojawia się w codziennym życiu oraz jakie ryzyko i korzyści ze sobą niesie. 

Zacznijmy od zrozumienia, czym właściwie jest deepfake.

---

Kluczowe wnioski:

• Deepfakes to media generowane przez sztuczną inteligencję, które sprawiają, że ludzie wydają się mówić lub robić rzeczy, których w rzeczywistości nigdy nie zrobili.

• Dzięki darmowym narzędziom i podstawowym umiejętnościom prawie każdy może teraz tworzyć przekonujące deepfake'owe filmy, obrazy lub klipy audio.

• Chociaż deepfakes mogą być kreatywne lub zabawne, stwarzają również poważne zagrożenia, takie jak oszustwa, zniesławienie i dezinformacja.

• Większość deepfake'ów można wykryć za pomocą narzędzi wykrywających lub uważnie obserwując niespójności wizualne i behawioralne.

---

Co to jest Deepfake?

Deepfake to fałszywe media, zwykle wideo, klipy audio lub obrazy, które zostały zmienione przy użyciu sztucznej inteligencji, aby ktoś wyglądał lub brzmiał, jakby robił lub mówił coś, czego w rzeczywistości nigdy nie zrobił. 

Nie należy mylić tego z kiepskim Photoshopem lub szkicowym lektorem.

Mówimy o manipulacji na wysokim poziomie przy użyciu technologii zwanej głębokim uczeniem się, która jest podzbiorem sztucznej inteligencji.

To właśnie sugeruje termin "deepfake": głębokie uczenie się i fałszywe treści.

Celem deepfake'u jest zazwyczaj stworzenie czegoś, co wygląda na tyle realistycznie, by oszukać ludzi.

Być może widziałeś te wirusowe filmy przedstawiające celebrytów robiących dziwaczne rzeczy lub polityków wygłaszających skandaliczne oświadczenia, których nigdy by nie powiedzieli. 

Są to klasyczne przypadki użycia deepfake. To, co widzisz, nie jest prawdziwe, ale technologia stojąca za tym stała się na tyle dobra, że twój mózg nie od razu wychwytuje fałszerstwo, chyba że naprawdę patrzysz.

W rzeczywistości, według zespołu badawczego Undetectable AI, 85 % Amerykanów twierdzi, że deepfake podważył ich zaufanie do informacji online..

Właśnie dowiedziałeś się, czym właściwie jest deepfake wideo lub media, a teraz dowiesz się, jak ludzie je tworzą.

Jak powstają podróbki

Technologia stojąca za większością deepfake'ów to kategoria algorytmów uczenia maszynowego zwanych generatywnymi sieciami przeciwstawnymi (GAN). 

Sieci GAN składają się z dwóch części: generatora i dyskryminatora. 

Generator tworzy fałszywe media w oparciu o to, co został przeszkolony do replikacji, a zadaniem dyskryminatora jest wykrycie tego, co wygląda na fałszywe. 

I tak w kółko, dopóki generator nie stanie się lepszy w tworzeniu fałszywych treści, które mogą przejść test dyskryminatora. 

Z biegiem czasu ta wymiana poglądów prowadzi do powstania mediów, które wyglądają szokująco realistycznie.

Czym jest proces generowania Deepfake Video?

Tworząc deepfake wideo, system analizuje filmy pod wieloma kątami, bada, jak dana osoba mówi, jak porusza się jej twarz, jak zmienia się jej ciało. 

Wszystkie te informacje są przekazywane do generatora, dzięki czemu może on tworzyć treści naśladujące te zachowania. 

Następnie dyskryminator pomaga go dostroić, wskazując, co jest nie tak, aż efekt końcowy będzie wyglądał po prostu dobrze.

Dzięki temu iluzja tak dobrze trzyma się w ruchu.

Istnieje kilka różnych technik wykorzystywanych w zależności od celu wideo deepfake. 

Jeśli chodzi o sprawienie, by ktoś wydawał się mówić lub robić coś w filmie, czego w rzeczywistości nie powiedział ani nie zrobił, to mamy do czynienia z tak zwanym deepfake'iem źródłowego wideo. 

Autoenkoder deepfake, składający się z kodera i dekodera, analizuje oryginalny materiał filmowy i nakłada na niego mimikę, gesty i subtelne ruchy głowy celu. 

Audio Deepfakes

Audio deepfake działa poprzez klonowanie czyjegoś głosu, ponownie przy użyciu GAN, w oparciu o nagrania tego, jak naturalnie mówi dana osoba. 

Po przeszkoleniu model może generować nowe wypowiedzi w tym głosie, nawet jeśli dana osoba nigdy nie wypowiedziała tych słów. 

Kolejną często dodawaną warstwą jest synchronizacja ruchu warg. 

W tym przypadku system mapuje wygenerowany lub wcześniej nagrany dźwięk na wideo.

Celem jest sprawienie, aby usta na filmie pasowały do słów w dźwięku. 

Przykłady Deepfake w świecie rzeczywistym

Deepfakes pojawiają się obecnie wszędzie. 

Przedstawiamy kilka popularnych deepfake'ów, które pokazują, jak daleko zaszła ta technologia.

Deepfake z prezydentem Zełenskim proszącym ukraińskie wojska o poddanie się

W marcu 2022 r., podczas wczesnych etapów wojny rosyjsko-ukraińskiej, w sieci pojawiło się wideo pokazujący ukraińskiego prezydenta Wołodymyra Zełenskiego wzywając swoich żołnierzy do poddania się. 

Wyglądało to jak przemówienie narodowe, wraz z głosem i manierami Zełenskiego. 

Wideo rozprzestrzeniło się na platformach społecznościowych, a nawet zostało opublikowane na skompromitowanej ukraińskiej stronie internetowej. 

Prezydent zadziałał szybko i wydał oficjalne oświadczenie za pośrednictwem swoich zweryfikowanych kanałów, aby zdementować nagranie. 

Wirusowy deepfake przedstawiający papieża Franciszka w designerskiej kurtce puchowej

Czasami obraz deepfake nie musi być złośliwy, aby wywołać zamieszanie.

W 2023 roku wirusowe zdjęcie przedstawiające Papież Franciszek spaceruje w stylowej białej kurtce puchowej Balenciaga szturmem zdobył internet.

Zdobył dziesiątki milionów wyświetleń i był szeroko udostępniany na różnych platformach.

Obraz został stworzony przy użyciu narzędzia AI o nazwie Midjourney przez anonimowego użytkownika z Chicago. 

Podróbki Elona Muska wykorzystywane w oszustwach internetowych

W 2024 r, deepfakes z udziałem Elona Muska stał się główną częścią kilku oszustw internetowych na dużą skalę. 

Wygenerowane przez sztuczną inteligencję filmy Muska zaczęły pojawiać się na Facebooku, TikTok i innych platformach, promując fałszywe prezenty kryptowalutowe i programy inwestycyjne. 

Te klipy wyglądały i brzmiały niezwykle realistycznie.

Szkody nie były tylko teoretyczne. Starszy emeryt stracił podobno prawie $700,000 po tym, jak przekonał go jeden z tych filmów. 

Deepfake Robocall Joe Bidena skierowany do wyborców w USA

Na początku 2024 roku, tuż przed prawyborami w New Hampshire, wyborców otrzymało automatyczne połączenia który brzmiał dokładnie jak prezydent USA Joe Biden. 

W rozmowie telefonicznej Joe Biden namawiał wyborców do pozostania w domu i zachowania głosu na wybory powszechne w listopadzie. Zamiarem było zmylenie i wprowadzenie w błąd wyborców, aby pominęli prawybory.

Incydent ten wywołał wezwania do regulacji. Grupy rzeczników wezwały Federalną Komisję Wyborczą USA do wkroczenia, ale FEC ostatecznie odmówiła, powołując się na ograniczenia swoich uprawnień.

Tymczasem firma telekomunikacyjna odpowiedzialna za dystrybucję robocallu zgodził się zapłacić $1 mln grzywny.

Polityczne wykorzystanie Deepfake w wyborach w Indiach w 2020 r.

Nie wszystkie zastosowania technologii deepfake są szkodliwe lub wprowadzające w błąd (więcej na ten temat w dalszej części bloga).

Podczas wyborów do Zgromadzenia Ustawodawczego Delhi w 2020 r. Partia Bharatiya Janata wykorzystała sztuczną inteligencję do dostosowania reklamy kampanii dla różnych odbiorców językowych. 

Partia nagrała wideo, na którym jej lider Manoj Tiwari przemawia po angielsku i wykorzystała sztuczny lip-syncing, by stworzyć wersję w regionalnym dialekcie Haryanvi.

Podczas gdy lektor pochodził od aktora, oprawa wizualna została zmodyfikowana tak, aby pasowała do nowego dźwięku przy użyciu sztucznej inteligencji wyszkolonej na prawdziwych nagraniach Tiwariego. 

Członkowie partii postrzegali to jako pozytywne zastosowanie technologii, które pozwoliło im nawiązać kontakt z wyborcami w zrozumiałym dla nich języku, nawet jeśli kandydat nie mówił nim płynnie.

Czy podróbki są niebezpieczne? Zagrożenia i obawy

Do tej pory przyjrzeliśmy się, czym jest deepfake, jak powstaje i gdzie już pojawił się w prawdziwym świecie. 

Technologia ta jest niezaprzeczalnie imponująca, ale ryzyko z nią związane jest poważne i szybko rośnie. 

Podróbki mogą być wykorzystywane na wiele sposobów. Oto kilka głównych obaw.

Zniesławienie

Gdy czyjaś podobizna lub głos są wykorzystywane do tworzenia fałszywych komentarzy, oświadczeń lub filmów, zwłaszcza tych obraźliwych lub kontrowersyjnych, może to niemal natychmiast zrujnować reputację. 

W przeciwieństwie do starszych oszustw lub fałszywych cytatów, przekonujący deepfake nie pozostawia widzowi wiele miejsca na wątpliwości.

Pod tym względem deepfakes mogą wywoływać oburzenie, niszczyć relacje lub po prostu forsować szkodliwą narrację. 

Szczególnie niepokojące jest to, że deepfake nie musi być nawet idealny.

Tak długo, jak osoba jest rozpoznawalna, a treść jest wystarczająco wiarygodna, może to wywrzeć trwały wpływ na opinię publiczną.

Wiarygodność informacji

Inną ważną kwestią jest to, w jaki sposób deepfakes podważają samą ideę prawdy. 

W miarę jak deepfake'i stają się coraz bardziej powszechne, coraz trudniej jest stwierdzić, czy to, co widzimy lub słyszymy, jest prawdziwe. Z czasem może to doprowadzić do szerszej erozji zaufania do jakiejkolwiek formy komunikacji cyfrowej.

Kryzys wiarygodności wykracza poza pojedyncze incydenty.

W społeczeństwach demokratycznych ludzie polegają na wspólnych faktach przy podejmowaniu decyzji, debatowaniu i rozwiązywaniu wspólnych problemów. 

Ale jeśli wyborcy, widzowie lub obywatele zaczną kwestionować wszystko, znacznie łatwiej będzie manipulować opinią publiczną lub odrzucać niewygodne prawdy jako "kolejny deepfake". 

Szantaż

Media generowane przez sztuczną inteligencję mogą być wykorzystywane do fałszywego obciążania osób, sprawiając wrażenie, że zrobiły coś nielegalnego, nieetycznego lub zawstydzającego. 

Tego rodzaju sfabrykowane dowody można następnie wykorzystać do zastraszania lub kontrolowania ich.

I to działa w obie strony. Ponieważ deepfake'i są teraz tak realistyczne, ktoś w obliczu prawdziwego szantażu może twierdzić, że dowody są fałszywe, nawet jeśli tak nie jest. 

Jest to czasami określane jako inflacja szantażu, gdzie sama ilość wiarygodnych podróbek zmniejsza wartość rzeczywistych materiałów obciążających. 

Wiarygodność prawdziwych dowodów ginie we mgle, a to tylko dodaje kolejną warstwę złożoności podczas próby ujawnienia niewłaściwego postępowania.

Oszustwa i przekręty

Korzystając z filmów generowanych przez sztuczną inteligencję lub głosów zaufanych osób publicznych, oszuści tworzą niezwykle przekonujące schematy.

W niektórych przypadkach podróbki celebrytów, takich jak Elon Musk, Tom Hanks czy Oprah Winfrey, są wykorzystywane do promowania produktów lub usług, o których nigdy nie słyszeli.

Filmy te są następnie rozpowszechniane na platformach społecznościowych, gdzie docierają do milionów osób.

Nawet osoby prywatne są narażone na ryzyko, zwłaszcza w kampaniach spearphishingowych, które są skierowane do konkretnych osób za pomocą spersonalizowanych treści zaprojektowanych w celu manipulacji lub oszustwa.

Według Raport Forbes z 2024 r.Oszustwa oparte na deepfake'ach przyniosły już globalne straty szacowane na $12 miliardów, a oczekuje się, że liczba ta wzrośnie ponad trzykrotnie w ciągu najbliższych kilku lat. 

Pozytywne i kreatywne zastosowania Deepfakes

Warto zauważyć, że nie każde zastosowanie tej technologii jest negatywne. 

Podczas gdy wiele blogów wyjaśniających, czym jest deepfake, koncentruje się na niewłaściwym użyciu, istnieje coraz większa lista kreatywnych i produktywnych sposobów wykorzystania deepfake'ów. 

Poniżej znajduje się kilka godnych uwagi przykładów.

Występy filmowe i aktorskie

Studia zaczynają polegać na technologii deepfake do takich rzeczy jak: 

• Ulepszanie efektów wizualnych
• Obniżenie kosztów produkcji
• Przywracanie postaci, których już nie ma 

Disneyna przykład, udoskonala modele deepfake o wysokiej rozdzielczości, które pozwalają na zamianę twarzy i postarzanie aktorów z imponującym realizmem.

Ich technologia działa w rozdzielczości 1024 x 1024 i może dokładnie śledzić mimikę twarzy, aby postacie wyglądały młodziej lub bardziej wyraziście.

Poza Hollywood, deepfakes umożliwiły globalną kampanię, na przykład gdy David Beckham został sklonowany cyfrowo aby przekazać wiadomość zdrowotną w wielu językach.

Sztuka

W 2018 roku artysta multimedialny Joseph Ayerle wykorzystał technologię deepfake do stworzenia aktora AI, który połączył twarz włoskiej gwiazdy filmowej Ornelli Muti z ciałem Kendall Jenner. 

Rezultatem była surrealistyczna eksploracja tożsamości pokoleniowej i artystyczna prowokacja, będąca częścią dzieła wideo zatytułowanego Un'emozione per sempre 2.0.

Deepfakes pojawiły się również w satyrze i parodii. 

Serial internetowy Sassy Justice z 2020 roku, stworzony przez twórców South Park, Treya Parkera i Matta Stone'a, jest tego najlepszym przykładem. 

Wykorzystywał on deepfake'owane osoby publiczne, aby żartować z bieżących wydarzeń, jednocześnie podnosząc świadomość na temat samej technologii. 

Obsługa klienta

Poza branżami kreatywnymi, firmy znajdują zastosowanie w deepfake'ach w usługach skierowanych do klientów. 

Niektóre centra telefoniczne wykorzystują obecnie syntetyczne głosy oparte na technologii deepfake do automatyzacji podstawowych żądań, takich jak zapytania o konto lub rejestrowanie skarg. 

W takich przypadkach intencją nie jest złośliwość, ale po prostu usprawnienie.

Systemy odpowiedzi na połączenia mogą być personalizowane za pomocą głosów generowanych przez sztuczną inteligencję, aby zautomatyzowane usługi brzmiały bardziej naturalnie i angażująco.

Ponieważ obsługiwane zadania są zwykle mało ryzykowne i powtarzalne, deepfakes w tym kontekście pomagają obniżyć koszty i uwolnić ludzkich agentów do bardziej złożonych kwestii.

Edukacja

Platformy edukacyjne zaczęły również włączać korepetytorów opartych na deepfake, aby pomagać uczniom w bardziej interaktywny sposób. 

Tutorzy sterowani przez sztuczną inteligencję mogą prowadzić lekcje przy użyciu syntetycznych głosów i spersonalizowanych wskazówek.

Narzędzia i techniki Deepfake Detection

W miarę jak deepfakes stają się coraz bardziej zaawansowane i dostępne, rośnie potrzeba ich identyfikacji, zanim wyrządzą szkodę. 

Ludzie i organizacje również potrzebują odpowiednich narzędzi i technik, aby być o krok do przodu. Oto kilka narzędzi i technik.

Detektor obrazów AI od Undetectable AI

Detektor obrazów AI Undetectable AI sprawia, że wykrywanie fałszywych obrazów jest łatwiejsze, nawet dla osób bez wykształcenia technicznego. 

Detektor działa poprzez analizę różnych elementów przesłanego obrazu, takich jak wzory kolorów, tekstury, rysy twarzy i niespójności strukturalne. 

Obsługuje wykrywanie multimediów utworzonych przy użyciu najbardziej znanych generatorów obrazów AI, takich jak 

• MidJourney 
• DALL-E
• Stabilna dyfuzja 
• Ideogram
• Modele oparte na sieciach GAN

Aby z niego skorzystać, wystarczy przesłać obraz, pozwolić narzędziu go przeanalizować i otrzymać jasny werdykt z wynikiem zaufania.

Jeśli nie masz pewności, czy napotkany obraz jest autentyczny, Wypróbuj nasz wykrywacz obrazów AI aby sprawdzić wszelkie oznaki manipulacji AI.

Na przykład, oto obraz AI flaminga wygenerowany przy użyciu Stable Diffusion.

Załóżmy teraz Detektor sztucznej inteligencji Undetectable i sprawdzić, czy jest w stanie dokładnie rozpoznać, że obraz jest generowany przez sztuczną inteligencję.

Jak widać, detektor AI obrazu Undetectable AI oznaczył ten obraz jako 100% wygenerowany przez AI.

TruthScan

Innym godnym uwagi narzędziem w walce z deepfake'ami jest TruthScan. 

TruthScan został stworzony do analizy wideo o wysokiej stawce. Jego celem jest ochrona organizacji przed oszustwami wideo, fałszowaniem tożsamości i kampaniami dezinformacyjnymi na platformach cyfrowych.

TruthScan oferuje szeroki zestaw funkcji:

• Face Swap Detection wyszukuje oznaki zamiany twarzy i ataków polegających na odtwarzaniu przy użyciu analizy klatka po klatce.
• Uwierzytelnianie twarzy pomaga zweryfikować, czy twarz i mimika danej osoby są autentyczne, czy wygenerowane syntetycznie.
• Analiza strumienia na żywo jest szczególnie przydatna w przypadku połączeń wideo lub wydarzeń na żywo, wykrywając podróbki w czasie rzeczywistym z niskim opóźnieniem.
• Video Forensics bada artefakty kompresji, niespójności klatek i cyfrowe odciski palców, które mogą ujawnić ślady edycji.

Wizualne i behawioralne techniki wykrywania ręcznego

Istnieją również praktyczne techniki, które osoby prywatne mogą wykorzystać do ręcznego wykrywania deepfake'ów, zwłaszcza w sytuacjach, w których konieczna jest natychmiastowa analiza.

Niektóre wizualne sygnały ostrzegawcze obejmują:

• Niezręczne ułożenie twarzy lub dziwna mimika.
• Niespójne oświetlenie lub kolorystyka w różnych częściach obrazu lub wideo.
• Migotanie wokół twarzy lub linii włosów, szczególnie podczas ruchu.
• Brak naturalnego mrugania lub nieregularne ruchy gałek ocznych.
• Rozbieżności w synchronizacji ust, gdy dźwięk nie pasuje do mowy.

Z behawioralnego punktu widzenia, deepfakes często mają trudności z naśladowaniem subtelnych ludzkich cech. Zwróć uwagę na mowę ciała, wyrażanie emocji i nawykowe gesty.

A w rozmowach w czasie rzeczywistym, zwłaszcza w filmach na żywo, poproś o widok z profilu bocznego.

Wiele modeli deepfake wciąż ma trudności z dokładnym odwzorowaniem kąta twarzy 90 stopni lub złożonych ruchów, takich jak obracanie głowy, przy jednoczesnym zachowaniu naturalnej mimiki.

Wykrywanie podróbek w tekście i kontekście

Deepfakes nie ograniczają się do wizualizacji. Niektóre wersje obejmują syntetyczny tekst, głos lub zachowanie, które naśladuje czyjś styl komunikacji.

Podczas analizowania treści tekstowych lub dialogów należy zwracać uwagę na:

• Błędy ortograficzne i dziwna gramatyka.
• Zdania, które wydają się wymuszone lub nie płyną naturalnie.
• Nietypowe adresy e-mail lub niespójne sformułowania.
• Wiadomości, które wydają się wyrwane z kontekstu lub niezwiązane z sytuacją.

Kontekst również ma znaczenie. Jeśli film lub wiadomość pojawia się w otoczeniu, które nie ma sensu, na przykład polityk od niechcenia ogłaszający ważną decyzję w klipie niskiej jakości, warto zakwestionować jego autentyczność.

Ciekawi Cię nasz AI Detector i Humanizer? Wypróbuj je w widgecie poniżej!

Najczęściej zadawane pytania dotyczące Deepfakes

Przemyślenia końcowe

Teraz już wiesz, czym jest deepfake image lub media w ogóle. Jest to złożone połączenie sztucznej inteligencji i głębokiego uczenia się, które może przekonująco naśladować ludzi, wizualnie lub dźwiękowo, często bez ich wiedzy lub zgody. 

I choć zagrożenia są bardzo realne, kreatywne zastosowania również nie są mniejsze.

Ostateczny wniosek jest następujący: deepfakes nigdzie się nie wybierają. Wraz z ciągłym doskonaleniem technologii, nasza zdolność do jej rozpoznawania i reagowania na nią musi być coraz lepsza. 

Jeśli szukasz prostego i skutecznego sposobu na sprawdzenie, czy obraz został wygenerowany przez sztuczną inteligencję, wypróbuj Undetectable AI Image Detector. 

Jest szybki, dokładny i łatwy w użyciu dla każdego.

Sprawdź teraz swój obraz za pomocą detektora obrazu AI i zobacz, co ujawni.