Donald Trump zatrzymywany przez policję, Elvis Presley występujący w amerykańskim „Mam talent”, bełkocząca Kamala Harris, papież Franciszek w białej kurtce puchowej. Żyjemy w czasach, w których coraz częściej nie możemy ufać temu, co widzimy i słyszymy. Deepfake'i od lat zalewają przestrzeń medialną, wpływając na napięcia społeczne, relacje międzyludzkie, a także, coraz częściej, politykę.
- „Deepfake” to fałszywe zdjęcie, film lub nagranie audio wygenerowane przez model sztucznej inteligencji.
- Wśród najgłośniejszych przykładów są spreparowane zdjęcia aresztowania Donalda Trumpa oraz wideo pokazujące rzekome uwięzienie Baracka Obamy.
- Zjawisko „dywidendy kłamcy” sprawia, że wraz ze wzrostem jakości deepfake'ów maleje wiarygodność prawdziwych nagrań jako dowodów.
Wizualna weryfikacja faktów jest trudniejsza niż kiedykolwiek. Realistycznie wyglądające fotografie stają się źródłem masowej dezinformacji. Gdzie wypatrywać latarni prawdziwości, pływając po morzu fałszywych treści?
Czytaj też: Facebook. Scamerskie reklamy z użyciem AI i miliardowe zyski.
Czym są deepfake'i?
„Deepfake” to zbitka wyrazowa łącząca angielski termin „deep learning” (tzw. uczenie głębokie) ze słowem „fake”, tłumaczonym jako „fałszywy”, „nieprawdziwy”. Uczenie głębokie to technika wykorzystująca sieci neuronowe do trenowania modeli sztucznej inteligencji.
„Deepfake” jest zatem zdjęciem, filmem lub nagraniem audio wygenerowanym przez model AI, przedstawiającym fałszywy obraz rzeczywistości.
Mimo że modyfikacja zdjęć z użyciem sieci neuronowych sięga swoją genezą poprzedniego stulecia, deepfake'i we współczesnym tego słowa pojmowaniu pojawiły się wraz z nadejściem generatywnych sieci adwersarialnych (z ang. Generative Adversarial Networks, GANs). GAN-y to modele uczenia maszynowego (z ang. Machine Learning, ML), zaproponowane przez Iana Goodfellowa w 2014 r., które są trenowane na zasadzie rywalizacji pomiędzy dwiema składowymi sieciami neuronowymi.
Jedna z nich, generator, ma za zadanie generować jak najbardziej realistyczne fotografie, podczas gdy druga, dyskryminator, uczy się rozróżniać syntetycznie wygenerowane przez generatora zdjęcia od prawdziwych zdjęć znajdujących się w zbiorze treningowym. Obie te sieci rywalizują ze sobą. Generator próbuje oszukać dyskryminatora, podczas gdy dyskryminator z czasem staje się bardziej wyczulony na coraz realniej wyglądające fałszywki.
Rywalizacja ta jest odzwierciedleniem gry o sumie zerowej z teorii gier, czyli takiej, gdzie zysk jednego gracza wiąże się ze stratą drugiego. Po właściwym wytrenowaniu takiego GAN-a otrzymujemy zatem wysokiej jakości generator, który pozwala nam tworzyć niezwykle realistycznie wyglądające zdjęcia.
Rzecz jasna, nie tylko GAN-y służą do generowania deepfake'ów. Obecnie wiele modeli uczenia maszynowego pozwala na generowanie tego typu treści. Za przykłady posłużyć mogą: Midjourney, DALL-E (stworzone przez OpenAI) czy Stable Diffusion.
Po co nam te całe „GAN-y”?
Słysząc, że GAN-y stoją za masową dezinformacją zalewającą internet, ktoś mógłby przytomnie zapytać: dlaczego ktoś je stworzył? Czy może banda sfrustrowanych naukowców w połowie drugiej dekady XXI wieku wpadła na szatański pomysł, aby zdestabilizować świat? Czy fakt, że deepfake'i używane są głównie do generowania treści pornograficznych, ma z tym jakiś związek? Badacze znani są bowiem powszechnie ze swojego osobliwego życia erotycznego.
W internecie możemy znaleźć miliony zdjęć ludzi, zwierząt, miast oraz krajobrazów. Są jednak dyscypliny, w których naukowcy mierzą się z problemem niezwykle ograniczonej liczby zdjęć służących do trenowania modeli uczenia maszynowego. Za przykład posłużyć może medycyna, a konkretnie radiologia, gdzie możliwości wykonania konkretnego badania ograniczone są przez liczbę pacjentów oraz dostęp do właściwej aparatury.
Również czas odgrywa ważną rolę. Gdyby udało się generować zdjęcia radiologiczne (np. rezonansu magnetycznego lub tomografii komputerowej) wiernie oddające niuanse badanej choroby, przyspieszyłoby to radykalnie proces tworzenia modeli wspomagających leczenie. W nauce istnieje zatem paląca potrzeba znalezienia sposobu na sztuczne wytwarzanie jak najbardziej realnie wyglądających zdjęć, różnych jednak od tego, co znajduje się w zbiorze treningowym.
Deepfake'i są więc niejako „wypadkiem przy pracy”. Jak niejednokrotnie w historii ludzkości bywało, narzędzie służące do szczytnych celów wykorzystywane jest w niewłaściwy sposób i przez niewłaściwych ludzi. Chcąc stworzyć oprogramowanie pozwalające nam obejść ograniczenie posiadania małej liczby zdjęć do celów naukowych, pozwoliliśmy na podmienianie głowy znanego aktora porno na twarz ulubionego piosenkarza lub kolegi z pracy.
Dlaczego Donald Trump został aresztowany?
Deepfake'i przyjmują różną formę. W 2023 r. po Twitterze krążyły zdjęcia przedstawiające Donalda Trumpa podczas aresztowania przez kilku funkcjonariuszy policji. Zdjęcie to było masowo udostępniane i z tego powodu wiele osób uwierzyło w jego autentyczność.
Po drugiej stronie amerykańskiej barykady stworzone zostały filmy mające na celu zdyskredytowanie Kamali Harris. W sieci viralem stały się filmy, na których ówczesna wiceprezydent Stanów Zjednoczonych bełkocze nieskładnie, sprawiając wrażenie całkowitego braku kontaktu z rzeczywistością.
Sam Donald Trump wydaje się być miłośnikiem deepfake'ów. W 2025 r. opublikował bowiem na swoim profilu wideo przedstawiające pojmanie byłego prezydenta Baracka Obamy i osadzenie go w więziennej celi. Nagranie to było jednak tak sztuczne, że nie pozostawiało wątpliwości co do jego nieautentyczności.
Przeczytaj również: Trump szykuje prezent dla Infantino. Media: chce, by został szefem ONZ
Istnieją również przypadki budzące wątpliwości natury moralnej. W 2020 r. znana celebrytka Kim Kardashian opublikowała film, na którym przemawia do niej jej nieżyjący, wówczas już od kilkunastu lat, ojciec, Robert Kardashian. Nagranie to wywołało dyskusję na temat przywracania wizerunku zmarłych z użyciem sztucznej inteligencji.
Powszechna jest także pokusa „ożywiania” od dawna nieżyjących piosenkarzy i aktorów. W 2022 r. w amerykańskim „Mam talent” wystąpiła grupa artystyczna Metaphysic, która zaprezentowała „występ Elvisa Presleya”, podczas którego twarz jednego z wokalistów została podmieniona na twarz króla rock'n'rolla.
Nawet sądownictwo odczuwa skalę problemu związanego z generowaniem nieprawdziwych zdjęć. Jeśli bowiem można wygenerować fotografię przedstawiającą dowolną osobę robiącą bezeceństwa, to ciężko potraktować jakikolwiek materiał zdjęciowy jako dowód w sprawie. Zjawisko to nosi nazwę „dywidendy kłamcy” (z ang. liar's dividend) – paradoksalnie, wraz ze wzrostem autentyczności generowanych fałszywych zdjęć zmniejsza się ich wartość dowodowa.
Deepfake'i przybierają również bezpieczną, nieraz humorystyczną formę, jak zdjęcie papieża Franciszka w białej kurtce puchowej, opublikowane przez jednego z użytkowników modelu Midjourney. Podobna technologia bywa też wykorzystywana w praktyczny sposób, np. jako narzędzie do wirtualnego przymierzania ubrań bez konieczności odbywania wizyty w sklepie.
Czy już przegraliśmy tę walkę?
W sytuacji, gdy jesteśmy zalewani coraz wyższej jakości deepfake'ami, rodzi się pytanie: czy możemy cokolwiek zrobić? A może obraliśmy już kolizyjny kurs na całkowitą utratę zaufania do jakichkolwiek mediów, a nawet do informacji wysyłanych nam przez bliskich?
Wydaje się, że minimum działań, jakie musimy podjąć, to uświadamianie społeczeństwa w temacie niebezpieczeństw, jakie mogą powodować obecne technologie. Szczególnie dzieci i osoby starsze narażone są na ataki wyrachowanych cyberprzestępców. Nietrudno wyobrazić sobie, że staromodny patent „na wnuczka” przyoblecze się w bardziej wyrafinowaną formę, w której wnuczkiem może okazać się przestępca używający prawdziwego głosu należącego do członka rodziny ofiary.
Może Cię zainteresować: Oszuści wracają. Wysyłają wiadomość o zwrocie podatku
Rodzice muszą również uczulić swoje dzieci na niebezpieczeństwa powodowane przez deepfake'i. Nieświadome dzieci mogą stać się ofiarami działań swoich rówieśników lub dorosłych, którzy będą wykorzystywać ich wizerunek w kompromitujących okolicznościach.
Jak z każdą inną nową technologią, musimy oswoić się z obecnością deepfake'ów. Obecnie, gdy widzimy szokujące nas zdjęcie lub nagranie audio czy wideo, pierwsza myśl, jaka powinna pojawiać się w naszej głowie, to: „Czy to jest na pewno prawdziwe? Jakie źródło potwierdza autentyczność tego, co widzę? Czy mogę ufać temu źródłu?”. W przeciwnym razie grozi nam chaos, masowa dezinformacja oraz amplifikacja napięć społeczno-politycznych.
Czy może być gorzej?
Chciałbym w moich przewidywaniach nie popadać w skrajny pesymizm. Z jednej strony nieprawdziwe zdjęcia i filmy staną się jeszcze bardziej powszechne, a gwałtowny rozwój sztucznej inteligencji doprowadzi zapewne do generowania długich materiałów wideo, które będą nie do odróżnienia od rzeczywistości.
Z drugiej jednak strony być może skala problemu uświadomi nam, czytelnikom i odbiorcom innych treści internetowych, że dopiero weryfikacja źródła pozwala na uwiarygodnienie oglądanego materiału jako prawdziwego. Pewne jest jedno: temat deepfake'ów musi stać się elementem wychowania następnych pokoleń oraz uwrażliwiania mniej obeznanych z technologią osób na skalę tego zjawiska.
