Istnieją narzędzia, które pozwalają zweryfikować, czy dana grafika została wygenerowana za pomocą AI. Metody sprawdzania są różne, tak jak różne są oznaczenia automatycznie dodawane przez platformy społecznościowe. Nic jednak nie jest w stanie zastąpić naszego wzroku i zdrowego rozsądku.
- Narzędzia AI często pomagają nam w codziennych czynnościach, ale są też plaga naszych czasów i często są wykorzystywane do generowania fałszywych treści.
- W sieci mamy różne narzędzia do weryfikacji prawdziwości grafik, nagrań wideo i audio. Mają one duże ograniczenia i ze 100 proc. pewnością rozpoznają tylko pliki stworzone w konkretnych narzędziach.
- Ważnym elementem weryfikacji treści są nasze zmysły. Czasem nie ma lepszego narzędzia niż nasz wzrok i zdrowy rozsądek.
Internet jest dzisiaj pełny fałszywych grafik i nagrań wygenerowanych za pomocą AI. Choć prawo nakazuje ich oznaczanie, ten obowiązek nie dotyczy wszystkich użytkowników. Jeśli udostępniamy coś z prywatnego profilu i nie służy to zarabianiu lub celom zawodowym, treści AI nie muszą mieć żadnego oznaczenia.
Narzędzia do weryfikacji treści istnieją, ale nie potrafią wyłapać każdej fałszywki. Wydarzenia ostatnich tygodni w Polsce idealnie pokazują, jak dużym jest to problemem.
„Jestem winien przeprosiny”. Romans prezesa Nvidii zagroził bezpieczeństwu narodowemu USA
Narzędzia weryfikujące treści AI nie są idealne
Zła wiadomość jest taka, że nie ma obecnie jednego, uniwersalnego narzędzia do weryfikacji treści wygenerowanych przez AI. Największe możliwości daje SynthID Detector, który sprawdza oznaczenia Google lub obsługiwanych partnerów. Wśród nich jest Apple, Kakao, Nvidia oraz OpenAI. Narzędzie sprawdza, czy na zdjęciu jest zaszyty niewidoczny cyfrowy podpis, który wskazuje miejsce, w którym zostało wygenerowane.
Osobne narzędzia oferują Adobe i weryfikuje obrazy wygenerowane przez własne programy, ale również aplikacje OpenAI, a sam OpenAI ma też własny weryfikator plików.
Ich największym problemem jest to, że mają ograniczone możliwości. Ze 100 proc. pewnością są w stanie rozpoznać tylko wytwory narzędzi własnych lub partnerskich, które zawierają odpowiedni cyfrowy podpis. Są też narzędzia takie jak HIVE, które sprawdzają prawdziwość grafik na podstawie tego, jak wyglądają. Szukają na nich cech charakterystycznych dla efektów pracy AI i oceniają prawdopodobieństwo jej użycia.
„Ukradziono mi głos”. Stanowski ostrzega przed nowym scamem
Platformy cyfrowe oznaczają treści AI, ale potrafią się pomylić
Aby mieć pewność, przy weryfikacji prawdziwości grafik warto wykorzystać plik źródłowy. Nie oszukujmy się, odnalezienie go w gąszczu internetowych udostępnień to często nie lada wyczyn. W zasadzie rzadko kiedy mam pewność, że wpis w mediach społecznościowych zawiera oryginalną grafikę, a nie kilka razy udostępnioną, zapisaną i wielokrotnie skompresowaną.
Z pomocą mogłyby przyjść media społecznościowe, które też nie działają idealnie. Stosowne oznaczenia stosuje Facebook, Instagram czy TikToka. To nie zawsze działa, a czasem działa na wyrost. Wielokrotnie zdęcia, które sam robiłem dostawały takie oznaczenie w serwisie X, choć nie miały nic wspólnego AI.
Brak uniwersalnych oznaczeń zaszytych w wygenerowanych plikach i ich wielokrotne udostępnianie powodują problemy z weryfikacją również w automatycznych systemach mediów społecznościowych.
Ciekawy pomysł zaprezentował Honor podczas targów Mobile World Congress w 2024 r. Zakładał on wyświetlanie użytkownikowi ostrzeżenia na ekranu smartfonu, jeśli pojawi się na nim treść wygenerowana przez AI. Np. podczas przeglądania mediów społecznościowych. Jak na razie funkcja rozpoznaje tylko fałszywe treści AI podczas wideorozmów. Ciekawe narzędzie, ale zdecydowanie potrzebujemy czegoś więcej.
Żadne narzędzie nie zastąpią oczu i zdrowego rozsądku
Trudno o skuteczniejszą weryfikację niż nasze zmysły. O ile w przypadku fotorealistycznego zdjęcia przedstawiającego modelkę bardzo trudno jest wskazać, czy to prawdziwe zdjęcie czy nie, tak już grafiki przedstawiające różne wydarzenia publiczne mogą dawać do myślenia.
Warto szukać nienaturalnie ułożonych dłoni, dodatkowych kończyn, przesuniętych elementów twarzy. Nierealnych odbić w szybach lub zlewających się ze sobą przedmiotów – czy widoczne w tle napisy nie są zniekształcone w dziwny sposób poprzestawiane.
Zastanówmy się, czy zdjęcie nie wygląda zbyt dobrze jak na warunki otoczenia. Zadajmy sobie pytanie – czy w tym miejscu i w tym czasie mogła się znaleźć osoba z profesjonalnym aparatem, aby wykonać takie zdjęcie? Jeśli nie, a grafika wygląda zbyt idealnie, to powinno zapalić w głowie lampkę ostrzegawczą.
Warto pamiętać o tym, że im gorzej wyglądał pierwotny plik, na podstawie którego wygenerowano obraz za pomocą AI, tym łatwiej o pomyłki i halucynacje. Sztuczna inteligencja bywa używana tylko do poprawienia ostrości jednego elementu w kadrze, bez modyfikowania całego obrazu.
Choć możliwości weryfikowania treści generowanych przez AI są coraz większe, daleko im do ideału. Czasem warto zwolnić i zastanowić się, czy zdjęcie, które chcemy udostępnić faktycznie jest prawdziwe. Może nie zrobimy tego jako pierwsi, ale przynajmniej nie przyczynimy się do rozpowszechniania fałszywych treści.
Widząc zdjęcie w internecie nie będziemy za każdym razem przeklikiwać się przez kolejne aplikacje i strony w poszukiwania oryginalnego pliku. Ale możemy się zastanowić nad tym, czy to co widzimy może być prawdziwe oraz czy publikuje je zaufane źródło. Żadne narzędzia nie są w stanie zastąpić zdrowego rozsądku i chłodnej głowy.
