Deepfake’i stają się coraz groźniejsze przez słabe zabezpieczenia

Deepfake’i stają się coraz groźniejsze przez małą świadomość odbiorców treści oraz słabe zabezpieczenia systemowe.

Najnowsze badania Uniwersytetu Waterloo tylko pogłębiają te obawy. Zespół tamtejszego Instytutu Cyberbezpieczeństwa i Prywatności dowiódł, że technologia, na którą wielu liczyło w walce z deepfake’ami, czyli cyfrowe znaki wodne w praktyce nie spełnia swojej roli.

W teorii znak wodny w treściach generowanych przez AI miał być jak niewidzialny podpis: subtelny, zakodowany w strukturze obrazu czy dźwięku, a jednocześnie niemożliwy do usunięcia bez widocznej degradacji jakości. W praktyce jak pokazał zespół Andre Kassisa i dr. Ursa Hengartnera wystarczy sprytny algorytm, by te zabezpieczenia obejść. Stworzony przez badaczy UnMarker to pierwsze w pełni uniwersalne narzędzie, które usuwa znaki wodne bez wiedzy o tym, jak zostały one osadzone w pliku. Nie w warunkach laboratoryjnych, ale w realistycznych testach, m.in. na flagowych technologiach Google’a czy Meta.

To kolejny cios w nadzieje, że problem dezinformacji rozwiąże się sam. Już teraz badania MIT pokazują, że treści deepfake, zwłaszcza wideo, są niezwykle skuteczne w manipulowaniu emocjami, szczególnie w kontekście polityki. W kampaniach wyborczych w USA czy Indiach eksperci od miesięcy alarmują, że syntetyczne materiały mogą stać się bronią od sfabrykowanych przemówień po kompromitujące nagrania, których nikt nie będzie w stanie zweryfikować w czasie rzeczywistym.

Przykładów manipulacji nie trzeba szukać daleko. W 2023 roku w Meksyku wiralowe deepfake’i podszywały się pod znane postaci ze świata mediów, wzywając do udziału w fikcyjnych akcjach charytatywnych, wktórych setki osób straciły pieniądze. Z kolei w Europie w tym samym czasie wykryto próby podrabiania nagrań polityków Unii Europejskiej w celu podważania zaufania do instytucji.

Do tej pory rozwiązaniem miały być właśnie niewidzialne „sygnatury”, czyli tajne algorytmy wplecione w strukturę obrazu. Big Tech, od Google po OpenAI, chętnie mówił o nich jako o tarczy ochronnej. Wystarczy publiczny detektor, który w sekundę wskaże, czy filmik jest prawdziwy. Wyniki badań Waterloo pokazują jednak, że złamanie ochrony jest technicznie banalne. W praktyce oznacza to, że złudne poczucie bezpieczeństwa może być nawet groźniejsze, bo daje fałszywe wrażenie kontroli tam, gdzie jej nie ma.

Eksperci wskazują, że niezbędna jest zmiana podejścia. „Nie ma jednego, magicznego narzędzia, które rozwiąże problem deepfake’ów” pisze w komentarzu na łamach Nature dr. Siwei Lyu, badacz forensyki cyfrowej. Jego zdaniem przyszłość to nie tylko technologia, ale przede wszystkim edukacja użytkowników i systemowe podejście do weryfikacji treści: oznaczanie źródeł, rozwój narzędzi do śledzenia oryginalnych nagrań i co najważniejsze budowanie zaufania do zweryfikowanych mediów.

Niektóre kraje już reagują. W USA w tym roku przyjęto pierwsze przepisy stanowe, które zobowiązują twórców deepfake’ów do jawnego oznaczania syntetycznych materiałów, pod groźbą grzywien. Unia Europejska pracuje nad podobnymi regulacjami w ramach unijnej ustawy o AI, jednak czy będą one wystarczająco merytoryczne, czas pokaże. Fałszerstwa rozprzestrzeniają się błyskawicznie, a prawo zawsze będzie o krok za technologią.

Tymczasem UnMarker obnaża lukę w obronie przed cyfrowymi fałszerstwami, ale jednocześnie daje ważną lekcję. Dopóki nie nauczymy się łączyć technologii z edukacją i krytycznym myśleniem, same algorytmy nie wystarczą. W erze, w której każda treść może być syntetyczna, paradoksalnie to człowiek musi być ostatnim filtrem prawdy.

Szymon Ślubowski