RealorRender: niemiecka technologia demaskująca deepfake wykorzystując własne generatywne algorytmy!

Podczas gdy jedne sieci neuronowe uczą się rysować koty z ośmioma łapami i przekonujące portrety nieistniejących polityków, inne przygotowują się do wyłaniania ich na jaw. Niemiecki Instytut Optroniki, Technologii Systemowych i Przetwarzania Obrazów Fraunhofera (Fraunhofer-Institut für Optronik, Systemtechnologien und Bildauswertung) przedstawił system RealorRender. To narzędzie do wykrywania deepfake'ów, które wykorzystuje całkiem ironiczne podejście: aby zrozumieć, czy mamy do czynienia z fałszerstwem, stara się je odtworzyć.

Matematyczne lustro dla sieci neuronowych

Zasada działania RealorRender opiera się na idei, że generatywne modele pozostawiają za sobą specyficzne cyfrowe „odciski palców”. Na stronie oficjalnej deweloperzy wyjaśniają, że system łączy dwie metody analizy. Pierwsza — to klasyczne głębokie uczenie, gdzie algorytm klasyfikuje obraz na podstawie już znanych cech generacji AI. Druga metoda jest ciekawsza: ocenia „błąd rekonstrukcji”.

System bierze podejrzane ujęcie i próbuje ponownie je wygenerować za pomocą własnego modelu. Jeśli wynik okazuje się zbyt dokładnym dopasowaniem, jest to istotny argument na rzecz tego, że oryginał również został stworzony matematycznym algorytmem, a nie obiektywem kamery. Obecnie dokładność takiego detektora waha się od 85% do 91%. To nie jest absolutny wynik, ale wystarczający, aby zacząć stawiać właściwe pytania dotyczące treści w sieci.

Dlaczego AI nie potrafi kłamać bez śladu

Główny problem większości współczesnych detektorów — działają one na zasadzie „ja to widzę”, nie wyjaśniając przyczyn swojej decyzji. RealorRender podąża inną drogą, wykorzystując koncepcję Explainable AI (XAI). Zamiast suchego werdyktu użytkownik otrzymuje mapę termiczną obrazu. System podświetla konkretne obszary, tekstury i artefakty, które wydały się jej podejrzane. To pozwala specjalistom zobaczyć to, co zwykle ukryte przed ludzkim okiem: mikroskopijne niezgodności w oświetleniu lub zbyt dokładne wzory geometryczne, charakterystyczne dla modeli generatywnych.

Cyfrowa przemoc i potrzeba kontroli

Rozwój niemieckich naukowców nie pojawił się w próżni, ale jako odpowiedź na realne zagrożenie. Według danych rządu brytyjskiego, tylko w 2023 roku na jednym ze specjalistycznych zasobów odkryto ponad 276 000 pornograficznych deepfake'ów. Najgorsze jest to, że 96% takich materiałów jest skierowanych przeciwko kobietom, których wizerunki są wykorzystywane bez żadnej zgody. Tylko serwisy oferujące „rozbieranie” ludzi za pomocą AI we wrześniu tego samego roku zgromadziły 24 miliony wizyt.

W świecie, gdzie deepfake'i stają się narzędziem szantażu, oszustwa i manipulacji politycznej, RealorRender wygląda jak próba odzyskania kontroli nad rzeczywistością. Być może AI nauczyło się rysować przekonujące kłamstwa, ale teraz przynajmniej zaczęło być na nich łapane.

Podczas gdy jedne technologie pomagają walczyć z cyfrowymi podróbkami, inne pracują nad tym, aby przetwarzanie danych było jeszcze szybsze. Przeczytaj o tym, jak Samsung chce zrewolucjonizować rynek pamięci za pomocą nowych metod bondu.