Deepfake staje się coraz większym problemem. Naukowcy i inżynierowie wciąż szukają sposobów na to, aby skuteczniej wykrywać fałszywe materiały. Okazuje się, że z pomocą w tym temacie może przyjść sztuczna inteligencja. Rozpoznanie deepfake opiera się o analizę jednej cechy materiału.
Informatycy z Uniwersytetu w Buffalo stworzyli nowy system, który ma pozwolić na szybsze wykrywanie deepfake’ów przy użyciu sztucznej inteligencji. W tym celu, zaprojektowany model będzie analizował światło odbijające się w oczach osoby zarejestrowanej w materiale. To właśnie za pośrednictwem tego parametru, sztuczna inteligencja może ocenić, czy wideo lub fotografia zostały spreparowane.
W testach przeprowadzonych na zdjęciach portretowych, narzędzie informatyków z Uniwersytetu w Buffalo osiągnęło skuteczność na poziomie 94 proc.
Sztuczna inteligencja “złapie” deepfake
Model sztucznej inteligencji rozpoznaje deepfake poprzez analizę rogówek oraz odbijającego się w nich światła. Na prawdziwym zdjęciu, odbicie w jednym i drugim oku będzie podobne, ponieważ oczy widzą ten sam obraz. W przypadku materiału typu deepfake, sytuacja nie musi być jednoznaczna. Zsyntetyzowane fotografie będą zawierały w sobie nieścisłość, którą ciężko wyłapać na pierwszy rzut oka.
Sztuczna inteligencja okazała się bardzo skuteczna w zakresie wykrywania deepfake’ów, które zostały pobrane ze strony This Person Does Not Exist. Niestety jest druga strona medalu: model sztucznej inteligencji działa tylko i wyłącznie w przypadku zdjęć portretowych. Inne fotografie sprawiają, że jego skuteczność w wykrywaniu mistyfikacji znacząco spada.
Naukowcy planują poprawić swój model oraz zoptymalizować go tak, aby był w stanie wykrywać deepfake’i w znacznie szerszym repertuarze materiałów źródłowych.
Więcej na temat projektu możecie przeczytać na stronie arXiv.
