Kto mieczem wojuje ten od miecza ginie – stare przysłowia są nieustannie aktualne. Przytoczone słowa idealnie pasują do technologii deepfake. Sztuczna Inteligencja stworzyła przerażającą technologię DeepFake i Sztuczna Inteligencja będzie pomagać ją wykrywać. Oznacza to, że politycy, znani CEO, celebryci i statystyczny Kowalski także, mogą odetchnąć. Mistyfikacja z wykorzystaniem ich wizerunku będzie dużo trudniejsza.
To tylko zabawa
Popularnymi aplikacjami, które wstawiają twarze użytkowników w dowolne sceny filmowe, zachwycili się niemal wszyscy. W mediach społecznościowych widziałem już chyba wszystko w związku z tym, mężczyźni z nieskrywaną satysfakcją stawali się np. Kleopatrą, a kobiety Johnem Rambo. Na niektóre aplikacje spadły ostre cięgi za… niezgodne z licencją wykorzystywanie utworów z prawami autorskimi.
Niektórzy w ramach zabawy podszywali się także pod znane z życia publicznego postacie, doprowadzając nieświadomych niczego uczestników videokonferencji niemal do zawału serca.
W tej zabawie jest coś niebezpiecznego
Podczas gdy świat się bawił, media zaczęły donosić o niebezpieczeństwach płynących z używania technologii Deepfake. Wskazywano na możliwość manipulowania faktami, oczerniania wizerunku znanych osób albo wpływania na procesy polityczne poprzez modyfikację wypowiedzi prominentnych polityków. W Polsce jedną z aplikacji zainteresowało się nawet nieistniejące obecnie Ministerstwo Cyfryzacji.
Teoretycznie skutki nieodpowiedniego (albo celowego) użycia technologii Deepfake mogą także dotknąć statystycznego obywatela. Scenariuszy w tym przypadku może być całe mnóstwo i może nawet lepiej nie wymyślać, co mogłoby się stać.
Lekarstwo dzięki truciźnie?
Sztuczna Inteligencja tworzy deepfake’owe materiały i Sztuczna Inteligencja została wykorzystana do walki z tego typu treściami. Tytuł akapitu jest może na wyrost, ale zasada pozostaje ta sama. Naukowcy z Uniwersytetu Stanforda i Uniwersytetu Kalifornijskiego w Berkeley opracowali program, który dzięki Sztucznej Inteligencji wykryje fałszywe filmy wideo. Warto wspomnieć, że w zaawansowanych filmach deepfake podmienia się albo całe twarze, albo manipuluje się jedynie ustami. W jednym i drugim przypadku na gołe oko trudno dopatrzyć się nieścisłości.
Jak informuje portal thehindu.com:
Synchronizacja ust jest subtelna i trudniejsza do wykrycia. Technologia manipuluje mniejszą częścią obrazu, a następnie syntetyzuje ruchy warg, które ściśle odpowiadają ruchowi ust osoby, która wypowiedziałaby określone słowa. Mając wystarczającą liczbę próbek obrazu i głosu osoby, twórca filmów deepfake może manipulować obrazem, aby ta osoba powiedziała cokolwiek twórca zechce.
Jest nadzieja
Według badania zatytułowanego „Detecting Deep-Fake Videos from Phenome-Viseme Mismatches” program stworzony przez naukowców wykrywa 80% nieprawdziwych i podrobionych treści. Czyni to, rozpoznając drobne niedopasowania dźwięków wydawanych przez ludzi i porównując kształt ich ust w trakcie wypowiadania słów.
Cieszy fakt, że udaje się pokonywać oszustów, ale naukowcy zwracają też uwagę, że powstaje coraz więcej niezwykle zaawansowanych narzędzi, które mogą być niemal niewykrywalne przez najlepsze narzędzia do demaskowania fałszerstw. Nie bez powodu mówi się w tym przypadku o grze w kotka i myszkę. W tym przypadku zarówno po jasnej, jak i ciemnej stronie mocy pracują najwybitniejsze umysły naszego świata.
