Google właśnie przedstawiło coś całkiem przydatnego. Chodzi o SynthID – narzędzie do znakowania i identyfikacji sztuki generatywnej. Nowa technologia pozwala umieszczać cyfrowy znak wodny, niewidoczny dla ludzkiego oka, bezpośrednio na pikselach obrazu. Narzędzie będzie w pierwszej kolejności dostępne dla ograniczonej liczby klientów korzystających z Imagen, aplikacji do generowania sztuki dostępnej w chmurze Google.
Dlaczego znak wodny w sztuce AI jest ważny?
Jednym z wielu problemów związanych z generatywną sztuką jest potencjał tworzenia fałszywych obrazów, znanych jako deepfake. Zastosowania, takie jak komiczne obrazy celebrytów, mogą wydawać się niewinne, ale potencjał wykorzystania generatywnych narzędzi w politycznych reklamach czy dezinformacji jest znacznie bardziej niepokojący.
Wprowadzenie znaków wodnych do treści dźwiękowej i wizualnej, by wskazać, że została ona wygenerowana przez AI, było jednym z zobowiązań, które siedem firm, zajmujących się sztuczną inteligencją, postanowiło dotrzymać po spotkaniu w Białym Domu. Teraz Google, jako pierwsza z nich, wprowadza taki system. To będzie trochę jak etykieta na produkcie w sklepie.
Techniczne aspekty SynthID
Chociaż nie ujawniono dokładnych szczegółów to, jak zapewniają specjaliści, znak wodny będzie praktycznie nie do usunięcia, Nawet, jeśli ktoś będzie próbował zmieniać obraz, dodawać filtry czy zmieniać kolory, on wciąż tam będzie.
Narzędzie jest zaprojektowane tak, by nie obniżać jakości pliku. SynthID ocenia obraz na podstawie trzech poziomów pewności cyfrowego znaku wodnego: wykryto, nie wykryto i możliwe wykrycie. Może on również współpracować z programami opartymi o metadane, takimi jak te używane przez Adobe w funkcjach generatywnych Photoshopa.
Mimo wszystko, Google przyznaje, że nie jest to jeszcze doskonałe rozwiązanie. Może nie być wystarczające w przypadku skrajnych manipulacji obrazem. Jednak firma uważa, że znak wodny stanie się ważnym narzędziem umożliwiającym odpowiedzialne korzystanie z treści generowanych przez AI.
W przyszłości planowane jest także rozszerzenie go do innych opartych na modeli sztucznej inteligencji, w tym tych generujących tekst (jak chatGPT) czy wideo.
