Specjalny bot w popularnym komunikatorze Telegram pomagał rozbierać kobiety za pośrednictwem sztucznej inteligencji. To kolejny przykład na to, jak materiały typu deepfake mogą posłużyć do manipulacji i wyrządzenia realnej krzywdy. Na domiar złego, pojedynczy bot, którego ofiarą padły setki tysięcy osób, to zaledwie wierzchołek góry lodowej całego problemu.
Algorytmy sztucznej inteligencji stają się coraz bardziej zaawansowane. Są one w stanie przyspieszyć obliczenia, generować modele w trójwymiarowym środowisku, pomagać lekarzom w diagnozowaniu pacjentów, wspierać użytkowników w robieniu lepszych zdjęć smartfonem. Dokładnie te same zestawy zer i jedynek są również w stanie zrobić komuś krzywdę. I to w zupełnie nowy sposób. Sztuczna inteligencja oprócz pomocy przyczynia się także do powstania zupełnie nowych problemów – od cyfrowego molestowania aż po naginanie prawdy i faktów historycznych.
I to dopiero początek kłopotów, z którymi prędzej czy później będziemy musieli zmierzyć się twarzą w twarz.
Kiedy Sztuczna Inteligencja pomaga krzywdzić ludzi
Algorytmy sztucznej inteligencji są wykorzystywane do analizowania zapytań użytkowników i mogą im pomóc odpowiedzieć na pytania związane z zamówieniem dokonanym w sieci. Mogą on też uprościć proces rejestrowania się w witrynie. Mogą też… rozbierać nas bez naszej wiedzy.
Popularne boty są tworzone nie od dzisiaj, a ich popularność w ciągu ostatnich lat eksplodowała. Stworzenie własnego bota, to dla nieco bardziej wprawionego użytkownika zaledwie moment (oczywiście zakładając, że działa on w prosty sposób). Osoby korzystające z komunikatora Telegram mogą tworzyć boty, które opiszą im pogodę na dany dzień albo podsuną pod nos najważniejsze newsy do porannej kawy. W tym samym, opisywanym komunikatorze jeden z takich botów rozebrał ponad 100 tysięcy nieświadomych kobiet. 100 tysięcy, bo tyle oficjalnie potwierdzono. Analitycy szacują jednak, że liczba ta może być w rzeczywistości nawet sześciokrotnie wyższa.
Kiedy w czerwcu 2019 roku serwis Vice odkrył istnienie bota oznaczonego jako DeepNude, bomba wybuchła. Sztuczna inteligencja w zamian za 50 dolarów pozwalała na przesłanie zdjęcia wybranej kobiety i odsyłała je w pełnym negliżu. W rzeczywistości oprogramowanie korzystało z zestawów danych pozwalających podmieniać ubrania na bardzo realistyczne, nagie ciała. I co lepsze, DeepNude działało tylko na obrazki kobiet. Mężczyźni w sieci pozostali całkowicie bezpieczni.
Po wielu medialnych publikacjach, autorzy DeepNude wycofali się, usunęli swoje rozwiązanie i lakonicznie przekazali, że do takiej technologii już nikt nie będzie miał dostępu. Do czasu. A konkretniej do lipca 2020 roku.
Kogo chciałbyś rozebrać najpierw?
Po DeepNude nastała cisza. Jednak nie na długo. Specjaliści zajmujący się cyberbezpieczeństwem z firmy Sensity AI odkryli, iż popularny komunikator Telegram posiada publicznego bota, który pozwala na rozbieranie kobiet za pośrednictwem sztucznej inteligencji. Tym razem sprawa przebiła nawet kontrowersyjną aplikację DeepNude. Bot na Telegramie był w całości dostępny dla wszystkich i posiadał prosty interfejs, który pozwalał użytkownikom na przesłanie zdjęcia – zarówno za pośrednictwem aplikacji mobilnej, jak i internetowej wersji serwisu. Nie pobierając żadnych opłat, bot w kilka minut „przerabiał” zdjęcie i odsyłał je w „rozebranej” wersji do użytkownika.
Sensity AI szacuje, że od lipca bieżącego roku, algorytmy przyczyniły się do rozebrania co najmniej 100 tys. kobiet, jednak te liczby mogą być nawet sześciokrotnie wyższe. W niektórych przypadkach, rozbierane osoby były niepełnoletnimi dziewczynami nieświadomymi całego problemu.
Co ciekawe, samą społeczność, która utworzyła się wokół opisywanego bota na Telegramie można było łatwo znaleźć w sieci. Przeprowadzona wśród 7200 użytkowników ankieta pokazała, jak duża jest skala problemu, ale może też podsuwać odpowiedzi na to, jak walczyć z podobnymi sytuacji w przyszłości.
Okazało się, że aż 70 proc. użytkowników rozbierających kobiety za pośrednictwem sztucznej inteligencji pochodzi z Rosji lub innych krajów rosyjskojęzycznych. Taka sytuacja nie miała jednak miejsca wśród ofiar. Poszkodowane kobiety zamieszkiwały wiele regionów świata. Wsród nich znajdziemy Argentynę, Włoch, Rosję czy Stany Zjednocznoe. Według MIT Technology Review, naukowcy ustalili, że większość „oprawców i ofiar” zna się w rzeczywistości i posiadając pewnego rodzaju więzi – najczęściej koleżeńskie.
Spośród ankietowanych, na pytanie „kogo chciałbyś rozebrać najpierw?”, użytkownicy w 63 proc. wskazali znajome kobiety lub dziewczyny jakie istnieją w ich życiu. To przeważająca większość. Zaledwie 16 proc. użytkowników chciałoby zobaczyć nago gwiazdy, celebrytów czy aktorów. Pozostałe procenty należą do pożądanych modelek z Instagrama czy losowych kobiet, których zdjęcia można znaleźć w zakamarkach sieci.
To wierzchołek góry lodowej
Samo rozbieranie kobiet przy wykorzystaniu sztucznej inteligencji brzmi łagodnie, jeśli dowiemy się, że technologia ta jest wykorzystywana nie tylko do zaspokojenia wizualnej przyjemności, ale również do prawdziwego nękania czy zemsty. W 2019 roku, badanie przeprowadzone przez Amerykańskie Towarzystwo Psychologiczne wykazało, że jedna na 12 kobiet w pewnym momencie swojego życia staje się ofiarą tak zwanej „porno-zemsty”.
Analitycy podejrzewają, że w kolejnych latach opisywane zjawisko będzie się tylko i wyłącznie pogarszało. Giganci internetowi dwoją się i troją, by przeciwdziałać temu zjawisku. Niestety, nadaremno. Zarówno Google, Facebook, Twitter, VK czy Telegram oraz tona innych aplikacji robią co mogą, aby możliwie najszybciej wyłapywać tego typu technologie i usuwać je ze swoich platform, a te wracają niczym bumerang. W ubiegłym roku Kongres Stanów Zjednoczonych wyszedł poszkodowanym naprzeciw i przedstawił nową ustawę, która pozwala ofiarom deepfake’ów dochodzić środków prawnych, jeśli przez tego typu materiały ucierpiała ich reputacja.
Sprawie wykorzystania kobiet za pośrednictwem AI przyglądają się również włoskie władze. Rządzący mają zamiar wywrzeć nacisk na komunikatorze Telegram, aby dostarczył on stosowne informacje dotyczące przestrzegania przepisów o ochronie danych.
Konkluzja nie jest pocieszająca. Opisywana sytuacja jest dopiero początkiem góry lodowej, która może pozwolić dowolnej osobie na skorzystanie z losowego zdjęcia i przerobienie go na sztuczne porno za pośrednictwem kilku algorytmów. Mimo usunięcia aplikacji typu DeepNude oraz bota na Telegramie, oprogramowanie zostało poddane inżynierii wstecznej i jest szeroko dostępne w postaci open source dla zainteresowanych. Między innymi na torrentach czy prywatnych serwerach.
W momencie pisania tej publikacji, algorytmy pozwalające na rozbieranie dowolnej osoby na podstawie zdjęcia można było znaleźć bez problemu między innymi w serwisie GitHub.
