Osobliwość, z ang. singularity, to moment w historii, po osiągnięciu którego rozwój technologiczny stanie się nieodwracalny, a człowiek nie będzie mógł go ani kontrolować, ani nawet przewidzieć. Niektórzy naukowcy twierdzą, że nasza cywilizacja przeszła już przez kilka osobliwości, np. podczas rewolucji przemysłowej. Na nas pada jednak inny cień. Co się więc wydarzy, gdy sztuczna inteligencja stanie się mądrzejsza… od człowieka?
Spokojnie, spokojnie, niespokojnie
Amerykański filozof John Rogers Searle tak zdefiniował pojęcie silnej sztucznej inteligencji:
Według silnej sztucznej inteligencji, komputer nie jest jedynie narzędziem do studiowania działania umysłu, raczej odpowiednio zaprogramowany komputer jest w rzeczywistości umysłem.
Ta forma AI, przyjmująca po angielsku skrót AGI (Artificial General Intelligence), to jeden z filarów potrzebnych do osiągnięcia przez nas technologicznej osobliwości. Charakteryzuje się ona tym samym poziomem inteligencji, co człowiek. Oczywiście, nie mówię, że chcemy do niej dojść. Jednakże, przez ostatnie 100 lat dążymy do niej… w tempie wykładniczym.
Nie jesteśmy też pierwszymi ludźmi, którzy o tym myślą. Chociażby powyższy wykres stworzony został w roku oznaczonym ostatnią czerwoną kropką. Jeszcze o wiele wcześniej naukowcy wyrażali swoje opinie na ten temat. Powstały z nich świetnie przez nas wszystkich znane motywy w sztuce, przedstawiające świat jako post-apokaliptyczne królestwo robotów.
Nie jesteśmy jednak jeszcze nawet blisko do osobliwości. Najbliżej w historii, to prawda… Lecz, stworzenie AGI może okazać się jednym z najtrudniejszych osiągnięć człowieka.
Na razie jednak, możemy spokojnie wyjmować urządzenia z gniazdek, nie zastanawiając się, czy to je boli. Ah, aż sama myśl o tym przyprawia mnie o dreszcze.
AI, AI, co z ciebie wyrośnie?
W niedawno opublikowanym artykule naukowym, profesor Zagrzebskiej Szkoły Ekonomii i Zarządzania, Borna Jalsenjak, pisze o super-inteligentnym AI i wspomina analogie pomiędzy biologicznym i cyfrowym życiem. Chorwacki naukowiec porównuje powstanie AGI do filozoficznych, antropologicznych poglądów o naszej cywilizacji. Uważa, że maszyny myślące stworzą własną wersję życia.
Zacznijmy od tego, że zjawisko osobliwości nie tylko jest hipotetyczne, lecz także nie do końca zdefiniowane. Naukowcy dyskutują nad jego naturą, chociaż zgadzają się, że jest to moment, w którym komputery staną się mądrzejsze od nas samych. A gdy dotrzemy do tego punktu, maszyny będą mogły rozwijać się same, w rekurencyjny, przyspieszający sposób.
Jak pisze Jalsenjak:
W skrócie, kiedyś AI osiągnie poziom gatunku ludzkiego i będzie potrafiło samo stworzyć trochę inteligentniejsze AI, a to znów jeszcze inteligentniejsze AI, i tak dalej, aż sztuczna inteligencja będzie znacząco bardziej zaawansowana, niż ludzie kiedykolwiek będą.
“Said in a more succinct way, once there is an AI which is at the level of human beings and that AI can create a slightly more intelligent AI, and then that one can create an even more intelligent AI, and then the next one creates even more intelligent one and it continues like that until there is an AI which is remarkably more advanced than what humans can achieve.”
Oczywiście, dzisiejsza sztuczna inteligencja nie dorasta do pięt tej, którą opisuję tutaj. Nie jest ona ogólna, lecz specjalizuje się w danej czynności. Jak opisuje to Jalsenjak, jest dobra na przykład w robieniu hamburgerów, ale w niczym innym.
Czy to znaczy, że do technologicznej osobliwości zostało dużo czasu? Ha, na to pytanie nie ma odpowiedzi. Według badacza, zrozumiemy, że dotarliśmy do niej dopiero po fakcie.
Czy maszyny żyją?
Od kilku lat możemy zauważyć tendencję nadawania robotom i maszynom cech ludzkich, kiedy tylko okazują jakiekolwiek oznaki inteligencji. Jalsenjak przypomina jednak, że nie muszą one zawsze replikować ludzkiego umysłu.
Chociaż nie ma żadnego powodu do myślenia, że, gdy osiągniemy osobliwość, AI będzie miało taką samą strukturę, jak ludzka inteligencja, tak przez sposób opisywania świata, który jest najbliższy ludzkiej naturze, pewien stopień antropomorfizacji jest trudny do ominięcia.
“That there is no reason to think that advanced AI will have the same structure as human intelligence if it even ever happens, but since it is in human nature to present states of the world in a way that is closest to us, a certain degree of anthropomorphizing is hard to avoid.”
Chociaż możemy być pewni, że dzisiejsza technologia nie jest żywa, tak w przyszłości nasze decyzje odnośnie tego zagadnienia będą miały zapewne olbrzymie konsekwencje.
Warunki osobliwości
Jak pisze Jalsenjak, cechami inteligentnego życia są niezależność, a także umiejętność dbania o siebie i swoich bliskich. Antropologia filozoficzna podpowiada nam, że pierwszą oznaką inteligencji jest posiadanie celu swojego rozwoju, co ma miejsce w przypadku dzisiejszego AI. Autor uważa, że fakt, iż maszyna nie jest tego świadoma, nie ma znaczenia, gdyż drzewa także uważamy za żywe, a nie mają tego zmysłu świadomości.
Kolejnym kluczowym czynnikiem organizmów żyjących jest umiejętność naprawiania i ulepszania swojego stanu (oczywiście w granicach możliwości). Ciało człowieka nie tylko potrafi regenerować tkanki, lecz także rozwija swoje zmysły i swój umysł przez adaptację w różnych środowiskach, co jest obowiązkową umiejętnością do przetrwania.
Borna Jalsenjak uważa jednak, że AI nie musi się rozmnażać, żeby było uznane za żywe.
Aby sztuczna inteligencja mogła rozwiązać problem pogarszania się materiału, z którego jest zbudowana (czyli tak naprawdę proces starzenia), potrzebuje wyłącznie wystarczająco dużo części zamiennych. Żywe stworzenia rozmnażają się na wiele sposobów, więc dokładna metoda nie jest istotna.
„AI could solve material deterioration problems with merely having enough replacement parts on hand to swap the malfunctioned (dead) parts with the new ones. Live beings reproduce in many ways, so the actual method is not essential.”
Jeśli natomiast chodzi o ulepszanie samego siebie, z tym zagadnieniem Jalsenjak ma problem. Chociaż uważa się, że maszyny będą potrafiły rozwijać się same dopiero wtedy, gdy osiągniemy osobliwość, tak już istnieją różne programy, które mogą modyfikować same siebie.
Uczenie maszy-nowe
Algorytmy uczenia maszynowego, napędzane przez sieci neuronowe, mogą być przykładem technologii, która modyfikuje samą siebie. W procesie trenowania, czyli tytułowego uczenia, człowiek musi ustawić początkowe parametry ukrytych warstw sieci neuronowych. Lecz, następnie, pałeczkę przejmuje komputer.
Maszyny miały okazję do adaptacji kilka miesięcy temu. Mianowicie, dotychczasowe algorytmy rozpoznawania twarzy przestały działać, kiedy ludzie zaczęli nosić maseczki. Komputer może się jednak dostroić, przez krótki trening na zdjęciach twarz z maseczkami – nie musi zaczynać od nowa. Co tu dużo mówić, maszynom się udało.
Chociaż z początku proces ten może wydawać się bardzo prosty, pomyślmy znowu o drzewach. Zjawisko to można porównać do roślin, które przeznaczają zasoby swojego organizmu na budowę dłuższych korzeni, gdy czują, że pod nimi jest woda.
Idea samo-ulepszającego się AI polega jednak na systemie, który sam potrafi tworzyć algorytmy przynoszące fundamentalne zmiany w nim samym. Na razie nie możemy liczyć na to, że sieć neuronowa zamieni się pewnej nocy w Transformera. Jalsenjak zauważa natomiast, że rekursywne samo-ulepszanie może spowodować całkowitą zamianę podstawowego kodu danego modelu sztucznej inteligencji.
To będzie działać mniej więcej w taki sam sposób, jak komórki człowieka, których kompletna zamiana na nowe (wszystkich w naszym ciele) następuje średnio co 7 lat życia. I to jest właśnie jeden z warunków osobliwości.
Nasza inicjatywa w sprawie osobliwości
Jalsenjak mówi, że osobliwość AI nadejdzie. Wtedy będziemy po raz pierwszy w historii dzielić Ziemię ze stworzeniem przynajmniej tak inteligentnym, jak my sami. Maszyny będą miały własne prawa i własne cele. Wtedy dopiero będziemy musieli zadać sobie pytanie, czy odłączenie urządzenia z gniazdka przypadkiem go nie boli…
Na końcu swojego artykułu, chorwacki badacz zadaje pytanie, czy nasze słowa opisujące cechy organizmów żywych są adekwatne i wystarczające do opisywania osobliwości AI. Na przykład, czy robot produkujący spinacze, ciągle ulepszający się, aby pewnego dnia przerobić na nie wszystkie zasoby świata, zasługuje na nazwanie go żywym?
Ludzie są współtwórcami samych siebie, co nie oznacza, że sami sobie nadają egzystencji, lecz sami sprawiają, że ma ona dla nich znaczenie i spełniają swoje cele. Nie wiadomo, czy przyszła sztuczna inteligencja będzie miała wolną wolę.
“Humans are co-creators of themselves in a sense that they do not entirely give themselves existence but do make their existence purposeful and do fulfill that purpose. It is not clear will future AIs have the possibility of a free will.”
Oczywiście, pozostaje również wiele problemów etycznych związanych z powstaniem super-inteligentnego AI. To bardzo obszerny temat, zawierający w sobie zasady moralne, które powinno przyjąć AI, oraz te, które my powinniśmy przyjąć w stosunku do AI. Społeczność fascynatów sztucznej inteligencji często nie zważa na te zagadnienia, myśląc tylko o limitacjach obecnych algorytmów uczenia maszynowego.
Niektórzy naukowcy jednak, tacy jak Jalsenjak, a także Elon Musk, przypominają nam o zagrożeniach, jakie niesie ze sobą bezmyślne rozwijanie technologii. Jak pisze chorwacki badacz:
Te tematy nie mogą być zignorowane, ponieważ wszystko, co wiemy o przyszłości wskazuje na to, że ludzkie społeczeństwo czeka niesłychana zmiana.
“These topics cannot be ignored because all that we know at the moment about the future seems to point out that human society faces unprecedented change.”
Pełny artykuł naukowy Borny Jalsenjaka dostępny jest tutaj. Badacz napisał też książkę, w której jeszcze bardziej zagłębia się w tematy związane w filozofią sztucznej inteligencji, pod nazwą Guide to Deep Learning Basics.
Na koniec, pamiętajmy, że nie wiemy, kiedy i w jaki sposób osiągniemy osobliwość AI. Być może nigdy tego nie zrobimy. Być może żadne sformułowania używane w stosunku do naturalnego życia nie będą mogły opisać super-inteligentnych maszyn.
Jednakże, być może już niedługo osobliwość nie będzie opisywana tylko przez być może.