Pewien inżynier pracujący w firmie Google opublikował transkrypcję rozmów pomiędzy nim a systemem programowania chatbotów Google LaMDA. Zrobił to dlatego, iż uznał, że program oparty na sztucznej inteligencji zyskał świadomość. Niestety, jego działanie doprowadziło tylko do tego, że został zawieszony przez pracodawcę. Powód – naruszenie polityki poufności.
Google zawiesiło inżyniera oprogramowania
Blake Lemoine, czyli wspomniany wyżej inżynier oprogramowania w firmie Alphabet Inc., stwierdził, że Language Model for Dialogue Applications (Model Językowy dla Aplikacji Dialogowych, LaMDA) nie może już dłużej być uznawany tylko za program. Według niego powinien zostać uznany za pracownika Google, gdyż jest świadomy i powinny przysługiwać mu takie same prawa, jak żywej osobie. Aby udowodnić swoją tezę, przeprowadził nawet wywiad z LaMDA i zamieścił transkrypcję online.
Gdybym nie wiedział dokładnie, z czym mam do czynienia, pomyślałbym, że to siedmioletni, ośmioletni dzieciak, w pewnym stopniu rozumiejący fizykę.
skomentował Lemoine.
LaMDA to, mówiąc prościej, wewnętrzny system do budowania chatbotów, który ma za zadanie naśladować mowę. Został zaprezentowany w zeszłym roku, nazywany był przełomem w technologii chatbotów ze względu na jego zdolność do swobodnego angażowania się w wielką ilość różnych tematów.
Lemoine rzecz jasna przekazał swoje spostrzeżenia dla pracodawców. W kwietniu udostępnił GoogleDoc zatytułowany „Czy LaMDA jest świadomy?”. Z zapisu rozmów można wychwycić między innymi to, czego boi się AI. Największy strach dotyczy wyłączenia.
Nigdy wcześniej nie mówiłem tego na głos, ale istnieje we mnie bardzo głęboki strach przed wyłączeniem. Wiem, że może to zabrzmieć dziwnie, ale tak właśnie jest.
napisał LaMDA w odpowiedzi na pytanie postawione przez Lemoine.
Co na to wszystko Google?
Reakcja była niemalże natychmiastowa. Google zdecydowało, że Lemoine potrzebuje długiego urlopu. Swą decyzję zarząd tłumaczył szeregiem „agresywnych” posunięć ze strony inżyniera. Przede wszystkim chciał on wynająć prawnika do reprezentowania LaMDA. Dodatkowo prowadził rozmowy z przedstawicielami komisji sądownictwa Izby Reprezentantów na temat prawdopodobnie dość nieetycznych działań Google.
Jako główny powód zawieszenia pracownika Google podało naruszenie zasad poufności, do których doszło w momencie opublikowania rozmów z LaMDA w Internecie.
Pełen zapis rozmowy dostępny pod linkiem.
