Algorytmy sztucznej inteligencji zaczynają trafiać do coraz większego grona usług i systemów. Popularne platformy wykorzystują je także do optymalizowania procesu rekrutacji w firmach. Okazuje się, że nawet w przypadku „sprawiedliwych” modeli sztucznej inteligencji – algorytmy traktują wybranych kandydatów w sposób niespójny.
Ostatnio zastanawiałem się czy algorytmy zmieniają sposób, w jaki patrzymy na rzeczywistość. Wygląda na to, że tego typu rozważania będą musiały być brane na poważnie. Naukowcy z Harvardu i Technische Universitat Berlin stwierdzili, iż sprawiedliwe modele AI pomimo sprawnego działania, dalej mogą dyskryminować wybrane osoby, chociażby podczas poszukiwania pracy.
Sztuczna inteligencja dyskryminuje
Naukowcy ze wspomnianych uniwersytetów przyjrzeli się algorytmom używanym przez serwis TaskRabbit, który jest odpowiedzialny za dopasowywanie użytkowników w kontekście usług sprzątania, przeprowadzek czy dostaw. TaskRabbit wykorzystuje algorytmy sztucznej inteligencji, które sortują dostępnych pracowników i generują listę kandydatów do odpowiedniego zadania. Sama AI może być w tym przypadku stronnicza, co będzie przekładało się na mniejsze zarobki w przypadku niektórych osób. Sprawa może być problematyczna w dużych miastach, takich jak chociażby amerykańskie San Francisco.
Współautorzy badania z Harvardu, znaleźli jawne dowody na dyskryminację oraz uprzedzenia ze względu na płeć. To one przyczyniały się do zatrudniania lub wybierania konkretnych osób.
Sztuczna inteligencja rzadziej wybierała kobiety do przeprowadzek, a mężczyźni byli równie rzadko zatrudniani do obsługi mniejszych lub większych imprez.
Problem będzie postępował
Uprzedzenia w algorytmach doradzających rekruterom nie są niczym nowym. W ostatnim czasie, Amazon porzucił swój silnik rekrutacyjny, który w ostentacyjny sposób wykazywał uprzedzenia względem kobiet. Cała sprawa jest jednak paląca bowiem coraz większa liczba firm chce polegać na automatyzacji w przypadku pozyskiwania kandydatów do pracy i nie tylko.
Ankieta przeprowadzona na największych firmach ze Stanów Zjednoczonych wskazuje jasno, iż do 2025 roku prawie połowa firm będzie chciała, aby to sztuczna inteligencja szukała i wskazywała idealnych pracowników na wybrany wakat.
