Sztuczna inteligencja przesadziła z moderowaniem treści w serwisie YouTube. Google przywróci tym samym pracowników do sprawdzania wybranych materiałów. Co poszło nie tak?
YouTube twierdzi, iż jego sztuczna inteligencja przesadziła z moderowaniem treści. Google przywróci niektórych „ludzkich” moderatorów do pracy, aby oprócz algorytmów także oni sprawdzali materiały pojawiające się na platformie. W marcu tego roku YouTube odważył się na większe poleganie na algorytmach sztucznej inteligencji w celu oznaczania oraz usuwania wybranych treści naruszających zasady serwisu.
Sztuczna inteligencja przesadziła
W rozmowie z serwisem Financial Times, przedstawiciele YouTube’a poinformowali, iż sztuczna inteligencja była odpowiedzialna za usunięcie około 11 milionów filmów w okresie pomiędzy kwietniem a czerwcem 2020 roku. Wykorzystanie algorytmów miało przyczynić się do znacznego wzrostu usuwanych treści, prawie dwa razy więcej wideo zniknęło z serwisu. Co ciekawe, YouTube musiał przywrócić część z nich, w związku z błędnym oznaczeniem przez sztuczną inteligencję. Systemy wykorzystywane przez Google były według pracowników bardzo nadgorliwe w oznaczaniu treści.
„Podjęliśmy jedną decyzję, która przełożyła się na sporo błędów – maszyny wciąż nie mogą być tak precyzyjne, jak ludzie w oznaczaniu materiałów wideo, a także w dbaniu o bezpieczeństwo użytkowników” – przekazał dyrektor do spraw produktu w YouTube, Neal Mohan.
Przyznanie się do porażki jest ważne
Przyznanie się do błędu, w którym rolę odgrywa sztuczna inteligencja jest znaczące. Coraz więcej serwisów społecznościowych (w tym Facebook czy Twitter), stają przed presją bardziej aktywnego moderowania treści i usuwania mowy nienawiści z sieci. Algorytmy oraz automatyczne rozwiązania mogą przełożyć się na pomoc w ogromnej skali problemu, jednak nie wyeliminują nigdy całego zjawiska.
Google wie, że sztuczna inteligencja w YouTube jest na wagę złota – nawet jeśli miałaby ona usuwać tylko najbardziej oczywiste filmy naruszające regulamin, bez patrzenia na szerszy kontekst. Ponad 80 procent filmów naruszających regulamin zostało usuniętych zanim zdobyło nawet 10 wyświetleń.
Trzeba przyznać, że taka skala jest naprawdę imponująca.
