Amazon zdecydował się na wprowadzenie zakazu dla amerykańskiej policji – decyzja ma ograniczać dostęp organów ścigania w USA do technologii Reckognition. Do tej pory była ona wykorzystywana do inteligentnego rozpoznawania twarzy.
Decyzja Amazona została ogłoszona zaledwie kilka dni po tym, jak amerykański IBM również zdecydował, iż przestanie oferować, a także rozwijać swoją technologię do rozpoznawania twarzy. Amazon wprowadził roczne moratorium, które ma objąć policję w USA zakazem korzystania z autorskiej technologii Reckognition.
W oficjalnym komunikacie można przeczytać, iż firma Jeffa Bezosa chce w ten sposób dać wystarczająco dużo czasu urzędnikom na wdrożenie odpowiednich regulacji zapewniających bezpieczne oraz przede wszystkim etyczne wykorzystanie systemów do rozpoznawania twarzy.
Wady wychodzą na jaw
Technologia rozpoznawania twarzy od dłuższego czasu znajduje się pod lupą naukowców oraz aktywistów działających na rzecz prywatności i bezpieczeństwa cyfrowego. Największą wadą wspomnianej technologii są błędy powiązane z identyfikacją osób o ciemnej karnacji. Problemy leżą głównie po stronie zestawów danych, które są wykorzystywane do uczenia sieci neuronowych stojących za platformami do identyfikacji. Inżynierowie często dostarczają danych, które skupiają w sobie głównie użytkowników o białej karnacji – zarówno płci męskiej, jak i żeńskiej.
W 2019 roku odkryto również, iż platforma Amazona miała poważne problemy z identyfikacją osób ciemnoskórych, a także myliła kobiety z mężczyznami. Co ciekawe, w przypadku osób o jasnej karnacji, system pracował z niemal zerowym poziomem błędu.
Czas na regulacje
Platforma Reckognition od Amazona wykorzystuje algorytmy sztucznej inteligencji, aby móc szybko porównywać zdjęcia z policyjnych smartfonów lub innych urządzeń i wyszukiwać je w ogólnodostępnej bazie danych. Moratorium Amazona ma sprawić, iż urzędnicy w USA będą mieli więcej czasu na wprowadzenie regulacji na poziomie federalnym.
Ostatecznym celem firmy ma być zmniejszenie nadużyć związanych z wykorzystaniem systemu rozpoznawania twarzy.