Europarlament pochylił się nad przepisami dotyczącymi sztucznej inteligencji. Projekt rozporządzenia AI Act jest coraz bardziej zaawansowany i ma teraz wydłużoną listę zakazów jej użytkowania. Co będzie zawierała?
AI Act, czyli konieczność regulowania narzędzi sztucznej inteligencji
Sztuczna inteligencja ma moc: jest w stanie generować teksty czy obrazy i filmy w oparciu o monity tekstowe. Pozwala także na rozwój nauki i medycyny, gdzie wykorzystywana jest nawet do diagnozowania czy szacowania nawrotów nowotworów. Możliwości nowoczesnych algorytmów są ogromne i wpływają one na życie ludzi całego świata, jednak mogą także wprowadzać błąd czy być narzędziem do tworzenia fake newsów.
Wobec tego Unia Europejska zaproponowała rozporządzenie, którego zadaniem będzie regulowanie sztucznej inteligencji. Dokument ma różnicować obowiązki wobec dostawców narzędzi AI w zależności od poziomu generowanego ryzyka. Przypisywane prawa mają być dzielić się na trzy kategorie.
W ramach rozporządzenia zakazane mają być aplikacje i systemy, stwarzające niedopuszczalne ryzyko. W witrynie dokumentu jako przykład takiego narzędzia podawana jest rządowa ocena społecznościowa, która działa już na terenie Chin. Zakaz dotyczył będzie również identyfikacji biometrycznej, z wyjątkiem celów terapeutycznych.
Wśród aplikacji wysokiego ryzyka znajdują się systemy diagnostyki medycznej, sądownictwo, a także skanujące CV. Ich użycie powoduje klasyfikowanie kandydatów, a to powinno być regulowane przez inne wymogi prawne. Pozostałe natomiast, uznane jako narzędzia o minimalnym ryzyku, nie będą regulowane.
Poprawki w projekcie i wydłużenie listy zakazów
W poprawionym projekcie zaznaczono również, że zabroniona będzie kategoryzacja biometryczna na podstawie płci, rasy, narodowości, obywatelstwa, wyznania, pochodzenia etnicznego czy poglądów politycznych.
Narzędzia sztucznej inteligencji mają być także zakazane do profilowania potencjalnych przestępców w oparciu o dane na temat zachowania, cech czy geolokalizacji. Wśród zabronionych technologii pojawiły się także systemy rozpoznające emocje oraz pobieranie danych zbieranych przez portale społecznościowe i monitoring, których celem miałoby być rozpoznawanie twarzy. Te najnowsze ustalenia mają też pozwolić obywatelowi na składanie skarg w przypadku wydawanych przez AI decyzji np. kredytowych.
