Hamulec w podłodze bez powodu? Nagła zmiana kierunku jazdy? Badacze twierdzą, że to jak najbardziej możliwe.
Autonomiczne pojazdy można nabrać na wiele sposobów
I, co więcej, udowadniają to. Już w styczniu tego roku ArsTechnica opisywała, jak łatwo można oszukać oprogramowanie MobilEye 630 Pro Driver Assist za pomocą dronów i projektorów, wyświetlając obraz np. człowieka na drodze. Niedługo później Ben Nassi – pomysłodawca całego projektu, „oszukał” również oprogramowanie Tesli X, a swoje wyniki zaprezentował na jednej z konferencji. Opublikował również film, na którym doskonale widoczna jest zasada działania jego odkrycia.
To, co ludzkie oko praktycznie od razu rozpozna jako projekcję, dla oprogramowania sterującego samochodami autonomicznymi może być prawdziwym znakiem drogowym czy osobą. To samo tyczy się np. znaków poziomych na drodze: badacze za pomocą projektorów wyświetlili fałszywe linie pojedyncze, co doprowadziło do tego, że samochód wjechał na przeciwny pas ruchu.
Teraz projekt rozszerzono i na celownik wzięto cyfrowe billboardy rozstawione przy drogach. Okazało się, że wstrzyknięcie nawet kilku klatek trwających łącznie około pół sekundy może skutecznie zmylić sztuczną inteligencję. Eksperymentowano również z umieszczaniem „złośliwych” klatek w miejscach nieatrakcyjnych dla ludzkiego oka, tak, aby wyświetlić pożądaną przez siebie zawartość nie przyciągając uwagi kierowcy. Badacze, którzy testy przeprowadzali na billboardach wielkości telewizora twierdzą, że bez problemu da się to zastosować również w przypadku tych większych, umieszczonych bezpośrednio przy drogach, gdzie mogłyby spowodować naprawdę duże zamieszanie. Z oczywistych powodów zagrożenie jest największe po zmierzchu.
Najgorsze w tym jest jednak to, że można tego dokonać zdalnie, nie pozostawiając praktycznie żadnych śladów. Jak zauważył jeden z naukowców, „auto po prostu wykona jakąś czynność i właściciel nie będzie rozumiał dlaczego”. Ataki na billboardy mogą być o wiele groźniejsze od dronów i projektorów również dlatego, że potencjalnie dotknęłyby więcej aut jednocześnie na np. zatłoczonych drogach. Czy zbliżamy się do momentu, w którym za korek drogowy w Kalifornii będzie odpowiedzialny haker z Rosji? Czas pokaże, jak na wyniki badań naukowców z Izraela zareagują producenci autonomicznych pojazdów.
