Szkolona do wykrywania ludzi AI została przechytrzona przez grupę ośmiu żołnierzy. Pomimo podejścia blisko urządzenia, algorytm nie był w stanie ich wykryć. Co ciekawe, jednym ze skutecznych sposobów okazało się wykorzystanie mechaniki z gry Metal Gear Solid!
Technologia w armii…
…rozwija się prawdopodobnie najszybciej. Armia Stanów Zjednoczonych Ameryki testuje okulary AR dla psów, próbuje dostosować HoloLens Microsoftu do celów militarnych, a także pracuje nad inteligentnym kombinezonem TRACIR. Niedawno wprowadzony został także pocisk typu powietrze-ziemia, który zastąpi dotychczas wykorzystywane Hellfire.
Jednak armia to nie tylko nowe technologie dla własnych żołnierzy oraz przeciwko „wrogiej sile żywej”, jak to zostało ładnie ujęte w instrukcji obsługi pewnej broni. Możemy znaleźć tam także roboty (chociażby wykorzystany przez francuskie wojsko Spot) oraz algorytmy sztucznej inteligencji, które mogą m.in. wspomagać pilotaż. Generał sir Nick Carter zadeklarował nawet, że do 2030 roku co czwarty żołnierz będzie robotem!
Szkolona do wykrywania ludzi AI oszukana przez Marines
Zostańmy jednak przy żołnierzach armii Stanów Zjednoczonych, którzy dostali trudne (przynajmniej pozornie) zadanie. Mieli podejść do robota wyposażonego w AI, dotknąć go i nie zostać przy tym wykryci. Co istotne, przez tydzień, który poprzedzał tę niemal niemożliwą do wykonania komendę, wspomniany algorytm był trenowany do wykrywania ludzi.
Biorąc pod uwagę zarówno powyższą informację, jak i fakt, że AI uczy się dość szybko oraz dochodzi do poziomu, który pozwala jej wygrywać z mistrzami, zadanie wydaje się awykonalne. Polecenie dostało ośmiu żołnierzy – wszystkim udało się je wykonać, a robot nie wykrył ani jednego wojaka. Jak to się stało?
Odpowiedzi na to pytanie dostarcza opublikowany na Twitterze fragment książki Four Battlegrounds: Power in the Age of Artificial Intelligence, autorstwa Paula Scharre. Dowiadujemy się z niego, że mundurowi wykorzystali do tego proste techniki, które pozwoliły na oszukanie algorytmu.
Jak czytamy w opublikowanym fragmencie:
Dwóch przekoziołkowało 300 metrów; żaden nie został wykryty. Dwóch schowało się w kartonie. Przez cały czas się śmiali. Jeden (…) udawał jodłę (…) i widać było jedynie jego uśmiech.
Fragment książki Four Battlegrounds: Power in the Age of Artificial Intelligence
Słaby ten algorytm…?
Nie wiemy, co zrobiła pozostała trójka mundurowych, jednak znamy rezultat ich starań – nie zostali wykryci przez algorytm. Dlaczego jednak tak się stało? Cóż, sztuczna inteligencja była trenowana do wykrywania poruszających się ludzi, ale w sposób konwencjonalny, to jest chodzących, biegających, być może także tych, którzy się czołgają.
Nie była w stanie odnotować jednak obecności człowieka, który robi salta, chowa się pod kartonem czy udaje drzewo. Zachowania te zwyczajnie nie pasowały do wzorca, którego nauczył się algorytm. Gdyby wykorzystano zwykłe wykrywacze ruchu, prawdopodobnie żadnemu z mundurowych by się nie udało dosięgnąć robota…
