Samochód autonomiczny „zhakowany” za pomocą nalepek na znakach drogowych

8 sierpnia 2017, 10:30 Alert
stop sign Znak stop (fot. Wikipedia/CC)

Badacze z Uniwersytetu Waszyngtońskiego opublikowali wyniki eksperymentu, w czasie którego zdołali oszukać system rozpoznawania znaków drogowych, zainstalowany w samochodzie autonomicznym. Wystarczyły do tego naklejki umieszczone na znakach. 

Jak opisuje portal Cnet.com, badacze przeprowadzili dwie próby oszukania samochodu. Ich celem było wprowadzenie w błąd klasyfiktora, czyli systemu odpowiedzialnego za określenie, co znajduje się w pobliżu auta i jak powinno ono zareagować. Przykładowo jeżeli samochód wykryje przeszkodę, klasyfikator uzna, że auto powinno zahamować. Dzięki temu samochody autonomiczne potrafią rozpoznawać znaki drogowe i stosować się do nich.

Zmiana znaków

Badacze przeprowadzili dwa rodzaje “ataków”. W pierwszym nakleili na znak nalepkę, przedstawiającą lekko zmodyfikowany symbol. Znak nakazujący skręcenie w prawo został tylko nieco zmieniony, ale samochód uznawał go za znak stop lub znak informujący o pojawieniu się dodatkowego pasa.

W drugiej próbie naukowcy zastosowali niewielkie naklejki, umieszczone w kilku miejscach na znaku. To wystarczyło, by zaburzyć działanie systemów samochodu. Znak stop został rozpoznany przez auto jako ograniczenie prędkości do 60 km/h.

Badacze uspokajają, że mimo wszystko oszukanie systemu rozpoznawania znaków drogowych jest dość skomplikowane i oprócz znajomości sposobu działania algorytmów wymaga także dostępu do klasyfikatora. Producenci mogą stosować różne systemy tego typu, co dodatkowo utrudnia oszukanie samochodów autonomicznych.

Cnet.com