Badacze z Uniwersytetu Waszyngtońskiego opublikowali wyniki eksperymentu, w czasie którego zdołali oszukać system rozpoznawania znaków drogowych, zainstalowany w samochodzie autonomicznym. Wystarczyły do tego naklejki umieszczone na znakach.
Jak opisuje portal Cnet.com, badacze przeprowadzili dwie próby oszukania samochodu. Ich celem było wprowadzenie w błąd klasyfiktora, czyli systemu odpowiedzialnego za określenie, co znajduje się w pobliżu auta i jak powinno ono zareagować. Przykładowo jeżeli samochód wykryje przeszkodę, klasyfikator uzna, że auto powinno zahamować. Dzięki temu samochody autonomiczne potrafią rozpoznawać znaki drogowe i stosować się do nich.
Zmiana znaków
Badacze przeprowadzili dwa rodzaje “ataków”. W pierwszym nakleili na znak nalepkę, przedstawiającą lekko zmodyfikowany symbol. Znak nakazujący skręcenie w prawo został tylko nieco zmieniony, ale samochód uznawał go za znak stop lub znak informujący o pojawieniu się dodatkowego pasa.
W drugiej próbie naukowcy zastosowali niewielkie naklejki, umieszczone w kilku miejscach na znaku. To wystarczyło, by zaburzyć działanie systemów samochodu. Znak stop został rozpoznany przez auto jako ograniczenie prędkości do 60 km/h.
Badacze uspokajają, że mimo wszystko oszukanie systemu rozpoznawania znaków drogowych jest dość skomplikowane i oprócz znajomości sposobu działania algorytmów wymaga także dostępu do klasyfikatora. Producenci mogą stosować różne systemy tego typu, co dodatkowo utrudnia oszukanie samochodów autonomicznych.
Cnet.com
