Digitalni epileptički napad: Rotirke na policijskim vozilima stvaraju kaos umjetnoj inteligenciji

Autonomni automobili s vremenom postaju sve pametniji, no svako malo, pojavljuju se nepredviđeni problemi.

Nedavno smo pisali o jednostavnom triku kojim se pješak s majicom na kojoj je pisalo ‘Stop‘ narugao robotaksiju, a sada se pojavila nova vrsta problema.

Istraživanje izraelskog Sveučilišta Ben-Gurion i japanske tehnološke tvrtke Fujitsu Limited pokazuje da pojedini sustavi automatizirane vožnje izloženi bljeskanju svjetla vozila hitne pomoći, vatrogasaca ili policije, ne mogu pouzdano identificirati objekte na cesti.

Istraživači taj fenomen nazivaju ‘digitalnim epileptičkim napadom‘, a riječ je o situaciji kada sustavi umjetne inteligencije pokazuju velike slabosti prilikom bljeskanjem svjetala za hitne slučajeve.

Učinak je posebno vidljiv u mraku.

Studija navodi da ova greška predstavlja ‘značajan rizik‘ jer potencijalno može uzrokovati da se vozila s automatiziranim sustavima vožnje ‘pokvare ili ugase‘ u blizini vozila s uključenim rotirkama.

Iako su nalazi alarmantni, ovo istraživanje dolazi s jednom napomenom.

Naime, istraživači nisu mogli testirati svoje teorije na specifičnom sustavu vožnje poput Teslinog Autopilota. Umjesto toga, proveli su testove koristeći pet gotovih sustava za automatiziranu vožnju ugrađenih u kamere kupljene na Amazonu.

Cilj je bio dokazati ranjivost takvih sustava u blizini rotirajućih svjetla.

Vozilo hitne pomoći, ilustracija

Mario Beauregard Beaustock/Alamy/Alamy/Profimedia

‘Samo istraživanje je inspirirano izvješćima da su se Teslini automobili od 2018. do 2021. godine, koristeći naprednu značajku za pomoć vozaču Autopilot, sudarili sa 16 vozila hitne pomoći‘, kaže Ben Nassi, istraživač kibernetičke sigurnosti i strojnog učenja na Sveučilištu Ben-Gurion koji je radio na studiji.

‘Od početka nam je bilo prilično jasno da bi sudari mogli biti povezani s paljenjem rotirajućih svjetala za hitne slučajeve. Vozila hitne pomoći, policije i vatrogasaca različitih su oblika i veličina, tako da vrsta, odnosno oblik vozila nije ono što uzrokuje ovakvo ponašanje‘, kaže Nassi.

Policija, ilustracija

Martin Brayley/Alamy/Alamy/Profimedia

Trogodišnja istraga američke Nacionalne uprave za sigurnost cestovnog prometa o sudarima Tesle i vozila hitne pomoći na kraju je dovela do opsežnog povlačenja softvera Tesla Autopilot, piše Wired.