Novo istraživanje otkriva ozbiljne probleme autonomnih vozila u blizini svetla za hitne slučajeve....
Sustavi umjetne inteligencije pokazuju velike slabosti prilikom bljeskanja svjetala za hitne slučajeve
Policija, ilustracija
Autonomni automobili s vremenom postaju sve pametniji, no svako malo, pojavljuju se nepredviđeni problemi.
Nedavno smo pisali o jednostavnom triku kojim se pešak s majicom na kojoj je pisalo ‘Stop‘ narugao robotaksiju, a sada se pojavila nova vrsta problema.
Istraživanje izraelskog Sveučilišta Ben-Gurion i japanske tehnološke tvrtke Fujitsu Limited pokazuje da pojedini sustavi automatizovane vožnje izloženi bljeskanju svjetla vozila hitne pomoći, vatrogasaca ili policije, ne mogu pouzdano identifikovati objekte na cesti.
Istraživači taj fenomen nazivaju ‘digitalnim epileptičkim napadom‘, a reč je o situaciji kada sustavi umjetne inteligencije pokazuju velike slabosti prilikom bljeskanjem svjetala za hitne slučajeve.
Učinak je posebno vidljiv u mraku.
Studija navodi da ova greška predstavlja ‘značajan rizik‘ jer potencijalno može uzrokovati da se vozila s automatizovanim sustavima vožnje ‘pokvare ili ugase‘ u blizini vozila s uključenim rotirkama.
Iako su nalazi alarmantni, ovo istraživanje dolazi s jednom napomenom.
Naime, istraživači nisu mogli testirati svoje teorije na specifičnom sustavu vožnje poput Teslinog Autopilota. Umesto toga, proveli su testove koristeći pet gotovih sustava za automatizovanu vožnju ugrađenih u kamere kupljene na Amazonu.
Cilj je bio dokazati ranjivost takvih sustava u blizini rotirajućih svetala.
Vozilo hitne pomoći, ilustracija
‘Samo istraživanje je inspirirano izveštajima da su se Teslini automobili od 2018. do 2021. godine, koristeći naprednu značajku za pomoć vozaču Autopilot, sudarili sa 16 vozila hitne pomoći‘, kaže Ben Nassi, istraživač kibernetičke sigurnosti i strojnog učenja na Sveučilištu Ben-Gurion koji je radio na studiji.
‘Od početka nam je bilo prilično jasno da bi sudari mogli biti povezani s paljenjem rotirajućih svetala za hitne slučajeve. Vozila hitne pomoći, policije i vatrogasaca različitih su oblika i veličina, tako da vrsta, odnosno oblik vozila nije ono što uzrokuje ovakvo ponašanje‘, kaže Nassi.
Policija, ilustracija
Trogodišnja istraga američke Nacionalne uprave za sigurnost cestovnog prometa o sudarima Tesle i vozila hitne pomoći na kraju je dovela do opsežnog povlačenja softvera Tesla Autopilot, piše Wired.
