Zagovornici samoupravljajućih automobila kao jedan od razloga za uvođenje ove vrste vozila navode poboljšanje opšte bezbednosti saobraćaja. Takva vrsta vozila treba da bude u stanju da "donosi" bolje odluke u vožnji od čoveka.
Međutim, i dalje će se događati poneka saobraćajna nesreća koju je nemoguće predvideti i izbeći. Na primer, može se desiti da ispred samoupravljajućeg vozila iznenada istrči neka životinja.
I dok ljudsko biće za volanom u takvim situacijama može da reaguje samo refleksno, robotizovani automobil kojim upravlja kompjuter i koji istovremeno prati položaj i kretanje drugih učesnika u saobraćaju, može u deliću sekunde da proceni rizike i izabere optimalno rešenje kako bi umanjio posledice sudara.
Ali, i kompjuteri rade na osnovu softvera koji je osmislio čovek. Postavlja se pitanje na osnovu kojih kriterijuma će kompjuter u robotizovanom automobilu donositi odluke koje osim bezbednosne mogu da imaju i moralnu dimenziju.
Do sada su se testovi prototipova samoupravljajućih vozila obavljali uglavnom na putevima izvan naseljenih sredina ili na klasičnim autoputevima.
U oba slučaja, kompjuter ima manje nepoznatih o kojima mora da brine jer, na primer, nema pešaka u okolini. Međutim, odskora je Google počeo da vrši testove na gradskim ulicama gde se povećava dinamika saobraćaja i broj mogućih scenarija i nepredviđenih situacija.
Vozila će biti programirana da spreče nesreće, ali događaće se da su one neizbežne. Pošto će u takvim situacijama kompjuter morati da minimizuje posledice sudara, ponekad će morati da odluči da li će automobil udariti u jedno ili u drugo vozilo.
Ako bude morao da bira da li da udari u vozilo koje ima bolje bezbednosne karakteristike ili u ono koje je po pitanju bezbednosti putnika ranjivije, kompjuter će izabrati ovo prvo, jer mu je cilj da smanji rizik od povreda svih učesnika u saobraćaju.
Slično je i ako bude morao da izabere između dvojice motociklista – jednog koji nosi kacigu i drugog bez kacige. I u ovom slučaju odlučiće se za onog koji je bolje zaštićen.
Ali tu se suočavamo sa moralnom dilemom. U prvom slučaju, ispada da je vlasnik koji je kupio bezbedniji automobil diskriminisan u odnosu na onog koji se nalazi u manje bezbednom vozilu.
Po istoj logici motociklista koji se ne pridržava pravila i ne nosi zaštitnu opremu, biće pošteđen na račun onog koji je disciplinovan i koristi kacigu.
U ekstremnim slučajevima, samoupravljajući automobil može čak da se nađe i pred dilemom da li da pregazi jednog ili drugog pešaka, i na taj način odluči ko će da živi a ko ne.
Kako bi robotizovana vozila zaista imala budućnost i da bi doprinela većoj bezbednosti saobraćaja, njihovi tvorci moraće da razmotre ove i mnoge druge scenarije, i da pored tehnoloških problema reše i brojne moralne dileme u vezi sa njihovim funkcionisanjem.
