Apokaliptična vizija nije daleko od stvarnosti za račun svetskih sila ratuju roboti, vođeni algoritmima i veštačkom inteligencijom, a stradaju ljudi.
Da li to može da se predupredi? O tome govori novi dokumentarac DW.
Trka za oružjem koje koristi veštačku inteligenciju već je u punom jeku. „Mi smo usred toga. To je realnost sa kojom moramo da izađemo na kraj“, upozorio je nemački šef diplomatije Hajko Mas u razgovoru za novi dokumentarac DW „Budući ratovi – i kako ih sprečiti“.
Svetske velesile ubeđene su da pobeda u ovoj trci donosi veliku moć. „Trka se vodi kroz vojna i civilna polja“, kaže nam Anamdip Sing Gil koji je nekada vodio grupu stručnjaka UN za autonomna oružja. „Ovo je pitanje teško mnogo biliona dolara“, kaže on.
Poslednji izveštaj američke Komisije za nacionalnu bezbednost o veštačkoj inteligenciji govori o „novoj paradigmi ratovanja“ u kojoj se „algoritmi bore protiv algoritama“. Zahtevaju se masne investicije u ovo polje kako bi se „kontinuirano u inovacijama pobeđivali potencijalni protivnici“.
Kina stavlja veštačku inteligenciju u centar svojih istraživanja, dok tamošnja Narodna armija govori o budućem „inteligentnom ratovanju“. Ruski predsednik Vladimir Putin je još 2017. rekao da će onaj ko postane lider u ovoj oblasti ujedno postati „gospodar sveta“.
Pouke sa Kavkaza
Krajem prošle godine je Kavkaz bio velika laboratorija ovog ratovanja budućnosti. Sve je izgledalo kao i raniji teški sukobi Jermenije i Azerbejdžana oko Nagorno-Karabaha, ali stručnjaci su videli novine. „Veoma važan aspekat tog sukoba je bila upotreba vrebajućeg oružja“, kaže Ulrike Franke, ekspertkinja za bespilotne letelice u Evropskom savetu za međunarodne odnose.
Izraz vrebajuće oružje koristi se za projektile koji uzleću bez posebnog cilja i kruže iznad potencijalnih meta. Cilj se odabira tek kasnije. „Na Nagorno-Karababhu su korišćeni takvi dronovi-kamikaze, to su prilično autonomni sistemi“, kaže Franke.
Prema Centru za strateške i međunarodne studije, Azerbejdžan je imao oko dve stotine ovakvih dronova, i to četiri različita modela, svi najmodernije izraelske proizvodnje. Jermenija je imala samo jedan domaći model.
Drugim armijama širom sveta nije promaklo da ovakva prednost može da odluči rat. „Od tog konflikta vidimo određeni rast interesa za vrebajućim oružjem“, dodaje Franke. „Vidimo sve više vojski širom sveta koje nabavljaju ili planiraju da nabave vrebajuću municiju.“
To je tek početak. Veštačka inteligencija će uskoro omogućavati jata dronova – mnogo njih koji lete zajedno, i strateški pogađaju više ciljeva.
„Mogli bi da naciljaju recimo sistem protivvazdušne odbrane“, kaže nam Martijn Raser iz Centra za novu američku bezbednost iz Vašingtona. „Napadneš ga tolikom masom da je sistem preopterećen. To naravno donosi ogromnu taktičku prednost na bojištu.“
Brojnost dronova i brzina kojom se sve dešava naprosto izmiču ljudskoj kontroli. Sve biva prepušteno softveru i veštačkoj inteligenciji. Kako kaže Ulrike Franke, to će terati armije da prilagode protivvazdušnu odbranu jer „ljudska bića neće biti u stanju da se toliko brzo nose sa autonomnim napadima“.
U apokaliptičnoj verziji, koja nije toliko daleko, imali bismo autonomna oružja koja reaguju jedna na druga i ulaze u spiralu eskalacije. „U literaturi to nazivamo fleš ratovima. To su slučajni vojni sukobi koje ljudi nisu nameravali“, kaže Franke.
Sporazum se ne nazire
Boni Doherti želi da spreči takvu budućnost. Ona predaje na pravnoj školi Harvarda i predvodi kampanju „Stop robotima ubicama“, udruženje nevladinih organizacija koje traže zabranu autonomnih smrtonosnih oružja.
– Obaveza koja bi proizišla iz takvog dogovora je da se održi smislena ljudska kontrola nad upotrebom sile – kaže Doherti za DW.
„Sporazum bi se ticao svih oružja koja delaju autonomno, to jest biraju mete i otvaraju vatru na osnovu podataka koje prikupe senzori, umesto na osnovu ljudske komande.“
Kampanja se fokusira na razgovore u Ženevi pod kišobranom Konvencije UN. Ali, to je spor proces iz kojeg je za sada proizišao niz „principa“, recimo da autonomna oružja podležu krivičnom prvu i da su na kraju ljudi odgovorni za njihovu upotrebu. Razgovori se nastavljaju ove godine.
Doherti misli da to neće bogzna šta doneti jer velike sile nemaju interes da potpišu zabranu ovakvog oružja. „Rusija se posebno snažno opire. Ali sporazum ne podržavaju ni druge zemlje koje razvijaju autonomno naoružanje poput Izraela, SAD i Velike Britanije.“
Nemačka podržava ideju da se ovakva oružja zabrane, ali ne podržava kampanju „Stop robotima ubicama“. „Ne odbijamo tu kampanju u njenoj suštini – samo tražimo da drugi budu uključeni“, kaže nemački ministar spoljnih dela Mas. „Vojne sile koje su tehnološki u mogućnosti ne samo da razviju, već i da upotrebe autonomno oružje.“
Mas je saglasan da sporazum treba da bude krajnji cilj. „Baš kao što smo uspeli sa nuklearnim oružjem tokom mnogih decenija, i sada moramo da skujemo međunarodne sporazume o novim tehnologijama oružja“, navodi on. „Tu mora jasno da piše da smo saglasni kako nije prihvatljivo sve što je tehnički moguće.“
Ali za sada nema konsenzusa. Ulrike Franke nije optimistična. Kaže, najviše čemu se može nadati su neka pravila kako se nove smrtonosne tehnologije koriste. „Recimo, dogovor da se neki kapaciteti koriste samo u odbrambene svrhe ili samo protiv mašina, a ne ljudi“, dodaje ona.
U međuvremenu, uz relativno malo pažnje javnosti, razorna oružja budućnosti napreduju. „Svet mora da se zanima za činjenicu da idemo ka situaciji u kojoj će svako moći da radi šta mu je volja sa sajber ili autonomnim oružjem“, upozorava Mas. „To ne želimo.“
