Vojskovanje bi lahko postalo tekma, kjer zmaga tisti z boljšim algoritmom

Hkrati tak razvoj odpira številna vprašanja: kako zanesljivi so sistemi umetne inteligence v vojaških operacijah, kdo nosi odgovornost za njihove odločitve in ali obstaja nevarnost, da bi algoritmi vplivali na eskalacijo konfliktov.

Po mnenju strokovnjakov smo trenutno v fazi, ko umetna inteligenca že izboljšuje obstoječe vojaške procese, v prihodnosti pa lahko privede tudi do bistveno globljih sprememb v načinu vojskovanja.

Ena najpomembnejših prednosti umetne inteligence v vojski je sposobnost analize velikih količin podatkov iz različnih virov. Ti vključujejo satelitske posnetke, posnetke dronov, radarje, senzorje na terenu in odprte vire, kot so družbena omrežja ali javne kamere.

Matjaž Gams, eden od pionirjev računalništva in umetne inteligence v Sloveniji, pojasnjuje, da je ključna prednost takšnih sistemov njihova sposobnost prepoznavanja vzorcev v ogromnih količinah informacij.

"Sistem prepoznava vzorce – na primer premike enot, logistične poti ali nenavadno aktivnost. Gre za izjemno zmogljivo pametno filtriranje informacij, ki poveljnikom omogoča hitrejše in bolj informirane odločitve."

Kot primer takšnega sistema Gams navaja ameriški Project Maven, kjer umetna inteligenca analizira posnetke dronov in samodejno označuje vozila, ljudi ali objekte. "To pomeni, da analitik ne gleda več ur posnetkov, ampak UI v nekaj sekundah pokaže potencialno pomembne dele."

Podobne tehnologije se danes uporabljajo tudi pri nadzoru meja, zaznavanju raketnih izstrelitev in iskanju podmornic.

Ameriška vojska je potrdila, da v vojni proti Iranu uporablja različna orodja umetne inteligence. Kot poroča Al Jazeera, je poveljnik ameriškega centralnega poveljstva (CENTCOM) Brad Cooper pojasnil, da takšni sistemi vojakom omogočajo obdelavo ogromnih količin podatkov v zelo kratkem času. Po njegovih besedah lahko umetna inteligenca analizira informacije v nekaj sekundah, medtem ko je to v preteklosti pogosto trajalo več ur ali celo dni. To vojaškim poveljnikom omogoča hitrejše razumevanje razmer na bojišču. Kljub temu Cooper poudarja, da končne odločitve o napadih še vedno sprejemajo ljudje, saj umetna inteligenca deluje predvsem kot orodje za podporo pri odločanju.

Prav hitrost obdelave informacij je v sodobnih vojaških operacijah pogosto ključnega pomena. Obramboslovec Miha Šlebir pravi, da je eden pomembnih vidikov vojaškega načrtovanja pospeševanje procesa odločanja: "Ena najpomembnejših stvari pri načrtovanju bojnega delovanja je, da se odločitev sprejme čim hitreje. Cilj je, da sovražnika prehitimo v ciklu odločanja in ga že s tem postavimo v neugoden položaj."

Podobno kot Cooper pojasnjuje, da načrtovanje zračnih operacij običajno poteka več dni vnaprej. "Tipično načrtovanje bojnega delovanja za zračne napade se začne več deset ur, preden gredo letala v zrak," pojasnjuje. Umetna inteligenca lahko ta proces bistveno skrajša, saj omogoča hitrejšo analizo obveščevalnih podatkov in pripravo različnih operativnih scenarijev.

Na vpliv umetne inteligence na obseg vojaških operacij opozarja tudi analiza medija The Conversation. Po poročanju časnika The Washington Post je ameriška vojska v prvih 24 urah napadov na Iran zadela več kot tisoč ciljev. K takšni intenzivnosti operacij so prispevali tudi napredni sistemi umetne inteligence, med drugim orodje Claude podjetja Anthropic, vključeno v sistem Maven Smart System, ki ga je za Pentagon zgradilo podjetje Palantir. Ti sistemi analizirajo satelitske posnetke, obveščevalne podatke in druge informacije ter pomagajo pri prepoznavanju potencialnih ciljev in določanju prioritet napadov skoraj v realnem času. Gre za tehnologije, ki so rezultat desetletij razvoja digitalnih sistemov, obveščevalne analitike in vojaške infrastrukture. Kot so poročali ameriški mediji, so ta sistem uporabile tudi ZDA pri ugrabitvi venezuelskega predsednika Nicolása Madura in Izrael pri umoru vrhovnega voditelja Alija Hameneija.

Šlebir ob tem opozarja tudi na tveganja pretiranega zaupanja v takšne sisteme: "Nevarnost je, da bi odločevalci začeli nekritično potrjevati tisto, kar jim umetna inteligenca pripravi."

Na to opozarjajo tudi nekatere raziskave, ki so pokazale, da so bili nekateri modeli umetne inteligence v simulacijah konfliktov celo bolj nagnjeni k eskalaciji kot človeški odločevalci. "Komercialnim orodjem so dali igrati vojno igro in izkazalo se je, da so bila ta orodja bolj nagnjena k eskalaciji konflikta kot človeški odločevalci," dodaja Šlebir.

Zaradi teh tveganj strokovnjaki poudarjajo pomen človeškega nadzora nad vojaškimi sistemi umetne inteligence.

Po Gamsovih besedah vojske že danes uvajajo več varnostnih mehanizmov. "UI ni nezmotljiva in vojske se tega dobro zavedajo. Zato uvajajo več plasti varoval."

Med pomembnejšimi so kakovost podatkov, simulacije, testiranja in človeški nadzor. "Pri večini smrtonosnih sistemov mora človek potrditi odločitev. Temu pravimo human-in-the-loop," dodaja Gams.

Podobno poudarja tudi Šlebir, ki opozarja na pomen človeške odgovornosti v vojaških odločitvah. "Mednarodno pravo oboroženih spopadov je bilo pisano z mislijo, da je človek tisti, ki sprejema odločitev."

Človek je namreč sposoben moralnega presojanja, razume posledice svojih dejanj in nosi odgovornost za svoje odločitve.

Uporaba umetne inteligence v vojni odpira številna etična vprašanja. Vojna ZDA in Izraela proti Iranu je sprožila pozive k neodvisni preiskavi po bombardiranju dekliške osnovne šole v Minabu na jugu Irana, v katerem je umrlo najmanj 170 ljudi, večinoma otrok.

Po podatkih iranskih oblasti je v napadih od začetka vojaške operacije umrlo več kot 1300 ljudi, poškodovanih ali uničenih pa je bilo več tisoč civilnih objektov, vključno z bolnišnicami, tržnicami in šolami, poroča Al Jazeera.

Med drugim je prišlo do sporov med ameriško vlado in tehnološkimi podjetji glede uporabe umetne inteligence v vojaške namene. Podjetje Anthropic je, na primer, nasprotovalo uporabi svojih modelov za popolnoma avtonomno orožje ali množični nadzor.

Zaskrbljenost zaradi militarizacije umetne inteligence so izrazile tudi druge države. Kitajsko obrambno ministrstvo je opozorilo, da bi neomejena uporaba umetne inteligence v vojaške namene lahko oslabila etične omejitve vojne, zmanjšala odgovornost za odločitve in prepustila algoritmom prevelik vpliv na vprašanja življenja in smrti.

Gams opozarja, da bi popolnoma avtonomni sistemi, ki bi samostojno, brez človeške odobritve, odločali o napadih, lahko predstavljali resno nevarnost.

Takšni sistemi so pogosto opisani kot "killer robots" ali "terminatorji". "Avtonomna orožja so ena od rdečih črt, ki jih človeštvo ne bi smelo prestopiti," pravi Gams.

Podobno razpravo že več let vodijo tudi na ravni Združenih narodov, kjer države razpravljajo o morebitni prepovedi popolnoma avtonomnih orožij.

Razvoj vojaške umetne inteligence poteka predvsem v velikih državah, kot so ZDA, Kitajska in Rusija. Tehnologije umetne inteligence pa imajo potencial tudi za asimetrične konflikte.

Šlebir opozarja, da bi lahko šibkejše države ali nedržavni akterji UI uporabljali predvsem na področju informacijskega in kibernetskega vojskovanja. "Pri šibkejših akterjih je večji poudarek na informacijskem, kognitivnem in kibernetskem vojskovanju."

Takšne oblike konflikta so pogosto cenejše in ne zahtevajo velikih vojaških zmogljivosti.

Po mnenju strokovnjakov umetna inteligenca trenutno predvsem izboljšuje obstoječe vojaške procese.

Gams meni, da smo še vedno v fazi postopnega razvoja. "Po mojem mnenju smo trenutno v fazi evolucije, ki pa lahko preraste v revolucijo."

Podobno kot sta v preteklosti radar ali GPS tudi umetna inteligenca najprej spreminja taktiko in učinkovitost vojaških operacij.

V prihodnosti bi lahko razvoj tehnologije privedel do še bolj radikalnih sprememb. "V skrajnem primeru bi vojskovanje lahko postalo algoritemska tekma, kjer zmaga tisti z boljšim algoritmom."

Razvoj umetne inteligence se bo v prihodnjih letih verjetno še pospešil. Ta tehnologija ima velik potencial za pozitivne uporabe, od medicine do znanosti.

Prav zaradi svoje moči zahteva posebno odgovornost.

Kot poudarja Gams: "Umetna inteligenca sama po sebi ne more postati nevarna za človeštvo – nevarna postane šele, ko ji ljudje dovolimo, da samostojno odloča o življenju in smrti."

Zato bo eno najpomembnejših vprašanj prihodnosti, kako zagotoviti, da bo umetna inteligenca ostala orodje v rokah človeka, ne obratno.