'Moramo se pripraviti na bojišče, kjer bo AI brez nadzora'

Z Vettrom, ki velja za enega ključnih ljudi nemške obrambne in kibernetske strategije v času, ko se vojskovanje vse hitreje seli v digitalni prostor, umetna inteligenca pa postaja del vojaškega odločanja, sva govorila ob robu konference Globsec v Pragi. 

Sem je prišel, da bi govoril o umetni inteligenci v obrambni strategiji na bojišču in pripravljenosti Evrope na novo obdobje konfliktov. 

Želi si sicer predvsem miru, mi pravi. "Kot oče šestih otrok vam lahko zagotovim, da delam vse, kar je v moji moči, da bodo odraščali in živeli v miru." 

A ob tem opozarja, da Evropa ne sme več razmišljati v kategorijah mirnodobnega sveta. Vojna v Ukrajini, razvoj umetne inteligence in vse bolj agresivno kibernetsko okolje po njegovem zahtevajo hitrejšo prilagoditev obrambnih sistemov in večjo odpornost družb. Tudi s pomočjo AI, ki že hitro spreminja vojskovanje. 

Kje torej vidi mejo med tehnološko premočjo in izgubo resničnega človeškega nadzora nad vojno? "Napredek umetne inteligence je za nekatere morda zastrašujoč, vendar mislim, da moramo najti pravo ravnotežje med priložnostmi in tveganji. Nemčija je sprejela strateške smernice glede umetne inteligence in njene odgovorne uporabe." 

Poudarja, da ko gre za odločitve o uporabi smrtonosne sile, o ubijanju, mora človek ostati del procesa odločanja. "Vprašanje smiselnega človeškega nadzora nad oborožitvenimi sistemi je izjemno pomembno in ga preučujemo zelo previdno. Ne vem, kam točno nas bo ta razvoj pripeljal, vendar menim, da smo na konceptualni ravni postavili prave varovalke, ki zagotavljajo, da človek ostane tisti, ki nadzoruje sistem."

Pa bo na koncu res tako? Navsezadnje v tej igri nismo sami. Tudi na sami konferenci je veliko govorcev opozorilo na nepredvidljivost nasprotnikov. Zato se seveda samo po sebi postavi naslednje vprašanje - ali bomo o teh pravilih sploh odločali mi? Tukaj so Rusija in druge države. Bodo tudi one spoštovale takšne omejitve ali pa bomo prej ali slej priča nekakšnemu divjemu zahodu?

"Zgodovina vojskovanja kaže, da pravila in regulacije sicer obstajajo, vendar jih vsi ne spoštujejo vedno," je realističen sogovornik. "Zato se moramo pripraviti na bojišče, kjer bodo naši nasprotniki uporabljali sisteme umetne inteligence brez ustreznega nadzora in brez spoštovanja mednarodnega vojnega prava. Na to moramo biti pripravljeni."

Želi pa si ojačanja "evropskih mišic" s pomočjo novih tehnologij. "Menim, da nam lahko umetna inteligenca pomaga zgraditi tako močno obrambno in odvračalno držo, da bo Rusiji ali drugim nasprotnikom povzročila toliko dilem, da se bodo vzdržali napada."

A da na racionalnost nasprotnikov ni računati, je Vladimir Putin dokazal že na primeru Ukrajine. In prav tam je vojna pokazala, da konfliktov ne odločajo le tehnologija, temveč tudi industrijska zmogljivost, proizvodnja in odpornost družbe. Kaj se lahko iz tega nauči Evropa? Ga bolj skrbi tehnološki napredek nasprotnikov ali erozija strateške potrpežljivosti Zahoda? "Vaši oceni ukrajinske odpornosti bi dodal še nekaj: voljo prebivalstva, da brani svojo svobodo in neodvisnost. To je po mojem najpomembnejše. Lahko imate vojsko, industrijsko moč in tehnološke inovacije če ljudje niso pripravljeni braniti svoje svobode, vse to pomeni zelo malo."

"Na Zahodu moramo zato ljudi prepričati, da je naš način življenja nekaj, kar je vredno braniti. Tudi v Nemčiji zelo veliko delamo na tem, da ljudem pokažemo, da sta svoboda in demokracija vrednoti, za kateri se je vredno boriti." 

Toda kako o tem prepričati generacije, ki so desetletja živele v miru, brez resničnega strahu pred vojno? Vetter meni, da je Ukrajina dober pokazatelj tega, kako družba reagira, ko gre zares. In ob to je trčil tudi Putin. "Pred rusko invazijo si verjetno marsikdo v Kijevu ne bi predstavljal, da bi bil pripravljen umreti za svojo državo. Potem pa smo v prvih dneh vojne videli ljudi, ki so pripravljali molotovke, da bi ustavili ruske sile. Prepričan sem, da bi tudi naši ljudje razumeli, da se moramo v primeru napada boriti za svojo svobodo."

Vojne v Ukrajini pa ne opazujejo le s psihološkega vidika. Podatke z bojišča v Nemčiji vključujejo v razvoj doktrin in prihodnjih zmogljivosti. Prav tako pa želijo bolje povezati tudi lastne podatkovne sisteme od logistike do kadrovskih podatkov in jih združiti prek platform za integracijo podatkov ter umetne inteligence, da bodo lahko sprejemali boljše odločitve. 

Vendar pa nova realnost ne prihaja brez tveganj, odpira vprašanje digitalne suverenosti. Vetter je jasen: nemške oborožene sile morajo biti sposobne sprejemati lastne odločitve brez neželenega vpliva ali vmešavanja tretjih strani. Obstaja pa veliko področij, kjer je sodelovanje nujno, tudi z ameriškimi tehnološkimi podjetji. Kot je denimo Palantir Technologies, ki se ga vse bolj izpostavlja v evropski razpravi in se mu tudi na tokratnem Globsecu niso izognili. 

Vetter je sicer jasen, da nerad govori o konkretnih podjetjih, da pa v Nemčiji obstaja precejšnja politična zaskrbljenost glede vodstva podjetja Palantir. "Tu je Peter Thiel, ki je povezan z gibanjem MAGA in ima precej specifične poglede na demokracijo, ki verjetno niso skladni z našimi vrednotami. Tudi Alex Karp je precej posebna osebnost." 

Po drugi strani pa je, pravi, njihova tehnologija - dobra. "Težava pri sistemu Maven je, da je v trenutni Natovi postavitvi osebje Palantirja trajno vključeno v Natove strukture. In tu se odpre vprašanje digitalne suverenosti. Lahko uporabljam orodja podjetja Palantir, vendar želim, da delujejo znotraj našega lastnega sistema, pod našim nadzorom in na naši infrastrukturi."

Po drugi strani nove tehnologije, AI ne predstavljajo le rešitev, ampak tudi izziv - kibernetski napadi, dezinformacije, deepfake posnetki, manipulacija podatkov, avtomatizirano izvidništvo. 

Vetter pravi, da je zato ključno, da se razume prihodnje operativno okolje. Prvič, da danes živimo v obdobju trajne tekmovalnosti med velikimi silami, ne več v času globalizacijskega optimizma. Drugič, da z nekaterimi državami hkrati sodelujemo gospodarsko, z njimi tekmujemo na globalnem trgu, obenem pa so lahko tudi naši strateški rivali ali celo nasprotniki v informacijskem prostoru, zato odgovor ne more biti zgolj vojaški. In tretjič, da meja med mirom, krizo in vojno postaja vse bolj zabrisana.