CNN: Umetna inteligenca skoraj povzročila tretjo svetovno vojno

Serija dogodkov nas je skoraj pripeljala do armagedona, ki ga ni povzročila "prevarantska, superinteligentna umetna inteligenca", temveč odvisnost vlade od sistemov, nagnjenih k napakam, ki jih njihovi proizvajalci tržijo kot skoraj superinteligentne, piše britanski Guardian.

Vojaško osebje je spomladi, v času intenzivnih napadov na Iran, načrtovalo prestrezanje kitajske ladje, skupaj z letali in vojaki, pripravljenimi za vkrcanje nanjo. Takšen vojaški spopad med Kitajsko in ZDA bi se lahko hitro stopnjeval in sprevrgel v tretjo svetovno vojno, je poročal CNN.

Šele tik pred načrtovano operacijo so uradniki podrobneje preučili poročilo, ki ga je sestavil analitik poveljstva za specialne operacije, in ugotovili, da je bilo ustvarjeno s pomočjo umetne inteligence (UI) – in da je klepetalni robot, ki ga je analitik uporabil, napačno identificiral material, ki ga je ladja prevažala. CNN ni mogel izvedeti, kaj je bil napačno identificiran tovor.

Poročilo je bilo po navedbah enega od virov "popolnoma lažno". Vendar je tudi "skoraj začelo vojno". 

V ameriški vojski in obveščevalni skupnosti si uradniki prizadevajo za vključevanje umetne inteligence v skoraj vse vidike svojega dela, od analize ogromnih količin surovih obveščevalnih podatkov, ki jih ZDA zbirajo, in izbire tarč za napade, do bolj vsakdanjih aplikacij, kot so upravljanje proračuna, logistike in dobavnih verig.

Vendar pa ta dogodek poudarja velika tveganja uporabe te tehnologije za izbiranje ciljev sredi vojne. Analitiki se že dolgo bojijo, da bi umetna inteligenca lahko privedla do katastrofalnih napačnih izračunov, če se države zanašajo na slabe oz. nezanesljive podatke – takšnega napačnega izračuna, zaradi katerega bi Združene države lahko streljale na kitajsko ladjo na podlagi netočnih informacij.

V omenjenem primeru je analitik klepetalnemu robotu zastavil vprašanje o obveščevalnih poročilih o ladijskem manifestu, ki so izvirala iz ameriškega poveljstva za specialne operacije Pacifik s sedežem na Havajih.

"Notranja orodja so večinoma le kopije komercialnih pripomočkov s šminko," je dejal nekdanji visoki ameriški uradnik, seznanjen s sistemi umetne inteligence, ki jih uporabljajo vojaški in obveščevalni analitiki.

Bot je združil obveščevalne podatke odprtih virov s tajnimi obveščevalnimi podatki iz vladnih zbirk in prišel do usodnega zaključka o materialu, ki ga je ladja prevažala. Analitik je nato znova uporabil umetno inteligenco, da je ugotovitve zapakiral v standardno obveščevalno poročilo – takšno, ki mu zaupajo vojaški uradniki – in ga razposlal.

Januarja je obrambni minister Pete Hegseth izdal "Strategijo pospeševanja umetne inteligence", da bi pospešil uporabo umetne inteligence v vojski. "Sprožili bomo eksperimentiranje, odpravili birokratske ovire, usmerili naše naložbe in prikazali izvedbeni pristop, potreben za zagotovitev, da bomo vodilni v vojaški umetni inteligenci," je dejal Hegseth v govoru, ko je napovedal strategijo.

Epizoda s kitajsko ladjo poudarja drugačno in bolj neposredno tveganje: ljudje sprejemajo katastrofalne odločitve na podlagi netočnih ali zavajajočih informacij, ki jih ustvarja umetna inteligenca ali drugi avtomatizirani sistemi. Viri so za CNN povedali, da se vojska hitro obrača na umetno inteligenco za pomoč pri izbiranju tarč in napadov, kar je področje, kjer obstaja očitno tveganje za usodne napake.