Preveč je na kocki, da bi odločala sama: 'AI ni čarovnija in AI ni brezplačna'

Harasimowicz vztraja, da mora odgovornost ostati pri človeku. Umetna inteligenca, ki bi na bojišču delovala brez omejitev in človeškega nadzora, je zanj "nepredstavljiva", saj mora biti na koncu mogoče pokazati na človeka in reči: to je bila vaša odgovornost. Toda opozarja tudi na paradoks: stroj je lahko v določenih okoliščinah celo objektivnejši od človeka. In nekateri problemi – od kibernetskih napadov do obrambe pred hipersoničnim orožjem – se dogajajo tako hitro, da jih človek brez pomoči AI preprosto ne more več obvladovati.

Z umetno inteligenco delam od leta 1989, zato je bilo izjemno spremljati njen razvoj in vpliv na način, kako upravljamo podatke na praktično vseh področjih. Že pred desetletji smo imeli probleme, ki so preprosto presegali človeške zmožnosti. Pri določeni količini in hitrosti podatkov je bolj smiselno prepustiti stroju, da jih razvrsti, klasificira in uporabi za napovedovanje, človek pa njegove rezultate preverja.

Ta koncept je star. 

Kar se je spremenilo, je hitrost. In prav hitrost, s katero AI spreminja stvari, je verjetno največja sprememba zadnjih nekaj let.

AI se ni čudežno pojavila s ChatGPT novembra 2022. Na njej delamo že zelo dolgo, številne matematične enačbe, na katerih temelji, pa so obstajale že v petdesetih in šestdesetih letih. Nato smo dobili veliko več podatkov in dostop do bistveno cenejše računalniške moči. Zato imamo danes ta skoraj revolucionaren dostop do podatkov, sklepanja in novih spoznanj.

Toda vedno opozarjam na dvoje: AI ni čarovnija in AI ni brezplačna.

V osnovi govorimo o matematiki, statistiki, grafih znanja, vektorskih podatkovnih bazah in razumevanju odnosov med posameznimi elementi. AI lahko na tej podlagi napoveduje. To pa pomeni tudi, da se lahko moti.

Zato moramo biti ljudje najboljša različica samih sebe. Moramo biti sposobni pogledati rezultat in reči: "To nima smisla." Moramo AI izzvati, jo usmerjati in učiti, predvsem pa nad njo ohraniti nadzor. Gre za orodje, ki se ga moramo zavedati.

AI ima poleg tega vedno svojo ceno. Vprašanje je, kje to ceno plačate – pri obvladovanju tveganja, pri človeškem nadzoru ali nekje drugje. Preden del svojega delovanja prepustite AI, se morate tega stroška zavedati.

Takrat sem delal na obdelavi naravnega jezika – kako uporabiti algoritem, da iz dolgega besedila izlušči vrednost. Že takrat je bilo zabavno in vznemirljivo videti, da deluje.

Omejevala nas je predvsem razpoložljiva računalniška moč. Računalnik je morda potreboval več tednov, da je nekaj obdelal, toda na koncu si lahko rekel: iz podatkov sem dobil nekaj koristnega, kar je bilo prej skrito.

Vedel sem, da gre za stvar, ki bo nekoč velika.

V vojski sem želel ostati na področju raziskovanja AI, vendar so želeli, da počnem tudi druge stvari. Tako sem se v 25 letih ukvarjal z inženirstvom, načrtovanjem misij, razvojem politik in predvsem poveljevanjem.

Ko sem se leta 2015 upokojil iz ameriških letalskih sil, sem odšel v finance in ponovno pristal neposredno v AI. Pri JPMorgan Chase smo jo uporabljali za preprečevanje goljufij in pranja denarja, odkrivanje notranjih groženj, analitiko nepremičnin in bančništva ter analizo preferenc strank.

Nato me je nazaj poklicala vlada in delal sem za Joint AI Center, zatem pa je Lockheed Martin želel pospešiti svoj program umetne inteligence in prišel sem sem. Zanimivo je bilo opazovati, kako se je podoben model razvoja AI oblikoval na treh povsem različnih področjih.

V vojski so me naučili discipline. Procesi morajo biti ponovljivi, naše delo pa je predmet ocenjevanja, preverjanja in včasih tudi neuspeha.

Če ste bojni pilot, opravljate preverjanja. Če ste pripadnik oboroženih sil, vas ocenjujejo na vajah. Preverja se, ali ste fizično in psihično sposobni sprejemati dobre odločitve. Obstajajo zakoni, pravila oboroženih spopadov, Ženevske konvencije. O tem smo usposobljeni, preverjani in od nas se pričakuje, da ta pravila spoštujemo.

Ko se odločimo uporabiti AI za določeno nalogo, zato obstaja pričakovanje, da jo bomo uporabili odgovorno.

Podoben pristop smo uporabili pri kibernetski varnosti. Ko je programer postal del vojaškega delovanja, smo tudi zanj uvedli preverjanje pripravljenosti. Če preverjanja ne opravi, ga umaknemo, ponovno usposobimo ali premestimo.

Enako velja pri AI. Postavljamo varovalke in meje ter preverjamo, ali AI ostaja znotraj parametrov, za katere je bila zasnovana. Toda znotraj svojih parametrov mora delovati tudi človek.

Če nekdo presojo ves čas prepušča AI, temu pravimo "automation bias", avtomatizacijska pristranskost. Človeka AI tako prevzame, da ji preprosto verjame. Tega ne smemo dovoliti.

Takšnega človeka moramo umakniti in mu pojasniti, zakaj mora biti agresivnejši pri usmerjanju, informiranju in popravljanju AI. Ker je on odgovoren.

Usposabljati moramo oba dela nove ekipe človek-stroj.

Imel sem priložnost voditi skupino 80 inženirjev umetne inteligence. Razvijali so jo hitro, toda sistemi so morali skozi različne ravni preverjanja.

Pri določenih sistemih obstajajo standardi FAA in preverjanja plovnosti. Ameriška mornarica je imela 16 različnih organizacijskih preverjanj, preden je bila naša AI odobrena.

Takšna stopnja preverjanja je del kulture Lockheed Martina. Odgovorna uporaba tehnologije velja tudi za AI.

Ko uporabljamo modele, razvite zunaj Lockheed Martina, smo zato vzpostavili nadzorni načrt. Vemo, kaj potrebuje naših približno 75.000 inženirjev, in jim lahko omogočimo dostop do preverjenih različic teh modelov, nad katerimi je mogoče izvajati nadzor.

Vemo, kdo jih uporablja, koliko jih uporablja in za kaj jih uporablja. Dostop ni neomejen in ni nenadzorovan. Merimo ga in beležimo.

Mislim, da je vsaka vojna, ki jo je človeštvo bojevalo, pospešila razvoj tehnologije, ker vsaka stran išče prednost pred drugo.

Zato sedanja vojna v tem smislu ni drugačna. Spreminja se tehnologija, ki je v določenem trenutku na voljo. To smo videli pri GPS, letalskih sistemih in dronih. Drone smo začeli intenzivneje razvijati že v času razpada Jugoslavije, ko je postalo pomembno vprašanje, kako nadzorovati velika območja.

Vsak konflikt prinese obdobje, ko se del birokracije zmanjša in postane bistveno vprašanje: kaj potrebujemo na bojišču, da našim silam zagotovimo prednost?

Tokrat se je to zgodilo ravno v trenutku vzpona umetne inteligence, zato ljudje ponovno razmišljajo, kako bo vojskovanje sploh videti.

Ne bi rekel, da me je kaj presenetilo. Zame je pomembnejše vprašanje, kako to, kar vidimo, pravilno umestimo v kontekst.

Vračam se k disciplini in vodenju ter mejam, ki jih postavljajo pravila oboroženih spopadov. Kaj lahko naredimo? Kaj bi morali narediti?

Pogovarjal sem se tudi o vzpostavitvi nekakšne akademije oziroma preizkusnega okolja za etiko, kjer bi lahko koncepte, ki smo jih videli na terenu, dejansko preizkusili. Kako jih razširiti in uporabljati odgovorno?

Vedno se učimo. Pomembno je predvsem, da tega, kar vidimo, ne pretiravamo, ampak pravilno umestimo v zgodovinski trenutek.

Kot nekdo, ki je približno 15 od 25 let v vojski preživel na poveljniških položajih, sem zelo dobro spoznal pomen odgovornosti.

Poveljnik dobi nalogo in zmogljivosti, s katerimi jo mora izvesti. Uporabi jih tako, da doseže najboljši možni rezultat, toda za svoje odločitve tudi odgovarja.

Zelo pomembno je, da lahko na koncu pokažete na nekoga in rečete: to je bila vaša odgovornost in zanjo odgovarjate.

Dopustiti umetni inteligenci, da deluje brez omejitev, je zame nepredstavljivo. Preprosto preveč je na kocki.

Toda dodal bi nekaj drugega. AI je lahko včasih bolj razločevalna oziroma objektivna kot človek. Tudi DARPA to preučuje.

Ljudje imamo pristranskost pripadnosti. Predstavljajte si bojišče, na katerem imate ranjenega sovražnika in ranjenega pripadnika lastnih sil. Po pravilih oboroženih spopadov morate oba triažirati in najprej pomagati tistemu, ki pomoč najbolj potrebuje.

Človek lahko pomisli: najprej bom poskrbel za svojega prijatelja. AI tega ne bo naredila. Če smo jo tako zasnovali, bo oba obravnavala enako. Včasih lahko torej AI prinese raven objektivnosti, na katero ljudje sami morda še nismo pripravljeni.

Zato menim, da moramo nadaljevati z modelom, v katerem je človek del odločitvenega procesa.

Rekel bom nekaj, kar bo zvenelo zelo provokativno: umetne inteligence brez pristranskosti ne morete imeti.

Pristranskost ustvarja vzorce, vzorci ustvarjajo spoznanja. V težave vas spravi nenamerna pristranskost.

Zato morate biti zelo premišljeni glede podatkovnih zbirk, na katerih sistem učite.

Imel sem projekte, pri katerih nisem imel pravih podatkov, da bi delo opravil ustrezno. Zato smo porabili denar, ustvarili okolje, zbrali podatke, jih pravilno označili in model učili na dovolj širokem naboru, da smo dobili čim bolj odporen sistem.

Za to smo plačali.

Spet se vračava k temu, da AI ni brezplačna. Če imam vrzeli v podatkih, jih moram kot odgovoren inženir zapolniti.

Odgovornost obstaja na ravni razvijalca in na ravni poveljnika oziroma operativnega uporabnika. Ljudje moramo odgovarjati za to, kako je sistem izdelan, kako je zasnovan in kako deluje.

Na koncu potrebujemo skupno razumevanje tega, kaj je humano in kaj je pravilno.

Kot mednarodna skupnost smo že pokazali, da se lahko pri določenih vprašanjih dogovorimo. Omenili ste jedrsko orožje. Drug primer je kloniranje ljudi.

Mislim, da bo prišel trenutek, ko bomo morali priznati, da brez takšne ravni sodelovanja ne moremo več naprej.

Sodeloval sem pri mednarodnih organizacijah za standardizacijo. IEEE in druge organizacije že razvijajo mednarodne standarde, ki zagotavljajo določene smernice.

Ali bodo dozoreli dovolj hitro oziroma v koraku z razvojem AI, pa bo pokazal čas.

Politika je vedno nekoliko zadaj in mora dohitevati tehnologijo. Po drugi strani to tehnologiji omogoči, da dozori.

Temu namenjamo veliko pozornosti. Pravniki delajo nadure. Mislim, da je naša pravna ekipa med najbolj obremenjenimi in od nje se ogromno pričakuje.

Toda prav oni v proces prinašajo potrebno skrb nost in preverjanje. In to ima svojo ceno. AI ni brezplačna. Potrebujete čas, da stvari premislite in jih že prvič naredite pravilno.

Ena od stvari, ki jih danes vidimo po svetu, je množični nadzor ljudi. Če se nadzor uporablja, mora biti premišljen in mora obstajati razlog zanj.

Splošen, množični nadzor ljudi po mojem nima mesta v civilnem življenju.

Obstajajo države, ki uporabljajo sisteme za preverjanje in spremljanje praktično vseh. Menim, da nam to jemlje svobodo gibanja in svobodo, da se kot ljudje izražamo. Takšna uporaba v civilnem življenju nima mesta.

To bo odvisno od potreb posamezne misije in pokazal bo čas. Bojišče postaja tako kompleksno, da se moramo zelo previdno zavedati, kaj potrebujemo.

Kako se branite pred hipersoničnim orožjem? Kako izvajate kibernetsko obrambo, kjer se stvari dogajajo s svetlobno hitrostjo?

Nekatere stvari se danes dogajajo tako hitro in v takšnem obsegu, da potrebujem AI, da lahko sploh deluje in mi pomaga pri obrambi.

Mislim, da vsi eksperimentiramo in vsi poskušamo to narediti na najboljši način, kot znamo.

Imel sem dovolj pogovorov, da lahko rečem, da želja obstaja. Vprašanje pa so proračuni in razpoložljivost sredstev za raziskave.

Če bo Evropa sposobna združiti svoje vire in se temu dolgoročno zavezati, so možnosti vsekakor vznemirljive.

Tudi količina inovacij, ki nastajajo v Sloveniji, je vznemirljiva. Slovenske raziskovalce sem pripeljal v ZDA, da so sodelovali v mojih strokovnih panelih. Navdušen sem nad tem, kaj je mogoče narediti.

Toda tempo bosta določala politična volja in denar davkoplačevalcev.

Gre za zavezo, ki jo je treba ohraniti in zanjo zagotavljati sredstva. Menim, da Evropa potrebuje spodbudo vlad, če želi resno vstopiti v igro umetne inteligence.

Navdušen sem nad nekaterimi vašimi raziskovalci. Kot sem omenil, so me denimo zelo navdušile slovenske rešitve na področju pametnih mest in analitike digitalnih dvojčkov. Slovenija je na tem področju nekatere stvari naredila zelo dobro.

Tu pridemo do vprašanja nacionalne obrambe in nacionalne varnosti ter tega, kaj sploh pomenita.

Če pogledate evropske države, obstaja vprašanje, kako zavarovati lastne meje in kako to učinkovito narediti.

Na to gledam z zelo realističnega vidika nacionalne varnosti: država mora biti sposobna braniti samo sebe. Verodostojna obramba mora biti dokazana in jasno komunicirana, kot smo videli pri jedrskem odvračanju. Obstaja točka, ko morate pokazati, da za svojimi besedami dejansko stojite.

Zato tega ne vidim kot ustvarjanje strahu. Gre za ustvarjanje pogojev za blaginjo skozi varnost.

Poleg tega je umetna inteligenca veliko večja od obrambe. Spreminja način, kako ljudje komuniciramo in delujemo drug z drugim. Neodgovorno bi bilo, če je ne bi sprejeli.

Kot sem že omenil, obstajajo izzivi, ki preprosto presegajo človeške zmožnosti. AI je inženirska disciplina, ki nam pomaga sprejemati takšne odločitve.

Upravljanje je zelo velik del mojega področja. Ves čas se ukvarjamo z vzpostavljanjem pravih varovalk, mehanizmov za varno odpoved in celo ročnih načinov delovanja, da se je mogoče vrniti nazaj.

Nočem, da bi se katerakoli od naših strank znašla v položaju, ko bi bila ujeta in bi bila umetna inteligenca njen edini vir resnice.

Na voljo mora imeti različne možnosti. Nikoli nočem ustvariti položaja, iz katerega nekdo nima izhoda.

Zato je upravljanje temeljni del našega pristopa.

To je težko definirati.