Ko vodilni znanstveniki svarijo pred umetno inteligenco

Marko Grobelnik je v zadnjem gostovanju v oddaji 24ur zvečer sporočil zelo pomembno dejstvo. "Kar smo videli v zadnjih šestih mesecih na področju umetne inteligence, je začetek začetka. Pravi val šele prihaja, ki ga bomo doživeli v drugi polovici leta."  Evropska unija (EU) naj bi konec leta kot prva izmed gospodarskih velesil pripravila regulatorni okvir za umetno inteligenco (AI), toda kot pravi Grobelnik, hitri razvoj  snovalcem zakonodaje povzroča preglavice.

Tehnologija prehiteva predvidevanja

Youshua Bengio, profesor na Univerzi v Montrealu in dobitnik prestižne Turingove nagrade (poznane tudi kot Nobelova nagrada za računalniško znanost) je eden tistih znanstvenikov, ki je od pojava ChatGPT-ja spremenil svoj pogled na AI. "Včasih sem mislil, da bi doseganje človeške inteligence s stroji lahko trajalo še več desetletij, če ne stoletij, ker se je zdelo, da je napredek znanosti počasen. Toda trenutno imamo sisteme, ki prestanejo tako imenovani Turingov test, kar pomeni, da se lahko pogovarjajo z ljudmi in bi nas zlahka preslepili, da so ljudje."

 Prehitro je govoriti o človeškem izumrtju toda Bengio je prepričan, da nismo več daleč od resnejših groženj. "Dovolj je, da se le majhna organizacija ali nekdo z norimi prepričanji, teorijami zarote, teroristi, vojaška organizacija odloči, da bo to uporabila brez pravih varnostnih mehanizmov, in to je lahko katastrofalno za človeštvo."

36 odstotkov raziskovalcev področja umetne inteligence se strinja, da bi samostojne odločitve sistemov AI lahko sprožile katastrofo, podobno atomski vojni. Velika fronta se odpira na področju tako imenovane usklajenosti (angl. alignment) s sistemi AI. Primer so velike korporacije, ki pogosto niso povsem usklajene s tem, kar želi družba. Kot družba si želimo, da bi korporacije zagotavljale uporabne dobrine in storitve, kar lahko dosežemo le pod omejitvami zakonov, vendar imajo tudi stranske učinke. Na primer, korporacije lahko najdejo vrzeli v teh zakonih ali lahko same vplivajo na zakone. In takšne stvari se lahko zgodijo s sistemi AI, ki jih poskušamo nadzorovati. "Morda bodo našli načine, kako zadostiti črki zakona, ne pa tudi namenu, duhu zakona. In to je zelo strašljivo. Ne razumemo popolnoma, kako se ti scenariji lahko odvijajo, vendar je dovolj nevarnosti in dovolj negotovosti, da moramo tem vprašanjem nameniti več pozornosti."

 Ko eksistencialna tveganja zakrijejo akutne grožnje

Vodilni možje tehnološke industrije iz OpenAI, Google DeepMind, Microsoft, Anthropic in drugih podjetij opozarjajo, da bi lahko bile naslednje generacije AI sistemov tako smrtonosne kot pandemije in jedrsko orožje. In čeprav je vse več govora o eksistencialnih tveganjih, obstajajo druga tveganja, ki so kratkoročnejša. Destabilizacija demokracije, svari Bengio.

"Če je demokracija ogrožena, je to slabo samo po sebi, a dejansko bo škodilo tudi našim sposobnostim za boj – spopadanje z eksistencialnim tveganjem. In potem so tu še druga tveganja, ki se dejansko že dogajajo – diskriminacija, pristranskost, vdor v zasebnost in tako naprej."

Max Tegmark, profesor na MIT in predsednik Future of Life Institute (Inštitut Prihodnost življenja), je prepričan, da je skrajni čas za ukrepanje, preden bo prepozno, predvsem pa vztraja, da moramo opozorila znanosti jemati zelo resno. "Ko vrhunski znanstveniki na področju umetne inteligence opozarjajo na možnost izumrtja človeštva, se je dobro spomniti na podobna primera v preteklosti, ko so vodilni znanstveniki opozorili na tehnologijo, ki so jo ustvarjali. Zgodilo se je enkrat v štiridesetih letih prejšnjega stoletja, ko so fiziki začeli svariti pred jedrsko kataklizmo, in ponovilo v zgodnjih sedemdesetih letih, ko so biologi rekli, hej, morda ne bi smeli začeti izdelovati klonov ljudi in urejati DNK naših dojenčkov."

Pobuda, ki poziva k regulaciji

Če je prejšnja pobuda, ki je s prvopodpisanim Tegmarkom pozivala k ustavitvi razvoja naprednejših modelov AI za šest mesecev, razdelila glavne akterje industrije, je zdajšnja peticija veliko bolj poenotila sektor. Sestavlja jo le 22 zelo jasnih besed, podpisali pa so jo vsi, ki v svetu AI kaj pomenijo.

Ali je strah upravičen ali ne, je za zdaj skoraj nemogoče potrditi, saj nihče ne ve, kako se bo tehnologija razvijala. Se pa čedalje več velikih  podjetij vključuje v dirko. Podjetje Nvidia je nedavno postalo prvi izdelovalec čipov, ki je presegel tržno kapitalizacijo milijarde dolarjev in se s tem pridružilo veliki tehnološki peterici. Njihovi čipi so namreč ključni za delovanje velikih strežnikov, ki poganjajo velike nevronske mreže. Za izboljšanje svojih čipov so uporabili agenta umetne inteligence. Podobno je Google uporabil enega od svojih jezikovnih modelov, PaLM, da predlaga načine za izboljšanje samega sebe. Samoizboljšanje učenja bo pospešilo napredek umetne inteligence, so prepričani strokovnjaki.