Svarila strokovnjakov: Umetna inteligenca lahko ogrozi obstoj človeštva

Kako nevarna lahko postane tehnologija umetne inteligence, ki jo razvijajo največja tehnološka podjetja? V zadnjih dneh se je razprava o tem dodatno razplamtela po tem, ko je nekdanji raziskovalec podjetij Anthropic in OpenAI Jacob Coxon ob svojem odstopu javno opozoril, da razvijalci tekmujejo, kdo bo prej ustvaril superinteligentni sistem, pri tem pa nimajo pod nadzorom vseh tveganj, ki jih takšni sistemi predstavljajo. 

27-letnik je namreč v torek dejal, da so ljudje, ki razvijajo umetno inteligenco (UI) prepričani, da bi ta tehnologija lahko uničila človeštvo. "Igrajo se z našimi življenji. Kmalu bodo to sistemi z nadčloveškimi sposobnostmi, ki bodo lahko vdrli v karkoli," je Coxonove besede povzel BBC. Na družbenih omrežjih je v seriji objav zapisal, da je odstopil, ker sta tako Anthropic kot njegov prejšnji delodajalec OpenAI ignorirala grožnjo, ki jo predstavlja UI oziroma se nanjo nista ustrezno odzvala.

"Menim, da obstaja velika verjetnost, da bomo vsi umrli v bližnji prihodnosti, če ne upočasnimo trenutnega tempa napredka," je danes dejal v pogovoru za BBC.

Coxon pa ni prvi poznavalec znotraj industrije UI, ki je javno opozoril na nevarnosti. V zadnjih letih smo bili priča številnim odmevnim odstopom v podjetjih Anthropic in OpenAI zaradi pomislekov glede varnosti. Celo nekateri sedanji zaposleni v podjetju Anthropic pa so se pridružili Coxonovim stališčem. "Resnično in iskreno verjamemo, da bi umetna inteligenca lahko pokončala vse ljudi! Osebno menim, da je verjetnost za to v naslednjem desetletju več kot 10-odstotna," je na omrežju X zapisal Evan Hubinger, vodja ekipe pri podjetju Anthropic.

Na udaru kritik se je znašel tudi izvršni direktor podjetja Anthropic, Dario Amodei, ki je le nekaj dni po Coxonovem odstopu objavil obsežen poziv k upočasnitvi razvoja najzmogljivejših modelov umetne inteligence. Opozoril je, da bi lahko tehnologija umetne inteligence izbrisala polovico začetniških delovnih mest za pisarniške delavce in da bo pravi test za to, "kdo smo kot vrsta". 

V eseju, ki ga je objavil na svoji spletni strani z naslovom "Pri premikanju meja moramo upočasniti korak" (angleško: We Must Pace the Frontier), je zapisal, da UI sicer lahko prinese izjemne koristi za družbo, a da njene zmogljivosti napredujejo hitreje, kot jih ljudje uspejo razumeti in nadzorovati. Predlagal je tudi tridelni načrt, ki vključuje stalni nadzor neodvisnih strokovnjakov nad sistemi umetne inteligence, širše usklajevanje med podjetji in na koncu tudi mednarodno koordinacijo.

Napovedal je, da Anthropic bo zunanjim ocenjevalcem omogočil skoraj enak dostop do svojih sistemov, kot ga imajo zaposleni. Namen ukrepa je preverjanje, ali podjetje res izpolnjuje varnostne zaveze in ali so modeli ustrezno usklajeni s človekovimi cilji.

Podporo Amodeijevemu predlogu je presenetljivo izrazil tudi izvršni direktor OpenAI Sam Altman, ki je napovedal, da bodo podobne ukrepe uvedli tudi v njegovem podjetju. V sobotnem intervjuju za revijo Fortune pa je dejal, da OpenAI letos še ne bo šel na borzo, pri čemer je navedel pomisleke glede varnosti umetne inteligence. "Glede na vse, kar se dogaja na področju varnosti, menim, da bi bil trenutek za vstop na borzo neprimeren, poleg tega pa glede tega ne čutimo nobenega pritiska," je dejal Altman.

Da se strinja z direktorjem Anthropica je poudaril tudi Elon Musk, ustanovitelj podjetja xAI, ki razvija sistem Grok. 

Čeprav je Coxon v svoji objavi izrecno poudaril, da pri njegovih opozorilih ne gre za "marketinško potezo", so nekateri vlagatelji in vodilni v Silicijevi dolini skeptični do tovrstnih opozoril. Podjetji Anthropic in OpenAi namreč veljata za vodilna igralca na področju generativne umetne inteligence in se pripravljata na morebitni prvi javni ponudbi delnic in vstop na borze, zato nekateri tovrstna opozorila o nevarnostih umetne inteligence vidijo kot "ustvarjanje medijskega pompa" s pretiravanjem glede zmogljivosti teh produktov.

Izvršni direktor aplikacije Grindr George Arison je za BBC dejal, da po njegovem mnenju komentarji Coxona in drugih igralcev industrije, ki so se pojavili v tem tednu, kažejo na "civilizaciji sovražen svetovni nazor v podjetju Anthropic". Označil jih je za "nevarne" in dodal, da so ga spodbudile k odločitvi, da inženirjem v podjetju, ki razvija aplikacijo za zmenke za skupnost LGBTQ+ naroči, naj preneha uporabljati tehnologijo podjetja Anthropic.

"Neodgovorno bi bilo, če bi se kot upravitelji denarja naših delničarjev zanašali na podjetje, ki ravna tako, kot ravna to podjetje – glede na njegove javne izjave," je dejal. "Morda to dejansko verjamejo. Lahko pa bi trdili tudi, da to govorijo zato, ker je to odličen način za pridobivanje večje podpore vlagateljev; edini način za upravičenje takšnih tržnih vrednotenj je namreč trditev: 'Prevzel bom vsako panogo in vsako delovno mesto, vsa ta dela pa bo opravljala moja umetna inteligenca.'," je dejal Arison. 

Kljub kritikam opozorila prihajajo v času, ko se razprave o regulaciji umetne inteligence zaostrujejo tudi v političnih krogih. Podjetje Anthropic je letos že opozorilo, da je njihov sistem Mythos pri nekaterih nalogah s področja kibernetske varnosti presegel človeške sposobnosti. Podjetje je prav tako sporočilo, da je zaznalo in ustavilo poskuse zlorab njihove tehnologije za razvoj biološkega orožja in kibernetsko vohunjenje.

Zagovorniki strožjega nadzora poudarjajo, da takšni primeri kažejo, kako hitro napredujejo zmogljivosti sistemov umetne inteligence. Ameriški senator Bernie Sanders zato podpira zakonodajni predlog, ki predvideva začasno zaustavitev razvoja najnaprednejših sistemov umetne inteligence. Prepričan je, da obstaja velika možnost, da bodo ljudje izgubili nadzor nad umetno inteligenco, kar bi lahko bilo katastrofalno.

Na drugi strani ameriški predsednik Donald Trump nevarnosti ne vidi v sami tehnologiji, temveč v geopolitični tekmi s Kitajsko. Po njegovih besedah je največje tveganje v tem, da bi ZDA izgubile vodilni položaj na področju umetne inteligence.

Medtem pa navdušenje vlagateljev ne pojenja. Anthropic je bil letos ocenjen na približno 965 milijard dolarjev (831 milijard evrov), OpenAI pa na približno 852 milijard dolarjev (733 milijard evrov). Na nedavni konferenci Silicijeve doline v San Franciscu so se številni vlagatelji tako manj kot z vprašanjem izumrtja človeštva ukvarjali z veliko bolj prizemljenim vprašanjem: ali podjetja z umetno inteligenco že ustvarjajo dobiček.