So v OpenAI odkrili tehnologijo, ki lahko ogrozi človeštvo?

Skrivnostno odkritje v OpenAI v dnevu po vrnitvi Sama Altmana buri duhove in sproža številna ugibanja, kaj so v podjetju v resnici odkrili. Sredi julija so na ameriški patentni urad vložili dokumentacijo za naslednjo generacijo generativnega modela, ki temelji na za zdaj še neznani količini podatkov, GPT-5 (angl. General pretrained transformer). Kmalu za tem so zaokrožile prve govorice, da so pri tem naleteli na prve znake splošne umetne inteligence (AGI). 

Po definiciji je AGI vrsta umetne inteligence, ki obvlada širok spekter intelektualnih nalog in lahko samostojno rešuje kompleksne probleme, pri tem pa presega človeške zmogljivosti in na določeni točki lahko razvije tudi lastna čustva in zavedanje. Ob tem številni (do te tehnologije) skeptični strokovnjaki svarijo pred tem, da bi neregulirana AGI lahko razvila lastne cilje, ki niso usklajeni z interesi človeštva, da bi tehnologijo v napačnih rokah lahko izrabljali v škodljive namene ter nekatere druge etične dileme.

Pri tem se svet še vedno ni uskladil, kako to tehnologijo omejiti. Evropska unija denimo pripravlja AI Act oziroma zakon, ki bo podjetjem in raziskovalnim ekipam, ki razvijajo sisteme umetne inteligence, narekoval, kako naj ravnajo s podatki, dokumentacijo ter zagotavljajo transparentnost do uporabnikov. 

Je bil to glavni vzrok za Altmanovo odpustitev?

"Zelo zaskrbljujoče," je v objavi na omrežju X zapisal Elon Musk. Kot poroča Reuters, so viri navedli pismo kot enega izmed vzrokov na daljšem seznamu pritožb nadzornega odbora, ki so vodile do odpustitve Altmana, med katerimi so bile tudi skrbi glede prehitre komercializacije naprednih tehnologij, preden so sploh znane vse posledice široke razpoložljivosti. Osebje, ki je napisalo pismo, se nato ni več odzvalo.

Tudi pri OpenAI so zavrnili komentar, v internem sporočilu sodelavcem pa priznali projekt, imenovan Q*(izgovorjeno Q star). Nekateri v podjetju verjamejo, da bi prav skrivnostni Q* lahko bil preboj v iskanju startupa za splošno umetno inteligenco (AGI). Nov model je lahko reševal določene zelo zahtevne matematične probleme, je povedal neimenovan vir iz podjetja. 

"Špekulacije o AGI so neosnovane, od tega smo še daleč," na kratko odgovarja Marko Robnik Šikonja, profesor na področju umetne inteligence na Fakulteti za računalništvo in informatiko Univerze v Ljubljani. Med največjimi izzivi je zagotoviti tudi dovolj električne energije za napajanje ogromnih podatkovnih strežnikov, ki bi jih takšna tehnologija potrebovala. Strokovnjaki predvidevajo, da bi AGI potrebovala toliko električne energije, kot je porabi 10 milijonov gospodinjstev. Toliko, denimo, jih ima Avstralija.