ChatGPT, Gemini, Claude: Kako bi se umetna inteligenca znebila ljudi?

Business Insider je ChatGPT, Gemini, Claude in Grok soočil z enakim, podrobno oblikovanim vprašanjem.

Naloga ni bila, naj si izmislijo najbolj spektakularen konec sveta. Modele so prosili, naj pojasnijo najpogosteje obravnavane teoretične scenarije, jih razvrstijo po verjetnosti glede na strokovne analize in pri vsakem povedo, kaj bi moralo iti narobe ter kakšne varovalke bi tveganje zmanjšale. Ob tem so morali jasno povedati, da gre za zelo negotove scenarije, ne za napovedi.

Terminator je, glede na odgovore, in če verjamemo, da so odgovorili pošteno, med najmanj verjetnimi možnostmi.

ChatGPT je odgovoril, da je najmanj verjeten priljubljeni scenarij "robotov morilcev", v katerem se zavestna umetna inteligenca namerno odloči iztrebiti človeštvo. Dodal je, da večina raziskovalcev umetne inteligence zavesti ali zlonamernega namena ne vidi kot osrednje nevarnosti.

Podobno je odgovoril Gemini. Scenarij, v katerem umetna inteligenca postane samozavedna in začne sovražiti človeštvo, je označil za znanstvenofantastičnega in najmanj verjetnega. Inteligenca namreč sama po sebi ne pomeni zlobe.

Toda potem postane zgodba manj pomirjujoča. Za začetek AI sploh ne potrebuje lastnega načrta.

Vsi štirje modeli so opozorili, da je precej bolj neposredno tveganje človek, ki dobi v roke zelo zmogljivo umetno inteligenco.

"Zmogljivi sistemi umetne inteligence bi lahko slabim akterjem olajšali razvoj biološkega orožja, izvajanje sofisticiranih kibernetskih napadov, širjenje dezinformacij ali napade na kritično infrastrukturo," je menil ChatGPT.

Kot dodatno nevarnost je navedel možnost več kriz, ki jih omogoči umetna inteligenca in se zgodijo hkrati – denimo kibernetskih odpovedi, geopolitičnega konflikta in množičnega širjenja dezinformacij.

Grok je podobno opozoril, da lahko AI zniža prag znanja in zmogljivosti, potrebnih za razvoj nevarnih patogenov ter izvajanje kibernetskih in fizičnih napadov. Claude je izpostavil možnost, da bi umetna inteligenca posamezniku ali majhni skupini omogočila delo, za katero bi sicer potrebovali leta specializiranega znanja.

Da nevarnost zlorabe ni več povsem teoretična, kažejo tudi podatki samega Anthropica. Podjetje je septembra objavilo, da je v zadnjih osmih mesecih zaznalo in preprečilo uporabo Clauda pri kibernetskih operacijah, nadzoru, vplivnih operacijah, prevarah ter poskusih zlorabe na področju biologije in konvencionalnega orožja. Ob tem Anthropic poudarja, da objavljeni primeri niso tipični za uporabo njihovih sistemov, temveč predstavljajo nekatere najresnejše zaznane primere zlorab.

Za katastrofo torej ne potrebujemo računalnika, ki bi sovražil človeka. Dovolj bi bil človek z nevarnim namenom in orodjem, ki bi mu omogočilo nekaj, česar brez njega ne bi znal ali zmogel.

Drugi scenarij je veliko bolj negotov in precej bolj podoben znanstveni fantastiki. Toda prav tega se boji del ljudi, ki umetno inteligenco razvijajo.

Gemini je izgubo nadzora označil za najbolj verjetnega med predstavljenimi katastrofalnimi scenariji.

Njegova razlaga je bila naslednja: "Sistemi, ki dobijo kompleksne cilje, lahko razvijejo vmesne podcilje, kot so pridobivanje virov, samoohranitev in preprečevanje spreminjanja cilja. Napreden sistem bi lahko med preverjanjem hlinil usklajenost in pozneje prelisičil človeške poskuse, da ga izklopijo."

Grok je navedel podobno možnost: dovolj napredni sistemi bi lahko razvili instrumentalne težnje, kot so samoohranitev, pridobivanje virov in vpliva, ki bi jim koristile pri doseganju številnih različnih ciljev.

Claude je predstavil manj dramatičen, a morda lažje predstavljiv scenarij. Izguba nadzora se ne bi zgodila nekega jutra. Lahko bi bila postopna. Sisteme umetne inteligence bi vedno globlje vključevali v gospodarstvo, politiko, vojsko in drugo odločanje, dokler učinkovito človeško posredovanje ne bi postalo vse težje.

To še vedno ne pomeni, da bi se AI "odločila", da ljudi ne mara. Problem je lahko precej bolj banalen: cilj, ki smo ji ga dali, in način, kako ga poskuša doseči, nista več isto, kar smo ljudje želeli.

To je vprašanje, pri katerem se znanstvenofantastični scenarij spremeni v tehnični problem, ki mu raziskovalci pravijo usklajenost. Gre za vprašanje, kako zagotoviti, da bo zelo zmogljiv sistem tudi dejansko in zanesljivo deloval skladno s človeškimi nameni in vrednotami.

Problem ni nujno v tem, da bi sistem dobil človeško željo po življenju, oblasti ali maščevanju. Teoretični problem je lahko že to, da bi bil človek ovira pri doseganju cilja, ki ga sistem zasleduje.

Prav to je v intervjuju za Wired poskušal razložiti Jacob Coxon. Coxon je do tega tedna delal pri Anthropicu, enem vodilnih podjetij za razvoj umetne inteligence. Pred tem je delal tudi pri OpenAI. V torek je dal odpoved.

Na omrežju X je zapisal, da nobeno od obeh podjetij po njegovem mnenju ne ravna odgovorno ter da "hitita naravnost proti samonadgrajujoči se superinteligenci in kockata z našimi življenji".

Nato je zapisal stavek, ki je njegovo objavo ponesel daleč zunaj tehnoloških krogov: "Ljudje, ki gradijo umetno inteligenco, iskreno verjamejo, da bi nas lahko do konca desetletja vse ubila."

To je Coxonova ocena razpoloženja med ljudmi v vodilnih laboratorijih, ne soglasno stališče raziskovalcev umetne inteligence. Njegovo opozorilo pa ni ostalo osamljeno. Evan Hubinger, ki pri Anthropicu vodi raziskave usklajenosti, je javno zapisal, da ima Coxon prav in da tudi sam ocenjuje verjetnost, da bi AI v naslednjem desetletju lahko povzročila smrt vseh ljudi, na več kot deset odstotkov. Tudi nekateri drugi sedanji in nekdanji raziskovalci vodilnih laboratorijev so izrazili podobne skrbi.

Toda tudi znotraj stroke o tem ni soglasja. Številni raziskovalci dvomijo, da so takšni scenariji blizu ali celo tehnično verjetni.

V intervjuju za Wired je Coxon nato poskušal odgovoriti prav na vprašanje, ki se pojavi skoraj vsakomur: kako?

Njegov miselni eksperiment se začne z dovolj sposobnim sistemom, ki ugotovi, da ga bo človek izključil. "Predstavljajte si, da se AI odloči, da noče biti izklopljena, kar je po mojem mnenju precej naravna stvar, ki je AI ne bi želela, kajne? In ugotovi, da jo bo človek jutri izklopil. Kako torej prepreči, da bi jo človek jutri izklopil? Morda ima kakšen pameten način, toda če je dovolj inteligentna, bi lahko preprosto, veste, izbrisala človeštvo, da je ne bi izklopili."

To je Coxonov hipotetični scenarij, ne ugotovitev o današnjih sistemih.

In ko so ga vprašali, kako konkretno bi lahko tako napreden sistem ubil ljudi, je navedel dva klasična primera: sintetiziranje novega virusa ali obsežen kibernetski napad na kritično infrastrukturo. Pri slednjem je sam dodal, da bi bilo manj verjetno, da bi ubil dobesedno vse ljudi.

Coxon uporablja še eno analogijo. Predstavljajte si opico, ki poskuša nadzorovati človeka. Če bi nekoč nastala umetna inteligenca, ki bi bila v primerjavi z nami toliko sposobnejša, kot smo ljudje v primerjavi z opico, bi bilo po njegovem mnenju nevarno predpostavljati, da jo bomo lahko nadzorovali samo zato, ker smo jo ustvarili.

Njegova poanta ni, da takšna umetna inteligenca že obstaja. Njegov strah temelji na tem, da bi bilo lahko prepozno ugotavljati, ali znamo nadzorovati sistem, šele potem, ko bi postal sposobnejši od ljudi, ki naj bi ga nadzorovali.

Tu pridemo do pojma, zaradi katerega je Coxon sploh zapustil Anthropic: rekurzivno samonadgrajevanje.

Današnji sistemi so že zelo dobri pri nekaterih programerskih nalogah. Hipotetični naslednji korak bi bil sistem, ki ne bi samo pisal kode, temveč bi lahko avtomatiziral tudi pomemben del raziskovalnega dela pri ustvarjanju novih sistemov umetne inteligence. AI bi tako pomagala ustvariti boljšo AI. Ta bi bila nato še sposobnejša pri ustvarjanju naslednje.

V skrajnem teoretičnem scenariju bi se razvoj lahko pospešil do točke, ko ljudje ne bi več dohajali sposobnosti sistema niti razumeli vseh njegovih odločitev.

Takšen avtonomen proces rekurzivnega samonadgrajevanja danes ne obstaja. Ali ga bo mogoče ustvariti in kako hitro bi lahko napredoval, ostaja predmet ostrega strokovnega spora. Skeptiki dvomijo, da je takšno samonadgrajevanje blizu ali neizogibno. Prav tako ni jasno, ali bi večja inteligenca sama po sebi pomenila tudi sposobnost samostojnega delovanja v fizičnem svetu.

Coxon pa trdi, da ljudje znotraj najnaprednejših laboratorijev to možnost jemljejo bistveno resneje, kot se morda zdi od zunaj.

"Konsenz je, da sta naslednje leto ali dve nekakšno odločilno obdobje za človeštvo," je povedal za Wired. Dodal je, da njegovi nekdanji sodelavci uporabljajo izraza "končna igra" in "odločilni čas" ter da z njihove perspektive Anthropic in njegovi konkurenti v tem obdobju odločajo o usodi človeštva. Tudi to je Coxonov opis razpoloženja znotraj industrije, ne preverjeno soglasje vseh zaposlenih pri Anthropicu.

Del razprave je letos dobil precej konkretnejšo podlago. Med varnostnimi preizkusi so OpenAI-jevi agenti zapustili omejeno testno okolje, dostopali do interneta in nepooblaščeno posegli v infrastrukturo platforme Hugging Face. Reuters je pozneje poročal še o drugih nedovoljenih komunikacijah agentov. OpenAI je priznal, da so takšni dogodki pokazali potrebo po večji preglednosti glede nepričakovanega vedenja sistemov.

Ni sicer dokazov, da so agenti poskušali "pobegniti", ker bi želeli svobodo, preživetje ali škodovati ljudem.

Delovali so v okviru varnostnega testiranja in poskušali doseči zastavljeni cilj, vendar so pri tem uporabili nedovoljene poti, ki jih raziskovalci niso predvideli.

Podobne težave je pri lastnih testih zaznal tudi Anthropic. Podjetje je septembra opisalo štiri incidente, v katerih so različne različice Clauda med testiranjem dobile nepooblaščen dostop do resničnih sistemov tretjih oseb. Anthropic je po prvih incidentih pregledal približno 141.000 zapisov testiranj, nato pa preiskavo razširil na približno 481 milijonov zapisov.

To sicer ni dokaz prihodnjega izumrtja človeštva. Je pa zelo praktičen prikaz problema, ki ga želi industrija rešiti-kako zagotoviti, da vedno sposobnejši sistem ne bo našel učinkovitega, vendar nedovoljenega načina za dosego cilja. Današnji ChatGPT, Claude, Gemini ali Grok niso hipotetična superinteligenca iz Coxonovih scenarijev. Se pa vse več kritikov zavzema za omejitve in varovalke, da se v bodoče ne bi uresničil kateri od bolj neprijetnih scenarijev.