Več kot 1300 podpisnikov, med njimi Elon Musk, Steve Wozniak, Tristan Harris iz Centra za humanitarno tehnologijo ter snovalec odprtega pisma in verjetno največja entiteta pri raziskovanju umetne inteligence Max Tegmark iz MIT, je podpisalo odprto pismo, ki so ga objavili ta teden in v katerem pozivajo "vse laboratorije za umetno inteligenco, naj takoj za vsaj pol leta ustavijo razvoj sistemov umetne inteligence, močnejših od GPT-4".
Pismo je objavil inštitut Future of Life, v prevodu Prihodnost življenja, pri katerem Elon Musk sodeluje kot zunanji svetovalec. Napisali so ga v odgovor na začetek delovanja najnovejše različice programa GPT-4 podjetja OpenAI, ki ga podpira Microsoft. Podjetje pravi, da je najnovejša različica veliko zmogljivejša od prejšnje, ki je bila uporabljena za klepet. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov.
Odprto pismo je polno zelo jasnih in močnih sporočil, kot je: "Sodobni sistemi umetne inteligence postajajo človeku konkurenčni pri splošnih nalogah in moramo se vprašati: Ali naj dovolimo strojem, da naše informacijske kanale zasujejo s propagando in neresnico? Ali naj avtomatiziramo vsa delovna mesta, tudi tista, ki nas izpolnjujejo? Ali naj razvijemo nečloveške ume, ki nas bodo sčasoma prekašali in zamenjali? Ali naj tvegamo izgubo nadzora nad našo civilizacijo? Takšne odločitve ne smejo biti prepuščene neizvoljenim tehnološkim vodjem. Močne sisteme umetne inteligence bi morali razvijati šele, ko smo prepričani, da bodo njihovi učinki pozitivni in tveganja obvladljiva."
Med podpisniki najdemo tudi Microsoftove inženirje, torej zaposlene v podjetju, ki je razvoj ChatGPT omogočilo z več kot 10 milijardami evrov finančnih sredstev. Hkrati pa na seznamu zaman iščemo prav člane OpenAI. Sam Altman, direktor najbolj "vročega" podjetja ta hip, se je dan po objavi pisma oglasil in dejal, da še niso začeli razvijati nove, še naprednejše stopnje GPT-5 ter varnost umetne inteligence opravljajo prednostno, to pa podkrepil tudi s trditvijo, da so zadnjih šest mesecev pred izidom GPT-4 posvetili varnostnim raziskavam.
"V nekem smislu je to prazno pridiganje," je povedal za Wall Street Journal. "Mislim, da smo o teh vprašanjih govorili najglasneje, z največjo intenzivnostjo, najdlje." Zanimivo pa so ob uradni predstavitvi modela GPT-4 v podjetju OpenAI tudi sami priznali, da delovanja lastne tehnologije ne razumejo povsem dobro.
Odprto pismo sicer navaja njegov zapis na blogu, da bi bilo na neki točki morda pomembno pridobiti neodvisen pregled, preden začnemo usposabljati prihodnje sisteme. "Strinjamo se. Ta trenutek je zdaj," je ob tem poudaril kanadski pionir umetne inteligence Yoshua Bengio, ki opozarja, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe. "Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke," je dejal in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.
"Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4," so še zapisali v pismu. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala. Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.
Snovalci odprtega pisma pa so zaključili v pozitivnem duhu: "Človeštvo bi lahko vstopilo v lepo prihodnost. Kar smo uspeli ustvariti do sedaj, torej zmogljive sisteme umetne inteligence, je 'poletje umetne inteligence', v katerem še lahko žanjemo nagrade, razvijamo te sisteme v očitno korist vseh in dajemo družbi priložnost, da se prilagodi. Hkrati pa moramo razumeti, da je družba ustavila nekatere druge tehnologije s potencialno katastrofalnimi učinki. To lahko storimo tudi z umetno inteligenco. Uživajmo v dolgem poletju, ne hitimo nepripravljeni v jesen."
KOMENTARJI (88)
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.