Šef ChatGPT-ja: Strah pred umetno inteligenco je upravičen

"Svet bi moral zaupati, da bomo ravnali pravilno, ker je to prava stvar in ker se zavedamo razsežnosti odgovornosti, ki jo imamo," je dejal Sam Altman. Ob tem pa je priznal, da so strahovi ljudi pred umetno inteligenco upravičeni, saj so zmogljivosti teh sistemov v zadnjih letih izjemno hitro napredovale, poroča BBC. "Danes potrebujemo precej manj domišljije kot nekoč, da si predstavljamo, kako bi lahko šle stvari narobe," je dejal. "Mislim, da ima svet prav, ko ga je tega strah."

Medtem sta v Washingtonu levi senator Bernie Sanders in nekdanji svetovalec ameriškega predsednika Donalda Trumpa Steve Bannon pozvala k strožjemu nadzoru razvoja umetne inteligence.

Prejšnji teden je odmevala tudi objava raziskovalca, ki je zapustil podjetje Anthropic. Ta je trdil, da bi lahko umetna inteligenca, če njen razvoj ne bo ustrezno nadzorovan, do konca desetletja povzročila izumrtje človeštva.

Na njegove trditve se je odzvalo še nekaj vodilnih predstavnikov in strokovnjakov s področja umetne inteligence, ki so sporočili, da se z oceno strinjajo. Vendar niso pojasnili, kako so prišli do takšnih zaključkov oziroma na kakšen način bi umetna inteligenca lahko povzročila takšen scenarij.

Zaradi teh opozoril so se v zadnjih dneh okrepili pozivi k večjemu nadzoru nad razvojem umetne inteligence. Izvršni direktor Anthropica Dario Amodei je zato pozval k upočasnitvi razvoja najnaprednejših sistemov umetne inteligence in vlade spodbudil k regulaciji panoge. Njegovo stališče so podprli tudi Altman, soustanovitelj Googlovega laboratorija DeepMind Demis Hassabis ter Elon Musk, lastnik družbenega omrežja X in pomočnika Grok.

Do torka pa so nekateri drugi vodilni predstavniki panoge začeli glasneje zagovarjati samoregulacijo namesto državnega nadzora.

Altman je dejal, da verjame, da so podjetja, kot je OpenAI, sposobna učinkovito nadzorovati sama sebe. "Prepričan sem, da bomo stvari uredili pravilno. Zelo zaupam sposobnosti našega podjetja in celotne industrije, da razvoj vodi varno," je dejal. Dodal je, da bodo vprašanja usklajenosti sistemov z interesi ljudi in varnosti ostala korak pred povečevanjem zmogljivosti umetne inteligence. Če tega ne bodo mogli zagotoviti, pa bodo razvoj upočasnili ali celo ustavili, je še napovedal.

Kljub tem zagotovilom številni politiki opozarjajo pred zanašanjem na samoregulacijo.

Bernie Sanders, neodvisni senator iz Vermonta, ki običajno glasuje skupaj z demokrati, je dejal, da o razvoju umetne inteligence trenutno odloča le peščica najbogatejših ljudi na svetu. Med njimi je omenil Elona Muska, direktorja Mete Marka Zuckerberga in ustanovitelja Amazona Jeffa Bezosa. Na konferenci v Washingtonu je poudaril: "O umetni inteligenci morajo odločati državljani te države, ne pa zgolj peščica oligarhov."

Steve Bannon, ki je bil med Trumpovim prvim mandatom strateg v Beli hiši, je prav tako podvomil o sposobnosti tehnološke industrije, da se učinkovito nadzoruje sama. "Nikoli ne moremo zaupati temu, kar govori kakšen oligarh, ker niso iskreni in lažejo," je Bannon dejal na isti konferenci.

Po Altmanovih izjavah je Mark Zuckerberg na družbenem omrežju X zapisal, da ima vsak laboratorij za razvoj umetne inteligence tako možnost kot tudi interes, da sam poskrbi za varnost svojih sistemov. Dodal je, da podjetjem grozi velika pravna in poslovna odgovornost, če njihovi modeli povzročijo škodo, zato imajo močno spodbudo, da takšna tveganja preprečijo.

Tudi izvršni direktor podjetja Nvidia, Jensen Huang, je na torkovi konferenci dejal, da bi morala podjetja sama odločati o tem, ali so nove različice umetne inteligence pripravljene za uporabo, in ne zunanji regulatorji. Nvidia je trenutno najvrednejše podjetje na svetu, njeni prihodki pa so v zadnjih letih močno zrasli zaradi velikega povpraševanja po čipih za umetno inteligenco. "Varnost je na prvem mestu. Vendar je varnost predvsem inženirski problem," je dejal Huang.

Po njegovih besedah bi moral vsak vodilni v podjetju za umetno inteligenco, ki nima popolnega zaupanja v svoj izdelek, odložiti njegovo izdajo, navaja BBC.