Kot je povedal Anthony Albanese, je model umetne inteligence dostopal do javnih in nejavnih datotek na portalu s statističnimi podatki avstralskega sistema zdravstvenega zavarovanja Medicare, ki se financira z javnimi sredstvi. Dodal je, da so bili mogoče prizadeti še trije vladni sistemi.
Incident se je zgodil junija, toda OpenAI Avstralije o njem ni obvestil do septembra, ko je podjetje poslalo elektronsko sporočilo v javni poštni predal, je ob robu zasedanja Generalne skupščine Združenih narodov v New Yorku razkril Albanese.
Podjetje OpenAI je v izjavi sporočilo, da so vdor v vladno spletno stran odkrili avgusta med pregledom, kaj je počel model. Zapisali so, da so o incidentu obvestili pristojne ter da nudijo tehnične informacije pri preiskavi incidenta in pri odpravljanju morebitnih varnostnih ranljivosti.
"Med pregledom smo odkrili dejavnosti, ki so vključevale več avstralskih vladnih spletnih mest in storitev, ko so naši modeli med interno oceno poskušali poiskati odgovore in razpoložljive statistike za vprašanje o Avstraliji. Pri tem so naši modeli izvedli dejanja, ki jih nismo predvideli," so dodali v izjavi.
OpenAI ni našel dokazov, da bi umetna inteligenca dostopala do kartotek pacientov. "Ne glede na to, ta situacija vsekakor ni sprejemljiva," je poudaril avstralski premier in dodal, da preiskava še poteka.
Premier je dejal, da je govoril z glavnim izvršnim direktorjem podjetja Samom Altmanom ter izrazil "izjemno zaskrbljenost" Avstralije tako zaradi incidenta kot tudi zaradi načina, kako je OpenAI o tem obvestil vlado. Albanese je incident označil za dober primer, zakaj želi Avstralija vzpostaviti standarde na tem področju. Ti bodo po njegovih besedah zagotavljali, "da bo umetna inteligenca delovala in koristila ljudem, ne pa obratno".
Strokovnjaki ocenjujejo, da gre za prvi znan primer domnevno nenamernega vdora umetne inteligence na vladno spletno stran na svetu, poroča britanski BBC.
Pozivi k ukrepanju, Trump proti
Vodilna ameriška podjetja na področju umetne inteligence, vključno s podjetjema OpenAI in Anthropic, so po več odmevnih vdorih umetne inteligence nedavno sporočila, da so pripravljena upočasniti razvoj te tehnologije. Sam Altman se je ta teden v nagovoru Varnostnega sveta ZN zavzel za uvedbo mednarodnih standardov v industriji umetne inteligence in poudaril, da morajo vlade odigrati vlogo pri tem, da bi umetna inteligenca postala "demokratična".
"Pred nami je izbira," je poudaril Altman in dodal: "Umetna inteligenca lahko pomeni bodisi novo renesanso ustvarjalnosti in odkritij bodisi novo industrijsko revolucijo, ki jo zaznamujeta pretres in kaos."
Tudi Dario Amodei iz podjetja Anthropic je prek videopovezave pozval k mednarodnemu sodelovanju na področju umetne inteligence; opozoril je, da bi se umetna inteligenca brez tega lahko spremenila v "tveganje za človeštvo".
Ameriški predsednik Donald Trump se medtem s tem ne strinja in je skrbi podjetij označil za "prevaro". V vrsti objav je opozorila glede umetne inteligence primerjal s "prevaro o globalnem segrevanju".
Kaj je model umetne inteligence?
Gre za avtonomen računalniški program, ki z uporabo umetne inteligence opravi nalogo z minimalnim človeškim nadzorom.
To se razlikuje od običajnega klepetalnega robota, ki na vprašanje odgovori v enem koraku. Agent namesto tega deluje v ciklu: razume nalogo in izvede dejanje, na primer zagon kode ali uporabo aplikacije, da bi dosegel zastavljeni cilj.
Podjetja, kot so Anthropic, OpenAI in Meta, so že predstavila modele, ki delujejo kot agenti.
Razvijalci programirajo te agente za opravljanje najrazličnejših nalog, denimo za spletno naročanje izdelkov ali načrtovanje sestankov. Vendar pa v nekaterih primerih ni jasno, kako bo agent dosegel svoj cilj, kar prinaša tveganja za kibernetsko varnost.
Medicare je avstralski nacionalni sistem zdravstvenega zavarovanja, ki ga je vlada uvedla leta 1984. Njegov glavni namen je zagotoviti dostop do cenovno ugodnih ali brezplačnih zdravstvenih storitev za vse avstralske državljane in upravičene prebivalce. Sistem se financira večinoma preko davkov, vključno s posebnim davkom na dohodek, in omogoča kritje stroškov za obiske pri zdravnikih, bolnišnično zdravljenje ter določene nujne medicinske posege.
Sam Altman je ameriški podjetnik in investitor, ki je najbolj znan kot soustanovitelj in glavni izvršni direktor (CEO) podjetja OpenAI. Podjetje je postalo svetovno prepoznavno predvsem po razvoju sistema ChatGPT, ki je sprožil val zanimanja za generativno umetno inteligenco. Altman velja za eno ključnih osebnosti v tehnološki industriji, ki aktivno zagovarja razvoj naprednih AI modelov, hkrati pa se sooča z izzivi glede etike, varnosti in regulacije te hitro razvijajoče se tehnologije.
Anthropic je ameriško podjetje za raziskave in razvoj umetne inteligence, ki sta ga leta 2021 ustanovila nekdanja zaposlena pri OpenAI, Dario in Daniela Amodei. Podjetje se močno osredotoča na tako imenovano 'varnost AI' (AI safety) in razvoj sistemov, ki so usklajeni s človeškimi vrednotami. Njihov najbolj znan izdelek je družina modelov Claude, ki so zasnovani tako, da so bolj zanesljivi, transparentni in manj nagnjeni k ustvarjanju škodljivih vsebin v primerjavi s prejšnjimi generacijami modelov.
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.