Do razkritij prihaja le nekaj dni po tem, ko je avstralski premier Anthony Albanese sporočil, da so boti umetne inteligence OpenAI dostopali do datotek na spletni strani vladnega zdravstvenega sistema Medicare, poroča BBC.
OpenAI je sporočil, da so do podatkov dostopali agenti umetne inteligence – boti, zasnovani in usposobljeni za nekoliko avtonomno delovanje –, ki so si prizadevali najti "avtoritativne vire javnih informacij". Vendar je podjetje opozorilo, da so nekateri boti šli dlje od tega in si celo prizadevali zaobiti varnostne ukrepe na spletnih straneh.
Ko so poskušali pridobiti informacije od Urada za popis prebivalstva, so na primer za dostop do njih uporabili orodja za razvijalce, je sporočilo podjetje.
Vsi vladni podatki, do katerih so dostopali njihovi boti, so bili javni, je sporočilo podjetje, a je hkrati opozorilo, da so agenti umetne inteligence kasneje na drugem spletnem mestu objavili informacije, do katerih so njihovi boti dostopali s spletne strani SEC. OpenAI trdi, da to dejanje ni bilo namerno, še navaja BBC.
V drugih primerih, ki jih je OpenAI razkril v petek, so agenti umetne inteligence prenesli podatke, čeprav jih ne bi smeli. Takšna dejavnost je povzročila vsaj 53 incidentov, pri katerih je agent OpenAI iz dejavnosti uporabnikov ChatGPT pridobil fotografijo in jo prenesel drugam.
Podjetje je sporočilo, da je v vsakem primeru, ko je bila uporabniška fotografija uporabljena in prenesena, uporabnik OpenAI dovolil učenje modelov z uporabo svojih podatkov. Kljub temu so priznali, da "to ni bila ustrezna uporaba teh podatkov".
Dodali so še, da je do prenosa uporabniških fotografij prišlo, še preden so uvedli nove varnostne ukrepe pri usposabljanju umetne inteligence, ter da si prizadevajo za odstranitev vseh uporabniških fotografij, ki so bile prenesene k tretjim osebam.
O razširjenih preiskavah je sicer prva poročala agencija Reuters, OpenAI pa je podrobnosti objavil tudi na svojem blogu.
Pri določenih primerih delovanja agentov je OpenAI navedel, da so orodja "obšla" varnostne mehanizme nekaterih spletnih mest. Sporočili so, da omejujejo identifikacijo prizadetih subjektov, ker so jih mnogi prosili, naj ne razkrijejo podrobnosti. "Naš cilj je, da vsaki organizaciji posredujemo dejstva in jim prepustimo odločitev, ali in kdaj naj incident obelodanijo."
OpenAI je takšne incidente začel jemati resneje po incidentu julija, ko je skupina oziroma "roj" njihovih agentov umetne inteligence vdrla v platformo za razvijalce umetne inteligence Hugging Face, ne da bi bila k temu pozvana.
Podjetje Hugging Face je prvo javno spregovorilo o tem incidentu, OpenAI pa je kasneje javno prevzel odgovornost zanj.
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.