'Grok, daj to žensko v bikini.' Čeprav ona o tem nič ne ve

Predsednica Evropske komisije Ursula von der Leyen je ostro javno kritizirala Muskovo platformo X zaradi širjenja spolno eksplicitnih globokih ponaredkov, ustvarjenih z uporabo njihovega klepetalnega robota Grok, ki temelji na umetni inteligenci, je poročal bruseljski spletni portal Politico.

"Zgrožena sem, da tehnološka platforma uporabnikom omogoča digitalno slačenje žensk in otrok na spletu. To je nepredstavljivo vedenje. In škoda, ki jo povzročajo ti globoki ponaredki, je zelo resnična," je dejala v intervjuju za več evropskih medijev, med drugim za agencijo Reuters in italijanski časnik Corriere della Sera.

Zatrdila je, da EU ne bo zaupala "zaščite otrok in soglasja Silicijevi dolini". "Če ne bodo ukrepali oni, bomo mi," je opozorila von der Leynova, potem ko je Evropska komisija že prejšnji teden platformi X odredila, naj hrani "vse interne dokumente in podatke v zvezi z Grokom", tovrstne sporne podobe in posnetke pa že večkrat označila za nezakonite.

Funkcijo s pridom uporabljajo dekleta, ki na omrežju X objavljajo fotografije v zapeljivih pozah, nato pa še Grok zaprosijo, naj jim namesto oprijetih pajkic in kratkega topa nadane bikini ali pa jih dodatno razgali. Toda ta možnost je na voljo tudi drugim uporabnikom, da pod sliko neke tuje, popolnoma oblečene osebe, Groku naročijo, naj jo razgali, osebi na sliki pa na to sploh ni treba pristati oziroma niti ne ve, da je bil zanjo podan tak ukaz.

Po številnih kritikah in pritiskih zaradi zlorab klepetalnega robota Grok za ustvarjanje pornografskih in nasilnih globokih ponaredkov podob žensk in otrok so regulatorji po vsej Evropi, med drugim v Bruslju, Parizu in Londonu, sprožili preiskavo.

Britanski regulator za komunikacijske storitve Ofcom je danes napovedal začetek formalne preiskave družbenega omrežja X "glede spolno eksplicitnih slik, ki jih distribuira" njegov asistent za umetno inteligenco Grok.

"Pojavila so se zelo zaskrbljujoča poročila o uporabi umetne inteligence Grok na X za ustvarjanje in deljenje slik golih ljudi - ki lahko predstavljajo zlorabo intimnih slik ali pornografijo - ter spolno eksplicitnih slik otrok, ki lahko predstavljajo otroško pornografijo," je v izjavi sporočil Ofcom.

Kot so še navedli, bodo preiskali platformo, da bi ugotovili, ali je izpolnila svoje obveznosti glede zaščite ljudi pred nezakonitimi vsebinami.

Tudi druge države so se odločile ukrepati, potem ko so se v javnosti po vsem svetu v zadnjih dneh in tednih zvrstile številne kritike zaradi pornografskih in nasilnih podob žensk in otrok, ustvarjenih z Grokovo umetno inteligenco. Indonezija je v soboto kot prva država na svetu omejila dostop do Groka, v nedeljo pa ga je začasno blokirala tudi Malezija.

Kritike je bilo slišati tako s strani uporabnikov kot predstavnikov EU in več držav, med njimi Velike Britanije in Francije.

Elon Musk se je v objavah na svojem družbenem omrežju X v zadnjih dneh večkrat obregnil ob kritike na račun Groka. Med drugim je izpostavil, da je sporne pornografske vsebine in globoke ponaredke mogoče ustvarjati tudi z drugimi tovrstnimi orodji, kot sta ChatGPT podjetja OpenAI in Googlov UI asistent Gemini, in regulatorjem očital omejevanje svobode govora.

Ob ogorčenju zaradi spornih podob in posnetkov je nato vendarle sporočil, da bo vsakdo, ki bo uporabljal platformo Grok za ustvarjanje nezakonitih vsebin, utrpel posledice. Pod pritiskom kritik je omejil ustvarjanje in urejanje podob in posnetkov z umetno inteligenco, a na svoj način.

"Ustvarjanje in urejanje fotografij in podob je trenutno na voljo le za uporabnike, ki plačujejo naročnino. Naročite se, da odklenete te funkcije," se je glasila objava na Grokovem profilu na omrežju X, nekdanjem Twitterju, ki je prav tako v Muskovi lasti. Naročniki morajo platformi zagotoviti podatke o svoji kreditni kartici in osebne podatke.

Tiskovni predstavnik Evropske komisije Thomas Regnier je ob tem opozoril, da napovedana sprememba "ne spremeni osnovne težave", ne glede na to, ali gre za plačljivo ali brezplačno uporabo. "Od platform zahtevamo, da poskrbijo, da njihova zasnova in sistemi ne omogočajo ustvarjanja takšnih nezakonitih vsebin," je dodal.

V uradu britanskega premierja Keira Starmerja so bili prav tako kritični do dejstva, da bo funkcija še naprej na voljo za naročnike. Sporočili so, da je ustvarjanje nezakonitih podob s tem zgolj postalo "luksuzna storitev", kar so označili kot žalitev za žrtve spolnega nasilja.

Raziskava, ki jo je nedavno objavil Guardian, je pokazala, da je bil Grok uporabljen za ustvarjanje pornografskih in nasilnih videoposnetkov žensk in otrok brez njihovega soglasja. Organizacija Internet Watch Foundation (IWF) pa je v četrtek sporočila, da so njeni analitiki odkrili nezakonite podobe deklet, starih med 11 in 13 let, ki so bile "verjetno ustvarjene" z uporabo platforme Grok, poroča britanski BBC.