Preiskava omrežja X zaradi spolno eksplicitnih vsebin

"Spolni globoki ponaredki žensk in otrok brez privolitve so nasilna in nesprejemljiva oblika poniževanja. S to preiskavo bomo določili, ali je X upošteval svoje zakonske obveznosti v okviru DSA ali je pravice evropskih državljanov, med drugim žensk in otrok, obravnaval kot kolateralno škodo," je ob sprožitvi preiskave povedala podpredsednica Evropske komisije, pristojna za tehnološko suverenost, Henna Virkkunen.

Kot so pojasnili na komisiji, bodo v novi preiskavi proti družbi v lasti ameriškega milijarderja Elona Muska ugotavljali, ali je ustrezno naslovila tveganja, povezana z vključitvijo funkcionalnosti asistenta Grok v platformo X v uniji. To vključuje tveganja, povezana s širjenjem nezakonitih vsebin, kot so prirejene spolno eksplicitne podobe, pri katerih bi lahko šlo za prikazovanje spolnih zlorab otrok.

V zadnjih tednih se je na družbeno omrežje X vsul val kritik in pritiskov, potem ko je Grokova funkcija Spicy Mode (pikantni način) uporabnikom omogočila ustvarjanje pornografskih in nasilnih globokih ponaredkov podob žensk in otrok. Po ocenah nevladne organizacije s sedežem v ZDA Center for Countering Digital Hate je bilo v zgolj nekaj dneh z Grokom ustvarjenih tri milijone tovrstnih podob, poroča francoska tiskovna agencija AFP.

Sprva so pri X v odzivu na kritike sporočili, da bo funkcija na voljo le uporabnikom, ki plačujejo naročnino. Kasneje pa so naznanili uvedbo tehnoloških ukrepov, da bi preprečili urejanje slik resničnih ljudi v razkrivajočih oblačilih na profilu Grok. Omejitev naj bi veljala za vse uporabnike.

Tiskovni predstavnik Evropske komisije Thomas Regnier je danes pojasnil, da omejevanje na naročnike ne zadošča, zaradi česar so se odločili za uvedbo preiskave.

Bruselj je danes obenem razširil preiskavo proti X, uvedeno decembra 2023, v okviru katere med drugim preiskujejo tveganja, povezana z algoritmom za priporočanje vsebin. Za razširitev so se odločili, ker so pri X pretekli teden naznanili, da bo delovanje algoritma po novem temeljilo na Groku, pri čemer pa niso ustrezno ocenili morebitnih s tem povezanih tveganj, je dejal Regnier.

Zaradi kršitev obveznosti glede transparentnosti v okviru DSA je decembra lani upravljavcu družbenega omrežja X komisija že naložila denarno kazen v višini 120 milijonov evrov. Kršitve zajemajo zavajajočo zasnovo t. i. modrih kljukic, pomanjkanje preglednosti oglaševalskega arhiva in nezagotavljanje dostopa do javnih podatkov za raziskovalce.

Evropska komisija sicer kljub uvedenim preiskavam in tudi prvim ugotovljenim kršitvam družbeno omrežje X še naprej uporablja za obveščanje javnosti o svojih aktivnostih. Na komisiji so danes glede tega pojasnili, da to počnejo, da bi dosegli več milijonov ljudi, ki platformo še vedno uporabljajo.