"Spolni globoki ponaredki žensk in otrok brez privolitve so nasilna in nesprejemljiva oblika poniževanja. S to preiskavo bomo določili, ali je X upošteval svoje zakonske obveznosti v okviru DSA ali je pravice evropskih državljanov, med drugim žensk in otrok, obravnaval kot kolateralno škodo," je ob sprožitvi preiskave povedala podpredsednica Evropske komisije, pristojna za tehnološko suverenost, Henna Virkkunen.
Kot so pojasnili na komisiji, bodo v novi preiskavi proti družbi v lasti ameriškega milijarderja Elona Muska ugotavljali, ali je ustrezno naslovila tveganja, povezana z vključitvijo funkcionalnosti asistenta Grok v platformo X v uniji. To vključuje tveganja, povezana s širjenjem nezakonitih vsebin, kot so prirejene spolno eksplicitne podobe, pri katerih bi lahko šlo za prikazovanje spolnih zlorab otrok.
V zadnjih tednih se je na družbeno omrežje X vsul val kritik in pritiskov, potem ko je Grokova funkcija Spicy Mode (pikantni način) uporabnikom omogočila ustvarjanje pornografskih in nasilnih globokih ponaredkov podob žensk in otrok.
Sprva so pri X v odzivu na kritike sporočili, da bo funkcija na voljo le uporabnikom, ki plačujejo naročnino. Kasneje pa so uvedli tehnološke ukrepe, da bi preprečili urejanje slik resničnih ljudi v razkrivajočih oblačilih na profilu Grok. Omejitev naj bi veljala za vse uporabnike, vključno s plačljivimi naročniki.
Bruselj je danes obenem razširil preiskavo proti X, uvedeno decembra 2023.
Zaradi kršitev obveznosti glede transparentnosti v okviru DSA je decembra lani upravljavcu družbenega omrežja X komisija že naložila denarno kazen v višini 120 milijonov evrov. Kršitve zajemajo zavajajočo zasnovo t. i. modrih kljukic, pomanjkanje preglednosti oglaševalskega arhiva in nezagotavljanje dostopa do javnih podatkov za raziskovalce.
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.