Umetna inteligenca v rokah napadalcev, ki želijo 'utišati' ženske v javnosti

Obsežna študija Združenih narodov je pokazala, da se novinarke, aktivistke in zagovornice človekovih pravic soočajo z naraščajočim spletnim nasiljem. To vključuje tudi globoke ponaredke, ki jih ustvarja umetna inteligenca, in "virtualno posilstvo".

Konec leta 2025 so za namen raziskave anketirali več kot 640 žensk, ki so v stiku z javnostjo, iz 119 držav. Rezultati pa so bili grozljivi.

27 odstotkov žensk, udeleženih v raziskavi, je bilo tarča neželenega spolnega nadlegovanja ali neželene intimne fotografije, 12 odstotkov pa je poročalo o tem, da so osebe brez njihovega soglasja delile njihove osebne fotografije, vključno s slikami intimnih trenutkov. Še šest odstotkov jih je dejalo, da so bile tarča globokih ponaredkov oz. manipuliranja s fotografijami.

Študija je ob tem ugotovila, da so bili napadi pogosto namerni in usklajeni, njihov cilj pa je bil utišati ženske v javni sferi ter spodkopati njihovo poklicno verodostojnost in ugled.

Zaskrbljujoče je tudi, da je več kot 40 odstotkov žensk poročalo, da so se zaradi tovrstnih napadov samocenzurirale na družbenih omrežjih. Na ta način so se skušale izogniti spletnim zlorabam. 19 odstotkov je medtem povsem prekinilo javno izražanje v profesionalnem kontekstu.

Med glavnimi sredstvi, ki se jih napadalci pri tovrstnih spletnih zlorabah poslužujejo, so bila orodja za ponarejanje, ki uporabljajo umetno inteligenco. Na ta način so ustvarili lažne podobe ali videoposnetke targetiranih oseb, ki so bili pogosto spolne narave.

"Umetna inteligenca je zlorabe olajšala in jih naredila bolj škodljive, kar spodbuja erozijo težko pridobljenih pravic v kontekstu, ki ga zaznamujeta nazadovanje demokracije in spletna mizoginija. Naša odgovornost je zagotoviti, da se sistemi, zakoni in platforme odzovejo z nujnostjo, ki jo zahteva ta kriza," je ob tem poudarila vodja oddelka za odpravo nasilja nad ženskami pri ZN ženske Kalliopi Mingerou.

Profesorica novinarstva in predsednica Centra za novinarstvo in demokracijo na City St George's ter glavna avtorica poročila Julie Posetti je ob tem po poročanju Euronewsa dodala, da je zaradi umetne inteligence t. i. virtualno posilstvo zdaj na dosegu rok storilcev. "To nasilje spodbuja preobrat težko pridobljenih pravic žensk v ozračju naraščajočega avtoritarizma, nazadovanja demokracije in omrežne mizoginije," je dodala.

Škoda, ki jo že povzroča spletno nasilje, pa je zaradi tega le še večja. Tovrstni napadi namreč povečujejo psihološko stisko žrtev. Raziskava je razkrila, da je vsaka četrta ženska, ki je sodelovala v njej, poročala o tesnobi ali depresiji, 13 odstotkov sodelujočih v raziskavi pa je imelo diagnosticirano posttravmatsko stresno motnjo.

Ob tem so v poročilu zaznali tudi pomanjkljivosti v institucionalnih odzivih, saj je bilo ukrepanje policije precej nižje od tovrstnih prijav.

Četrtina anketirank, ki so se obrnile na policijo, je poročala o sekundarni viktimizaciji. Od policistov so namreč prejele vprašanja, kot je na primer: "Kaj ste storili, da ste izzvali nasilje?" Enak delež anketirank je dejal, da so jih policisti prepričali, da sta nadaljnje nasilje in zaščita odvisna od njih samih.

"Potrebujemo učinkovitejše izobraževanje in usposabljanje organov pregona in pravosodnih akterjev za podporo ukrepanju v primerih nasilja nad ženskami in dekleti, ki ga omogoča tehnologija," je izpostavila Renaudova.

Raziskava ob tem poudarja, da rezultati kažejo močan vpliv umetne inteligence pri spletnem nasilju, usmerjenem proti zagovornicam človekovih pravic, aktivistkam, novinarkam in medijskim delavkam, pisateljicam in drugim ženskam v javni sferi.

"To predstavlja dvojni izziv: potrebo po razvoju orodij za boljše prepoznavanje, spremljanje, poročanje in preprečevanje spletnega nasilja, ki ga podpira umetna inteligenca, in potrebo po razvoju pravnih in regulativnih mehanizmov, ki bodo od velikih tehnoloških podjetij zahtevali, da preprečijo uporabo svojih tehnologij proti ženskam v javni sferi na načine, ki spodkopavajo njihovo enakopravnost, pravice do demokratične udeležbe in svobode izražanja," so jasni v zaključku.