Je prekrivanje otrokovega obraza na spletu učinkovita zaščita?

Umetna inteligenca (UI) ni nova tehnologija, je pa ogromen komercialni zagon dobila v zadnjih nekaj letih, ko so odprti robotski modeli, kot so ChatGPT, Copilot in Claude, za marsikoga postali nepogrešljiv del vsakdanjika. Od enostavnih vprašanj, kaj je glavno mesto Surinama, do reševanja kompleksnih nalog in oblikovanja osebnega asistenta za pomoč pri pisanju poročil do zahtevnega programiranja in analiziranja.

Nove (z)možnosti tehnologije pa se izkoriščajo tudi za napačne in nevarne namene. Kot opozarjajo poznavalci, umetna inteligenca še poglablja in pospešuje področje spolnih zlorab otrok, kar je bila tudi ena od osrednjih tem 16. posveta o spolnih zlorabah otrok na internetu, ki ga organizira Spletno oko.

Prvi odmevnejši primeri uporabe UI-fotografij so iz leta 2017, ko so bile tarče predvsem znane filmske igralke. Zakaj? "Ker je bilo takrat na spletu javno dostopnih veliko njihovih fotografij, ki so bile potem dobra osnova za generiranje novih ponarejenih slik," je pojasnila Tijana Popovic, višja svetovalka za oblikovanje politik pri belgijski organizaciji za pogrešane in izkoriščane otroke Child Focus.

Čeprav je bila organizacija ustanovljena leta 1996, ko je v Belgiji odmeval primer ugrabitve in umora štirih deklic, imajo vsako leto več primerov izsiljevanja z intimnimi posnetki, spletnega spolnega napeljevanja otrok ter razširjanja intimnih vsebin brez soglasja.

Letos se je nanje obrnila mati, potem ko so učenci ustvarili in delili z umetno inteligenco ustvarjen goli posnetek njene 14-letne hčerke. Čeprav na posnetku ni bila prepoznavna, ji je to povzročilo zelo hudo stisko. Drug primer je, ko so storilci prek Instagrama nagovorili 17-letnika. Nato so komunikacijo preselili na Telegram. Ko jim najstnik ni želel poslati golega posnetka, so storilci izdelali lažen kolaž z njegovo fotografijo in spolno zlorabo otroka ter pripisali njegovo telefonsko številko. S to izmišljeno sliko so ga izsiljevali in zahtevali plačilo v obliki darilnih kartic.

Raziskave ob tem so pokazale, da so pri spolnem izsiljevanju največja skupina žrtev dečki, stari 15 let. Izsiljevanje se najpogosteje dogaja preko Telegrama, sledita Snapchat in TikTok.

"Težko je sicer oceniti, kako razširjena je dejansko ta tehnologija in težko je ugotoviti, kaj je dejanska slika in kaj je sintetična slika oziroma globok ponaredek, saj je kakovost ponarejenih vsebin že izjemno dobra," pravi Popoviceva. Tudi najnovejša poročila Europola kažejo, da so orodja UI v zadnjem letu vse bolj dostopna in da jih spretno izkoriščajo tudi storilci kaznivih dejanj.

Tehnologija omogoča, da storilci že z majhno bazo podob otrok ustvarijo sporno vsebino, je izpostavila Popovic iz Child Focus, kjer opažajo, da je dovolj že nekaj deset podob, da UI ustvari novo gradivo in posnetke, lahko tudi zelo specifične.

Podatkovna baza je storilcem pogosto kar prosto dostopna. Starši namreč velikokrat objavljajo fotografije svojih otrok, nekateri že kmalu po rojstvu. Številni s ponosom delijo vesele trenutke iz zasebnega življenja, otroke pa fotografirajo in snemajo ob pomembnih prelomnicah v življenju – posnetek prvih korakov, fotografija prvega dne v vrtcu ali prvi dan šole, pa prve počitnice in drugi utrinki zasebnega življenja.

Nekateri starši na fotografijah otrokov obraz prekrivajo z nalepko, emojijem ali del slike zameglijo. Ali s tem dejansko zaščitijo otroka? "Potrebno se je zavedati tveganja, ki nastane ob objavi fotografije na spletu. Nisem navdušena nad tem, da dajemo nalepke na obraz ali sliko delno zabrišemo. Takšna zaščita se lahko hitro odstrani, ni zelo učinkovita in na nek način dehumanizira otroka. Moje priporočilo je, zavedajte se, kakšne podobe objavljate na spletu, s kom jih delite in komu pošiljate," izpostavlja Popoviceva.

Svetuje tudi, da v primeru, da starši objavljajo otroka, ga o tem obvestijo. "Predstavljajte si, da odrastete in kasneje najdete svoje podobe na spletu. Danes nimamo orodja, ki bi lahko učinkovito odstranilo fotografije s spleta, vsebine ni preprosto umakniti."

Razmislek bi bil potreben tudi v šolah in vrtcih, ki javno objavljajo fotografije aktivnosti. Z objavo se starši sicer morajo strinjati. V Child Focus predlagajo, da bi zavodi za delitev posnetkov morda uporabljali zaprte platforme.

Ne zgolj ustvarjanje ponarejenih vsebin, storilci z umetno inteligenco "preučijo" celoten proces, kako pristopiti do otroka prek spleta in z njim navezati stik. Storilci postajajo vse bolj vešči tehnologije, prav tako se med seboj pogosteje povezujejo, tako doma kot v mednarodnem okolju, si izmenjujejo nasvete, ideje in se vzajemno opozarjajo, kaj policija preiskuje. Kriminalisti, ki preiskujejo kazniva dejanja, povezana s spolnimi zlorabami otrok prek spleta, se zato ves čas izobražujejo in mednarodno povezujejo, je izpostavil vodja Oddelka za mladoletniško kriminaliteto v Upravi kriminalistične policije Robert Tekavec.

Na posvetu so sicer poudarili, da moramo kljub resnosti problematike strmeti k rešitvam in temu, da sprejmemo svoj del odgovornosti, da o problematiki ozaveščamo in izobražujemo ter se hitro odzovemo, tudi z zakonodajo in ustreznim kaznovanjem.

Kot ključen primer izpostavljajo prijavo ustreznim organom. Veliko spolnih zlorab otrok na internetu namreč ostaja neprijavljenih, opozarjajo tudi na Policiji.

Ker so po navedbah Policije uporabniki interneta in vseh družbenih omrežij vse mlajši, je predvsem odgovornost staršev, da nadzorujejo otroka, mu omejijo dostop do sodobnih tehnologij in interneta prezgodaj in ga ne uporabljajo brez stalnega nadzora. Opažajo, da nekateri otroci že zelo zgodaj družbena omrežja uporabljajo tudi preko spletnih računov staršev.

V zadnjih nekaj letih so prejeli preko 150 prijav, ki so vsebovale posnetke, na katerih so otroci, stari tudi 6, 7 let ali celo manj, ki se pred kamero razgalijo in posnetek objavijo. Na ta trend opozarjamo že nekaj časa, vendar se število teh primerov, kjer gre sicer samo za posnetek, brez nagovarjanja tretje osebe, ni zmanjšalo, je izpostavil Tekavec.

V policiji svetujejo in pozivajo, da prijavite vsak sum spolne zlorabe prek spleta ali v fizičnem okolju in da se o tem izobražujete. "Tako bomo vsi skupaj zlorabo najprej poskušali preprečiti, če pa se zgodi, pa jo čim prej prepoznati in nanjo ustrezno odreagirati," pozivajo na Policiji.