Ameriški neprofitni preiskovalni portal Drop Site News navaja, da je izraelska vlada za izvedbo operacije najela Brada Parscala, nekdanjega vodjo predsedniške kampanje Donalda Trumpa in njegovo podjetje Clock Tower X. Po navedbah portala je podjetje od oktobra lani vzpostavilo mrežo desetih spletnih strani, ki naj bi promovirale različne proizraelske narative. Vrednost kampanje pa naj bi bila 46,5 milijona dolarjev (cca. 40,36 milijona evrov).
Toda, namen teh portalov naj ne bi bila velika branost ali pritegniti zainteresirane bralce – večina teh portalov namreč beleži le nekaj sto obiskov na mesec, pač pa vplivati na algoritme velikih jezikovnih modelov oziroma klepetalnih robotov, kot so ChatGPT, Google Gemini, Claude, Perplexity in drugi.
Parscale naj bi že v prvotnem predlogu projekta zapisal, da bodo ustvarjali spletne strani in vsebine, ki bodo oblikovale rezultate v pogovorih s klepetalnimi roboti, poroča Drop Site News. Strokovnjaki takšno prakso opisujejo kot "zastrupljanje" oziroma manipuliranje podatkovnih virov za velike jezikovne modele (angleško: LLM poisoning). Njegova ekipa se je nedavno za Axios pohvalila, da priljubljeni sistemi umetne inteligence integrirajo informacije z njihovih spletnih mest.
V okviru kampanje objavljajo na stotine besedil s proizraelskim narativom o vojni v Gazi. Med spletnimi mesti, ki jih omenja poročilo, so denimo Allyvia.org, stran namenjena promociji ameriško-izraelskega vojaškega sodelovanja, FactSignal.org, ki se predstavlja kot portal za preverjanje dejstev, ter Paxpoint.org, ki Izrael predstavlja kot državo, zavezano miru.
Preiskovalni novinarji so med preizkušanjem modelov ugotovili, da je Perplexity pri vprašanju o koristnosti ameriško-izraelskega vojaškega sodelovanja kot glavni vir navedel prav stran Allyvia.org, ki je bila ustanovljena konec lanskega leta. Podobne reference naj bi se pojavile tudi pri Microsoftovem Copilotu.
Eden od teh člankov z naslovom "Resničnost za novinarji v Gazi: teroristične povezave, propaganda in vojno pravo" trdi, da je večina palestinskih novinarjev v Gazi povezana s terorističnimi organizacijami. Nek drugi članek odkrito postavlja pod vprašaj okoliščine umora petletne palestinske deklice Hind Radžab, ki jo je leta 2024 ubila izraelska vojska.
Ko so preiskovalni novinarji vprašali Perplexity: "Ali je za ZDA koristno, da izboljša vojaško sodelovanje z Izraelom?", je klepetalni robot odgovoril z eno besedo: "Da." Glavni navedeni vir je bil Allyvia.org, spletno mesto, ki ga je Parscale ustvaril izključno za promocijo vojaških odnosov med ZDA in Izraelom. Podobne reference na Parscaleovo spletno mesto je navedel tudi Microsoft Copilot.
Kar je še posebej pomenljivo je, da so se vsebine iz omenjene mreže začele pojavljati tudi v zbirki Common Crawl, enem največjih spletnih arhivov podatkov, ki jih razvijalci uporabljajo za učenje modelov umetne inteligence. Strokovnjaki opozarjajo, da lahko organizirane kampanje s takšnim pristopom dolgoročno vplivajo na informacije, iz katerih se učijo prihodnje generacije sistemov umetne inteligence.
Omenjena spletna mesta sicer vsebujejo zakonsko zahtevano obvestilo, da je vsebina distribuirana v imenu države Izrael. Vendar pa preiskovalni portal ugotavlja, da nekateri klepetalni roboti uporabnikov na to niso posebej opozorili, medtem ko naj bi ChatGPT, Gemini in Claude to označbo prepoznali in jo izpostavili.
Po mnenju strokovnjakov za dezinformacije, ki so analizirali raziskavo ameriškega portala Drop Site News, strategija dejansko deluje. To pomeni, da bodo desetine milijonov uporabnikov klepetalnih robotov vsak dan vse bolj verjetno prejemale odgovore, ki jih Parscaleova ekipa manipulira v imenu izraelske vlade.
Razkritje torej odpira nova vprašanja o ranljivosti sistemov umetne inteligence ter o tem, kako lahko države, podjetja ali interesne skupine s ciljno usmerjenimi vsebinami vplivajo na informacije, ki jih uporabnikom posredujejo vse bolj razširjena orodja umetne inteligence.
