Evropska unija želi 'ukrotiti' umetno inteligenco

V nekaj minutah, ki jih boste porabili za branje tega besedila, bo človeštvo ustvarilo več podatkov, kot jih je skupaj od začetka našega obstoja pa do leta 2000. Okoli 50 milijard raznih naprav, kamer, senzorjev ta trenutek zbira informacije o nas, osebne in javne. Pogosto, ne da bi se tega sploh zavedali. Srhljivo dejstvo, ki pa ni še nič v primerjavi s tem, kaj vse že lahko s temi informacijami počnejo tisti, ki imajo nadzor. In umetno inteligenco.

Človeštvo prej ni bilo sposobno obdelati takšne množice podatkov, umetna inteligenca to lahko stori v nekaj minutah. Kako bo v prihodnjih letih uporabljena ta super moč? Odvisno od tega, kdo jo bo upravljal. In kako bo regulirana?

Prav tukaj pa evropski poslanci postavljajo, sploh prvi na svetu, tako obsežna in kompleksna pravila igre. Podobno, kot so to počeli pri sprejemanju zakonodaje za varovanje osebnih podatkov, ki jo zdaj široko uporabljamo.

Kaj bo še dovoljeno, kaj prepovedano? Kaj so glavni pomisleki in strahovi?

Zakonodajo je Evropska komisija predlagala vsaj za umetno inteligenco že davnega leta 2021. Eno izmed področij, ki so delili in predstavljali sprejem zakonodaje, je bilo vprašanje uporabe umetne inteligence pri obveščevalni dejavnosti in v policiji.

Kamen spotike torej, sistem za prepoznavo. Lažje si predstavljajmo s pomočjo filmov. Ker je Hollywood v marsičem tako srhljivo napovedujoč, smo v resnici veliko že videli. Če v filmu Umetna inteligenca Stevena Spielberga nastopajo povsem izdelani roboti, kopije ljudi, ki imajo tudi že čustva, pa v filmu Posebno poročilo že lahko napovedo, če nekdo samo razmišlja o tem, da bi izvršil zločin. V to smer je šla biometrika, naprave, ki zaznajo in opozorijo že na najmanjšo spremembo razpoloženja, denimo potnika na letališču, na mejnem prehodu, delovnem mestu, pa spremembo izraza na obrazu in podobno in iz tega že sklepajo, da gre morda za nekoga, ki pripravlja teroristično akcijo.

To bo prepovedano, tako kot tudi biometrični sistem, ki deli ljudi glede na spol, raso, etnično pripadnost, nacionalnost, religijo in politična stališča.

Strogo bi omejili sistem, ki ustvarja bazo obrazov s posnetkov kamer na javnih prostorih. Z izjemami, ko gre za prepoznavo obrazov v samem poteku akcije, če gre za terorizem, težji zločin, iskanje pogrešanih oseb in otrok. Tudi za to bo potrebna odobritev sodišča. Nekateri se sicer tudi na tem področju zavzemajo za popolno prepoved, saj tudi omejitve še vedno omogočajo zlorabe.

Glavni ustvarjalci tehnologij UI bi morali svoje izdelke registrirati v sistemu Evropske unije, preden bi jih ponudili na trgu. Generativna UI, to je na primer zdaj že slavni in široko uporabljani chatGPT, tisti modeli torej, ki znajo sami in z na spletu pridobljenih podatkov ustvariti nekaj svojega, "avtorskega", bodo morali izpolnjevati načela preglednosti. Tudi z navajanjem imen in del znanstvenikov, umetnikov, glasbenikov in drugih, ki so jih uporabili. Dodati bodo morali tudi orodja, ki bodo preprečevala, da bi UI ustvarjala vsebine, ki bi kršile zakon. Recimo, ko gre za tako imenovano deep fake uporabo. Spomnimo se papeža Frančiška, ki se je pred časom znašel na fotografiji v prestižnem plašču znamke Armani. Slika, ki je postala viralna in zbudila tudi kar nekaj zgražanja, je bila izmišljena, narejena umetno. Takim in še veliko hujšim potvorbam naj bi se skušali izogibati tako, da bi jih jasno označili kot take.

Evropska unija tudi regulira nevarnosti, ki ogrožajo človekove temeljne pravice. Sem spada vplivanje na odločanje volivcev. Spomnimo se, kako je to počela družba Cambridge Analytica samo s pomočjo milijonov in milijonov naših računov na Facebooku.

Zakonodaja postavlja še številna druga pravila, ko gre za urejanje uporabe UI v industriji, bančništvu, elektroniki, zdravstvu in drugje.

Ker pa gre za ogromen trg in veliko denarja, v letošnjem letu naj bi zrasel za 15 odstotkov, napovedi obsega pa so do 90 milijard evrov, tudi Evropska unija napoveduje velika vlaganja. Omejevanje in postavljanje pravil torej ob hkratnem razvoju, to je glavni cilj nove, prelomne zakonodaje. Da bi bili pripravljeni, kot je dejal glavni poročevalec v Evropskem parlamentu, tudi na kakšen quantum leap dogodek, dogodek torej, ko nas umetna inteligenca preseneti z velikim skokom nekam naprej.

Za vsem pa je čutiti  bolj tiho in skromno željo, da bi na koncu z umetno inteligenco vendarle upravljal človek in da bi bil človek tisti, ki bi držal prst na glavnem stikalu. In UI tudi izključil, če postane grožnja človeku.