Znanost in tehnologija

Po 36 urah v EU dosegli okvirni dogovor o uporabi umetne inteligence

Bruselj, 09. 12. 2023 07.47 |

PREDVIDEN ČAS BRANJA: 3 min

Svet EU in Evropski parlament sta dosegla okvirni dogovor o aktu o umetni inteligenci, ki vsebuje pravila za njeno uporabo v Uniji. Gre za prvo tovrstno zakonodajo v svetu, njen namen pa je zagotoviti varnost sistemov umetne inteligence, kot sta ChatGPT in prepoznavanje obraza, ter spoštovanje temeljnih pravic in vrednot, obenem pa spodbujati vlaganje in inovacije na tem področju.

Medtem ko ZDA, Združeno kraljestvo in Kitajska hitijo z objavo lastnih smernic, so pogajalci držav članic, združenih v Svetu EU, in parlamenta, v petek zvečer, po treh dneh intenzivnih pogajanj, dosegli dogovor. Tega v Svetu EU, ki mu trenutno predseduje Španija, označujejo za zgodovinskega, v Evropskem parlamentu pa poudarjajo, da gre za prvi predlog tovrstne zakonodaje na svetu.

Podobno je v odzivu poudaril evropski komisar za notranji trg Thierry Breton. "Zgodovinsko! S političnim dogovorom o aktu o umetni inteligenci EU postaja prva celina, ki postavlja jasna pravila za njeno uporabo," je zapisal na omrežju X. Po njegovih besedah gre za veliko več kot le pravilnik – "to je odskočna deska za startup podjetja in raziskovalce pri vodenju globalne tekme na področju umetne inteligence".

Predsednica Evropske komisije Ursula von der Leyen je menila, da bo akt pripomogel k razvoju tehnologije, ki ne ogroža varnosti in pravic ljudi. V zapisu na omrežju X je dodala, da gre za "edinstven pravni okvir za razvoj umetne inteligence, ki ji gre zaupati".

V prihodnosti bomo zaradi AI težko ločili lažne vsebine od resničnih
V prihodnosti bomo zaradi AI težko ločili lažne vsebine od resničnih FOTO: DALL·E

Predlogi vsebujejo varovala za uporabo umetne inteligence na območju EU, pa tudi omejitve pri njeni uporabi, denimo s strani organov pregona. Temeljijo na oceni tveganja za posamezne programske modele – večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti.

Posamezniki bi glede na dogovor imeli pravico do pritožb in smiselnih pojasnil. V primeru kršitev pa so predvidene kazni v razponu od 7,5 milijona evrov ali 1,5 odstotka prometa do 35 milijonov evrov ali sedem odstotkov globalnega prometa.

Dogovor predvideva, da morajo biti temeljni modeli, kot sta jezikovni model ChatGPT in modeli za splošne namene GPAI, v skladu z obvezo o preglednosti, preden pridejo na trg. To vključuje pripravo tehnične dokumentacije ter uskladitev z evropsko zakonodajo o avtorskih pravicah in širjenju podrobnih povzetkov o vsebini, ki se uporablja za izobraževanje.

Visoko učinkoviti modeli, ki so utemeljeni na osnovnih načelih z visoko stopnjo tveganja, bodo morali izvajati evalvacijo modela, ocenjevati in zmanjševati sistemsko tveganje, obveščati Evropsko komisijo o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti.

Oblasti lahko uporabljajo biometrični nadzor v realnem času v javnih prostorih samo v primerih žrtev določenih kaznivih dejanj, preprečevanja dejanskih, trenutnih ali predvidljivih groženj, kot so teroristični napadi in iskanje osumljencev za najhujša kazniva dejanja.

Dogovor prepoveduje kognitivno vedenjsko manipulacijo, zbiranje fotografij obrazov z interneta ali s posnetkov nadzornih kamer, sistem družbenega ocenjevanja in biometrične kategorizacije z namenom ugotavljanja političnih, verskih in drugih prepričanj, spolne usmerjenosti in rase, izhaja iz sporočil Bruslja in poročanja tujih tiskovnih agencij. 

Evropski parlament umetno inteligenco definira kot programsko opremo, ki lahko "za določen niz ciljev, ki jih določi človek, ustvari rezultate, kot so vsebina, napovedi, priporočila ali odločitve, ki vplivajo na okolja, s katerimi sodelujejo". ChatGPT in DALL-E sta primera tako imenovane "generativne" umetne inteligence, ki se učita iz ogromnih količin podatkov, kot so spletna besedila in slike, da ustvarita vsebino, za katero se zdi, kot da jo je ustvaril človek. Tako imenovani "klepetalni roboti", kot je ChatGPT, se lahko pogovarjajo, programi, kot je DALL-E, pa lahko ustvarijo slike iz preprostih besedilnih navodil. 

O zakonodaji, ki jo je Evropska unija predlagala leta 2021, bosta morala sedaj za uradno potrditev odločati tako Evropski parlament kot Svet EU. Evropski parlament bo o predlogih akta glasoval v začetku prihodnjega leta, vendar morebitna zakonodaja ne bo začela veljati vsaj do leta 2025, poroča BBC.

KOMENTARJI (98)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

10. 12. 2023 12.06
Ta dogovor je pet let prepozen, UI je že vseposod! Se spomnite filma Terminator, to je priihodnost naših otrok in vnukov. Denar je še vedno, sveta vladar!
Branko Erčulj
10. 12. 2023 11.24
"večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti." Kako se to lepo sliši. Pa saj ne mislijo resno! Spomnijo naj se, kaj so delal med Covid sago.
Peklenšček
10. 12. 2023 08.32
+2
Če je AI samo učljiv potem se lahko prej ali slej širi kot to želi. Zamejiti nekaj kar smo razvili prav z namenom, da nekaj raste se razvija je tako kot vsako živo bitje, razlika je le v tem da ima živjo bitje življenski rok tu pa tega dejansko ni. Meni se poraja le vprašanje čez koliko let bo človeštvo služilo AI in ne AI človeštvu ?
Rains
09. 12. 2023 21.57
+1
Mene samo zanima če bodo kdaj pustili umetno inteligenco presojati na sodišču. Ko bi s tem eliminirali vse človeške pristranskosti in barabije. Kako bi bilo veselo potem, haha.
Mikey Durdevic
10. 12. 2023 08.55
Delnoma se strinja ampak to povlaci vse druge segmente clovestva v AI..kjer NE potrebujemo SE nam pa lahko SAMO odbije od glavo.
Rains
09. 12. 2023 21.51
+1
Ma kakšna pravila nekaj?! Bla bla. Ko bo AI zalaufala kot je treba jo bodo VSI koristili, do maksimuma brez kakršnihkoli pravil in omejitev.
Mikey Durdevic
10. 12. 2023 08.53
Aleš Hartner
09. 12. 2023 20.32
+3
Če je zakonodaja nerealistična, je ne moreš upoštevati. Če je nemoralna, je ne smeš upoštevati. Če je škodljiva, je nočeš upoštevati. Zakone, ki jih pišejo pravljičarji zelenega prehoda, nihče pri zdravi pameti ne bo upošteval, ali pa jih ne bo mogoče realizirati v praksi zaradi finančnih, energetskih ali surovinskih omejitev. Če bomo v EU kljub vsemu rinili z glavo skozi zid (npr. s prepovedmi poceni energentov), bomo kot civilizacija propadli.
Aleš Hartner
09. 12. 2023 20.44
+3
Glede zakonodajne regulacije umetne inteligence smo že sedaj prepozni. Kot lahko preberemo v članku, morebitna zakonodaja ne bo veljala vsaj do leta 2025. Ker je razvoj AI eksponenčen in ne linearen, nas bo že leta 2024 doletela superiorna umetna inteligenca z IQ 1600, pravi Mo Gawdat. Ko bo zakonodaja začela veljati, bo AI že nadzorovala pomembne segmente človeške družbe. Ko se bomo mi ukvarjali z vprašanjem, kako poklicno preživeti v novem svetu, se bo AI že samostojno ukvarjala z vprašanjem, kaj storiti z nami: ali nas pustiti pri življenju in če že, zakaj sploh. Kar so za nas vinske mušice, to bomo mi za umetno inteligenco leta 2030.
Podlupo
09. 12. 2023 12.44
-4
Svet se razvija v to smer, bomo morali sprejeti, žal tak pač je!
Mikey Durdevic
10. 12. 2023 08.53
+1
Phil Anselmo
09. 12. 2023 12.43
+7
Zakaj cepljenja itd? Ker ne rabijo več delavne sile ljudi. Preveč nas je. Malo je treba povezati pike. Agenda 2030 prihaja. Zaradi hitrega razvoja AI so jo pospešili. Prej je bila agenda 2050.
Podlupo
09. 12. 2023 12.45
+3
mackon08
09. 12. 2023 13.18
-3
Phil Anselmo ne piši zaradi cepljenja ni nič manj ljudi in delovne sile primanjkuje.
Phil Anselmo
09. 12. 2023 16.59
+4
Dosti manj jih je glede na grafe presežne smrtnosti v zadnjem letu. Večinoma vzroki srce pri mladih.
rokololo
09. 12. 2023 12.34
-3
Najboljše bi bilo spisat zakon, da lahko imamo v EU minimalno 5 verzij staro različico umetne inteligence. Da slučajno ne izgubimo kako delovno mesto z nizko dodano vrednostjo.
mackon08
09. 12. 2023 12.23
+8
V EU so dosegli dogovor o uporabi umetne inteligence. Normalno saj zdrave kmečke človeške pameti v EU parlamentu itak ni.
Zmaga Ukrajini.
09. 12. 2023 11.23
-7
EU orje ledino na tem področju. Bravo!
Con-vid 1984
09. 12. 2023 11.13
+4
Edina obramba pred AI, da gremo v nasprotno smer od digitalizacije, in, a se kaj takega izvaja?
traparija
09. 12. 2023 11.36
-5
ko da je ai problem, a "I" od bratuske ceararja sarca kucana in podgane pa po tvoje ne portebuje obrambe ? butalci.
M_teoretik
09. 12. 2023 10.56
+16
Če bi umetna inteligenca odkrivala lopove in utajevalce davkov, ter iskali rešitve za mir, bi bil svet precej lepši!?
123soba
09. 12. 2023 10.55
+17
Upam da ta UI nadomesti naše poslance in direktorje firm v lasti države
Tone 12345
09. 12. 2023 10.32
+3
In čas teče!
nelika123
09. 12. 2023 10.21
+22
O teh zadevah bi morali imeti besedo mnozica ljudi in ne politiki.Predvidevam,da nas bodo prisilili v nekaj,kar ne zelimo...kot pri Covidu....
First Last
09. 12. 2023 10.56
-6
Kovid nima nič s s tem ahahaha lol, ko si bil mladič so te tut silil z brokolijem pa omejil sladkarije, ampak ker je blo zate dobr, in ker sam nis bil dovol zrel da bi to vedel, no enako je po tvoje kovid siljenje, siljenje samo za nezrele upornike, drugi pa smo sami vedel kaj je najboljše, brez da bi pravila sploh rabli brat lol, raj pamet u roke, ta portal nate dobro.zagotovo ne vpliva, kakšno knjigo v roke
Zmaga Ukrajini.
09. 12. 2023 11.22
+3
O teh zadevah mora imeti glavno besedo SAMO STROKA, ne pa tudi neizobraženi in nevedni ljudje, ki sploh ne poznajo tega področja in se zato sploh ne zavedajo nevarnosti in pasti UI.
bbb27
09. 12. 2023 10.21
+13
Verjetno bi bilo boljše, da bi politike v bruslju nadomestili z AI
traparija
09. 12. 2023 10.20
+8
če bi se koruptivni tepčki sami držali tega kar naslavljajo v prvem boldanem odstavku tega "članka" bi bila kvaliteta bivanja dost višja. tepčki preračunljivi kupčkasti.
mastrion
09. 12. 2023 10.15
+21
Na zemlji se moramo prvo naučit živet v sužitju in miru, šele takrat se lahko začnemo pogovarjat o umetni inteligenci!
Cakcik
09. 12. 2023 11.46
-4
proofreader
09. 12. 2023 10.03
+2
Google je napovedal, da Gemini v EU zaenkrat ne bo dostopen. Bo pa v 160 drugih državah. Bravo, EU birokrati.

Piškotki

To spletno mesto uporablja piškotke. S piškotki zagotavljamo boljšo uporabniško izkušnjo, enostavnejši pregled vsebin, analizo uporabe, oglasne sisteme in funkcionalnosti. S klikom na »Strinjam se« dovoljuješ vse namene obdelave. Posamezne namene pa lahko izbiraš in urejaš s klikom na »Nastavitve piškotkov«. Več o piškotkih lahko prebereš tukaj.

Omogoči uporabo piškotkov za ogled video vsebin, za boljše delovanje in napredno oglaševanje in si ob pregledu vsebin zagotovi optimalno uporabniško izkušnjo. S klikom na »Strinjam se« dovoljuješ vse namene obdelave. Posamezne namene pa lahko izbiraš in urejaš s klikom na »Nastavitve piškotkov«. Več o piškotkih lahko prebereš tukaj.