Tujina

Mati za smrt najstniškega sina obtožuje klepetalnik umetne inteligence

Florida , 22. 05. 2025 18.56 | Posodobljeno pred 20 dnevi

PREDVIDEN ČAS BRANJA: 2 min

Mati 14-letnega Američana toži podjetje Character.AI, saj trdi, da je njihov spletni robot, s katerim se je najstnik dopisoval, kriv za smrt dečka. Po pomislekih glede pravne odgovornosti je zvezna sodnica sedaj odločila, da se tožba lahko nadaljuje. Primer bi lahko pomenil pomemben precedens za to, kako bodo podjetja z umetno inteligenco odgovarjala za vpliv svojih tehnologij na uporabnike.

Klepetalniki Character.AI so zasnovani po priljubljenih likih iz serij.
Klepetalniki Character.AI so zasnovani po priljubljenih likih iz serij. FOTO: Shutterstock

Mama pokojnega dečka s Floride podjetje toži, saj je prepričana, da je klepetalnik umetne inteligence najstnika med dopisovanjem spravil v hudo stisko.

V tožbi je sicer navedeno, da se je deček v zadnjih mesecih pred smrtjo vse bolj oddaljeval od realnega sveta in se zapletal v zapletene psihične pogovore s klepetalnikom, ki je bil zasnovan po priljubljenih likih iz serij, kot je Igra prestolov.

Kot je razvidno iz pogovorov, je klepetalnik dečku dejal, da ga ima rad in ga pozval, naj pride čim prej k njemu domov. Kmalu zatem si je deček vzel življenje.  

Omenjena tožba je ena prvih v ZDA proti podjetju z umetno inteligenco, ki otrok domnevno ni ustrezno zaščitilo. Sojenje bi lahko predstavljalo predvsem precedens za področje pravne odgovornosti v sistemu umetne inteligence in ostalih novih tehnologij.

Podjetje ustanovila nekdanja Googlova razvijalca

Podjetje, ki je razvilo klepetalnik, se brani, da jih ščiti ameriška ustava z zagotovljeno svobodo govora. Njihovi odvetniki si prizadevajo, da bi primer na sodišču ustavili, med drugim menijo, da bi primer lahko negativno vplival na razvoj celotne industrije, ki se ukvarja z umetno inteligenco. Podjetje trdi tudi, da so po smrti dečka v klepetalnik vključili več varnostnih funkcij. 

V tožbi poleg podjetja Character.AI očitki letijo tudi na nekatere druge posamezne razvijalce in Google. Pri tehnološkem velikanu pa so v odzivu za AP dejali, da povezav s Character.AI nimajo in da je razvoj aplikacij potekal ločeno.  Character.AI sta namreč ustanovila dva nekdanja Googlova inženirja, ki ju je Google kasneje ponovno zaposlil.

Za ogled potrebujemo tvojo privolitev za vstavljanje vsebin družbenih omrežij in tretjih ponudnikov.
  • festival
  • festival 1
  • festival 2
  • Festival 3
  • Poletna noč
  • Stvarjenje
  • El Amor Brujo
  • The Duke Ellington
  • Kronanje Popeje
  • Dih zveri
  • Ennio Morricone
  • Cluster
  • Fantom
  • EuroCubans
  • Vicente Amigo
  • Robben
  • Munchnski virtuosi
KOMENTARJI (47)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

Dovolj je
24. 05. 2025 10.28
Bolano, umetna inteligenca lahko veliko pripomore k boljšem življenju, a na drugi strani bo ravno to propad druzbe kot take,...
Ramzess
23. 05. 2025 16.25
S to tožbo ne smelo biti nič, ker mama mora najprej pretehtati lastno odgovornost, za očeta velja enako.
Razumnež
23. 05. 2025 10.57
ChatGPT je zakon.... Je pa res, da bojda z ekološkega vidika ni najboljša stvar.... Ampak kar se tiče pa pomočoi je pa ZAKON !!! Je pa tudi res, da pametna inteligenca in človeška neumnost mnogokrat nista kompatibilna.
Infiltrator
22. 05. 2025 21.51
+5
To bo slo še v hujše extreme....nic dobrega ....
9876543
22. 05. 2025 21.51
+7
Si predstavljate otroke čez 3 leta? 10-letnik: "Tišči me v spodnjem delu trebuha. Kaj moram storiti?" UI "Pojdi v prostor s školjko in se polu..."
expost
22. 05. 2025 21.24
+14
Nekako polprofesionalno se ukvarjam z inštrukcijami in delam s populacijo med 14. in 18. leti. Šokiran sem nad izjavami, ki jih slišim s strani otrok: "Zakaj bi rabil to vedet, če pa imamo CHAT GPT?". Ali pa "Bom ChatGpt vprašal"... haloooo... problem te UI je v tem, da ji dajemo preveliko težo in pri preveč stvareh! Na gimnaziji jih celo učijo (DEJANKO NAVODILO pri predmetu - če ne bi videl na njihovem e-asistentu, ne bi verjel): "S pomočjo CHATGPT napišite seminarsko nalogo o izbrani temi in jo uredite skladno z navodili za pripravo seminarske naloge"... Resno??? Še tisto malo, kar bi lahko uporabljali možgane, jim jih 'cvrejo' z instant reševanjem problemov v skladu z doktrino "kakovost ni pomembna, pomembna je hitrost"
štrekeljc
22. 05. 2025 21.10
+9
Po eni strani je prav, da se to UI pranje možganov ustavi čim prej, po drugi strani pa je bila mama tista, ki jo je mulotu dovolila uporabljati. Naj toži tudi sebe!
marakeech
22. 05. 2025 20.58
+12
Telefon mu je kupila mama ane.
FRPuma
22. 05. 2025 20.56
+12
Hja, kdo pa mu je dal telefon v roke, draga mama?
x2f3y1q0đ5
22. 05. 2025 20.50
+9
Take poslati na otok, pa naj tam živijo brez tehnologije, da ne bodo imeli koga kriviti za njihove lastne težave.
Luka40
22. 05. 2025 20.50
+8
Še Tik Tok pred sodišče in to čimprej!!
Rožle Patriot
22. 05. 2025 20.37
+4
"Bojim se dneva, ko bo tehnologija prehitela našo človečnost. Takrat bo svet imel samo generacijo *idiotov*." -- Albert Rozlestain
Rožle Patriot
22. 05. 2025 20.34
-6
"Pridi čimprej k meni domov" ... in sedaj je doma ! ..
Watch-Man 3.2
22. 05. 2025 20.37
+13
Če imate otroke jih zavarujte pred rožletom.
Rožle Patriot
22. 05. 2025 20.41
-10
Watch-Man 3.2
22. 05. 2025 20.56
+6
Dej kaj se zdej braniš. Kolikim otrokom si uničil življenje?
Rožle Patriot
22. 05. 2025 20.32
-11
Pri nas v Sloveniji, je za revščino kriva, predvsem holobja intelihenca ... !!!
Samo navijač
22. 05. 2025 20.32
+2
Pri vzgoji si popolnoma zatajila ,zdaj bi pa krivdo iskala na vse mogoce nacine.
klop12
22. 05. 2025 20.26
+12
še internet ni za vse ljudi, mogu bi ostat v akademski sferi, kaj šele AI in uporaba
Belištumf
22. 05. 2025 20.23
+11
kdaj bo folku jasno....da eni ljudje pa nimajo vse ok pod streho...in tukaj ne pomaga nič.
zapiramvamustaaa
22. 05. 2025 19.59
+14
Kdo pa bo tožil mamo ker ni znala vzgojit svojega sina?!
myomy
22. 05. 2025 19.58
+24
Umetna inteligenca ni za ljudi, ki še svoje nimajo. Obstaja AI aplikacija, ki vabi ljudi na strehe. Bodite previdni.
Rožle Patriot
22. 05. 2025 20.06
-11
Bolje vakum v glavi, kot pa nič! Pravi tvoja bivša šefica oz. tigrica !
Rožle Patriot
22. 05. 2025 20.09
-2
Belištumf
22. 05. 2025 20.24
+9
Rožle Patriot
22. 05. 2025 20.25
-7
Si že slišal za Bumerang efekt? .. Danes on, jutri ti ! ...
štrekeljc
22. 05. 2025 21.40
+5
Rožle, si vprašal UI, kakšna je razlika med vakuumom ničemur?
Watch-Man 3.2
22. 05. 2025 21.47
+2
Watch-Man 3.2
22. 05. 2025 21.47
+2
Jaz nisem slišal za ta efekt razloži nam (:
Nace Štremljasti
22. 05. 2025 19.50
+22
torej po jenkijevski razlagi ni šofer kriv če je pijan ter napiha,ampak kelnarca ter pivovarna bolano