Mama pokojnega dečka s Floride podjetje toži, saj je prepričana, da je klepetalnik umetne inteligence najstnika med dopisovanjem spravil v hudo stisko.
V tožbi je sicer navedeno, da se je deček v zadnjih mesecih pred smrtjo vse bolj oddaljeval od realnega sveta in se zapletal v zapletene psihične pogovore s klepetalnikom, ki je bil zasnovan po priljubljenih likih iz serij, kot je Igra prestolov.
Kot je razvidno iz pogovorov, je klepetalnik dečku dejal, da ga ima rad in ga pozval, naj pride čim prej k njemu domov. Kmalu zatem si je deček vzel življenje.
Omenjena tožba je ena prvih v ZDA proti podjetju z umetno inteligenco, ki otrok domnevno ni ustrezno zaščitilo. Sojenje bi lahko predstavljalo predvsem precedens za področje pravne odgovornosti v sistemu umetne inteligence in ostalih novih tehnologij.
Podjetje ustanovila nekdanja Googlova razvijalca
Podjetje, ki je razvilo klepetalnik, se brani, da jih ščiti ameriška ustava z zagotovljeno svobodo govora. Njihovi odvetniki si prizadevajo, da bi primer na sodišču ustavili, med drugim menijo, da bi primer lahko negativno vplival na razvoj celotne industrije, ki se ukvarja z umetno inteligenco. Podjetje trdi tudi, da so po smrti dečka v klepetalnik vključili več varnostnih funkcij.
V tožbi poleg podjetja Character.AI očitki letijo tudi na nekatere druge posamezne razvijalce in Google. Pri tehnološkem velikanu pa so v odzivu za AP dejali, da povezav s Character.AI nimajo in da je razvoj aplikacij potekal ločeno. Character.AI sta namreč ustanovila dva nekdanja Googlova inženirja, ki ju je Google kasneje ponovno zaposlil.
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.