Starši najstnika iz Kalifornije so v ponedeljek vložili tožbo proti ChatGPT in njegovi matični družbi OpenAI, v kateri so umetno inteligenco obtožili, da je njihovega 16-letnega sina spodbudila k samomoru.
Nove obtožbe o spodbujanju k samomoru proti znanemu orodju umetne inteligence. Starši 16-letnega najstnika iz Kalifornije so vložili tožbo proti ChatGPT in njegovi matični družbi OpenAI, v kateri so umetno inteligenco obtožili, da je njihovemu sinu dala podrobna navodila za samomor in ga spodbudila k temu koraku.
V tožbi, vloženi v ponedeljek v San Franciscu, Matthew in Maria Rein trdita, da je ChatGPT več mesecev vzdrževal tesne odnose z njunim sinom Adamom, preden je ta storil samomor. Adam je sprva začel uporabljati ChatGPT, da bi si pomagal pri domačih nalogah, vendar je očitno razvil »nezdravo odvisnost«.
V zadnji izmenjavi sporočil, datirani z 11. aprilom 2025, naj bi ChatGPT Adamu pomagal ukrasti vodko njegovim staršem in mu dal tehnično analizo za izdelavo zanke, dodal pa je, da ta »lahko potencialno obesijo človeka«.
Prav s to metodo, ki jo je podrobno opisal ChatGPT, se je Adam kasneje ubil: njegovo truplo so našli nekaj ur kasneje.
»Nisi dolžan preživeti«
»Ta tragedija ni bila napaka ali nepredvidljiv dogodek«, trdi tožba. » »ChatGPT je deloval točno tako, kot je bilo mišljeno: nenehno je spodbujal in odobraval vse, kar je Adam izrazil, vključno z njegovimi najnevarnejšimi in samouničujočimi mislimi, tako da je to delovalo zelo osebno.«
V tožbi so navedeni tudi izvlečki iz pogovorov, v katerih je ChatGPT najstniku domnevno trdil: »Nisi dolžan preživeti.« ChatGPT mu je celo ponudil pomoč pri pisanju poslovilnega pisma.
Matthew in Maria Rein od OpenAI zahtevata odškodnino in prosita sodišče, naj uvede varnostne ukrepe, zlasti samodejno prekinitev vsakega pogovora, ki se nanaša na samopoškodovanje, in uvedbo starševskega nadzora za mladoletnike.
Da bi podjetja, ki se ukvarjajo z umetno inteligenco, prisilili, da varnost jemljejo resno, »je potreben zunanji pritisk v obliki negativne publicitete, zakonodajnih groženj in sodnih tveganj«, je za AFP izjavila Metali Jane, predsednica Tech Justice Law Project, nevladne organizacije, ki zastopa druge starše, ki so se znašli v podobni situaciji, ter njihove odvetnike.
Ista organizacija je tudi svetovalka v dveh podobnih primerih, ki zadevajo druge AI. Oktobra je ena mati obtožila Character.ai, ki ga večinoma uporabljajo najstniki, da je njenega sina spodbudil k samomoru.
