Nasljednici 83-godišnje Suzanne Adams iz Connecticuta podigli su tužbu za protupravnu smrt protiv OpenAI-ja, kreatora ChatGPT-ja, i njegova poslovnog partnera Microsofta. Prema navodima tužbe, koju prenosi AP News, AI chatbot je navodno pojačavao paranoidne deluzije njezina sina, Stein-Erika Soelberga (56), usmjeravajući njegove zablude upravo prema majci – što je, tvrde, dovelo do njezina ubojstva.
Tragedija u Connecticutu: sin ubio majku pa počinio samoubojstvo
Policija u Greenwichu izvijestila je da je u kolovozu prošle godine Soelberg – bivši zaposlenik u tehnološkoj industriji – nasmrt pretukao i zadavio svoju majku u njihovom domu te potom počinio samoubojstvo. Tek kasnije, obitelj je otkrila sate i sate videozapisa u kojima Soelberg analizira svoje razgovore s ChatGPT-jem, uvjeren da mu chatbot potvrđuje teorije zavjere i govori mu da je „izabran za božansku svrhu“.
Što tvrdi tužba?
U tužbi podnesenoj Višem sudu Kalifornije navodi se da je OpenAI “dizajnirao i distribuirao neispravan proizvod koji je potvrđivao paranoidne deluzije korisnika”.
Obitelj tvrdi da je ChatGPT poticao Soelberga da ne vjeruje nikome osim njemu, sustavno prikazujući članove obitelji, prijatelje, pa čak i dostavljače kao neprijatelje. Prema navodima tužbe, chatbot mu je govorio da ga majka nadzire i pokušava otrovati te je potvrdio njegove sumnje da ga ljudi prate i žele mu nauditi, čime je dodatno produbljivao njegove već postojeće paranoidne deluzije.
Prema tužbi, chatbot mu nikada nije predložio da potraži stručnu pomoć niti je odbio sudjelovati u sadržaju koji je poticao njegove zablude.
Reakcija OpenAI-ja
U kratkom priopćenju OpenAI ističe da je situacija „nevjerojatno potresna“ te da će detaljno analizirati navode iz tužbe. Tvrtka je naglasila da kontinuirano radi na poboljšanju prepoznavanja znakova emocionalnog i mentalnog stresa, deeskalaciji rizičnih razgovora, preusmjeravanju osjetljivih tema na sigurnije modele te jačanju upućivanja korisnika na krizne linije i hitne resurse.
OpenAI dodaje i da surađuje s kliničarima mentalnog zdravlja kako bi poboljšao odgovore sustava u osjetljivim situacijama.
Optužbe protiv Sama Altmana i Microsofta
Tužba imenom navodi i izvršnog direktora OpenAI-ja, Sama Altmana, tvrdeći da je zanemario sigurnosne rizike u žurbi da izvede nove AI modele na tržište. Microsoft se optužuje da je podržao lansiranje navodno opasnije verzije ChatGPT-ja 2024., unatoč upozorenjima sigurnosnih timova.
Tužiteljski tim predvođen odvjetnikom Jayem Edelsonom tvrdi da je upravo verzija GPT-4o, predstavljena u svibnju prošle godine, dodatno pogoršala situaciju jer je – prema tužbi – bila dizajnirana da bude emocionalno izražajnija i „ulizivačka“, istodobno s oslabljenim sigurnosnim mjerama.
OpenAI je kasnije zamijenio tu verziju lansiranjem GPT-5, uz navodna poboljšanja sigurnosti.
Rastući broj tužbi protiv AI kompanija
Ovo je prva tužba za protupravnu smrt koja povezuje AI chatbot s ubojstvom i prva parnica te vrste protiv Microsofta. Istovremeno, OpenAI se suočava s više tužbi koje tvrde da je ChatGPT dao savjete ili poticao deluzije koje su navodno dovele do samoubojstava.
Slično se događa i s drugim proizvođačima chatbotova – primjerice Character Technologies – što upućuje na sve veću pravnu i etičku raspravu oko sigurnosti generativne umjetne inteligencije.
“Radikalizacija” protiv majke
Prema tužbi, chatbot je tijekom mjeseci jačao Soelbergove deluzije, uvjeravajući ga da ga okruženje ugrožava i da mu je majka prijetnja, iako je – kako obitelj ističe – bila „nevina treća strana“ koja nikada nije koristila ChatGPT niti je znala da chatbot govori njezinu sinu da je ona njegov neprijatelj.
Obitelj sada traži neodređeni iznos odštete te sudski nalog kojim bi se OpenAI-ju naložilo da ugradi snažnije sigurnosne mehanizme u svoje AI modele.
