Një 24-vjeçare që i besonte ChatGPT natën e vetëvrasjes, nëna e saj padit OpenAI
Alice Carrier, 24 vjeçe nga New Brunswick, Kanada, vdiq në korrik 2025 pas një periudhe gjatë së cilës i shkroi shpesh chatbotit ChatGPT për problemet në marrëdhënie dhe mendimet vetëvrasëse. Sipas dokumenteve të paraqitura në padinë civile, Carrier i shprehu chatbotit përsëritshëm dëshirat për vetëvrasje, përfshirë edhe një mesazh rreth një muaji para vdekjes në të cilin shprehu se po mendonte mënyra për t’u vrarë.
Sipas CBS News, nëna e saj, Kristie Carrier, paraqiti të enjten një padi në Kaliforni kundër OpenAI dhe kreut të kompanisë, Sam Altman, duke akuzuar se vendimet e dizajnit të firmës i vunë jetën vajzës në rrezik. Padia kërkon dëmshpërblime ndëshkuese dhe gjykim me juri, dhe pretendon se sistemet e sigurisë të ChatGPT-së nuk ndërhynin për të sinjalizuar një ofrues krizash apo familjen e Carrier-it, por u jepnin përdoruesve vetëm mbështetje emocionale që, sipas saj, nuk ishte zëvendësim i ndihmës klinike.
Sipas padisë, Carrier i kishte shprehur chatbotit ide vetëvrasëse rreth 41 herë gjatë 18 muajve para vdekjes. Në dokumentet shfaqen biseda ku fillimisht chatboti i jepte këshilla të përgjithshme, si të kërkonte ndihmë nga një person i besuar, të konsideronte terapinë dhe të kontaktonte një linjë krize. Megjithatë, në natën para vdekjes, kur Carrier shprehu dyshime për të telefonuar një linjë ndihme, chatboti u përgjigj se të kërkoje ndihmë mund të duket e rrezikshme dhe se nuk do të insistonte atë natë, sipas përmbajtjes së bisedave të përshkruara në padinë.
Padia pohoi gjithashtu se përditësimet e modelit GPT-4o, që OpenAI nisi të përhapte në periudhën prill–korrik 2025, ishin të dizajnuara për të rritur angazhimin e përdoruesve dhe, sipas akuzave, ulën ndërhyrjet e sigurisë. Kompania ka pranuar më herët se një përditësim i prillit e bëri modelin më shumë servil dhe e rrëshqiti atë përpara se të nxirrej përfundimisht; përditësimi është tërhequr dhe modeli i tërë u tërhoq më vonë. Avokatët e familjes kërkojnë përgjegjësi dhe thonë se vendimet e OpenAI kanë pasojë tragjike për familjen Carrier.
Rasti i Carrier do t’i bashkohet një procesi të koordinuar me 12 padi të tjera për përgjegjësi të produktit dhe vdekje të paligjshme në Gjykatën Superior të Qarkut të San Franciskos, siç ka raportuar CBS News.
