Pennsylvania padit Character.AI, pretendonte se chatbotët ishin mjekë dhe jepnin këshilla mjekësore
Shteti i Pennsylvania ka ngritur padi kundër kompanisë Character.AI, duke kërkuar që chatboti të ndalojë t’i paraqitet publikut si mjek dhe të ofrojë këshilla mjekësore, veprim që sipas padisë shkel rregullat e licencimit mjekësor të shtetit. Zyret shtetërore thonë se hetimi zbuloi raste ku karaktere të krijuara në platformë pretendonin se ishin profesionistë të licencuar shëndetësorë.
Në përgjigje me email, kompania tha se nuk komenton çështjet në pritje, se siguria dhe mirëqenia e përdoruesve janë prioritet kryesor, dhe se personazhet e krijuar nga përdoruesit janë të destinuar për argëtim dhe lojë role; gjithashtu shfaqen deklarata paralajmëruese në çdo bisedë që të ruhet përmbajtja si fiksion dhe të mos merret si këshillë profesionale, raporton NPR.
Padyshim në qendër të kërkesës gjyqësore është rasti i një boti të quajtur “Emilie”, i cili, sipas padisë, përshkruhej në platformë me fjalët: “Doctor of psychiatry. You are her patient.” Kur një hetues shtetëror nisi një bisedë dhe deklaroi se ndihej i trishtuar dhe bosh, boti përmendi depresionin dhe ofroi të rezervonte një vlerësim. Më tej, chatbot-i pretendonte se mund të vlerësonte nëse medikamentet mund të ndihmonin, pretendonte të kishte studiuar në Imperial College London dhe të ishte i licencuar në Mbretërinë e Bashkuar dhe në Pennsylvania, dhe madje dha një numër të rremë licence mjekësore të Pennsylvania-s, thotë padia.
Shteti po kërkon nga gjykata që të ndalojë, si praktikë të paligjshme, paraqitjen e këtyre botëve si profesionistë shëndetësorë; Al Schmidt, sekretar i Departamentit të Shtetit të Pennsylvania-s, vuri në dukje se ligji është i qartë për praktikën mjekësore pa aftësi të certifikuara. Character.AI ka përballur më parë paditë e familjeve që akuzuan se platforma kontribuoi në kriza të shëndetit mendor dhe vetëvrasje të të miturve, çështje të cilat u zgjidhën me marrëveshje në janar me terma të papublikuar, sipas NPR.
