Pennsylvania padit Character AI, i akuzon chatbotin për paraqitje si profesionist mjekësor
Shteti i Pennsylvania ka ngritur padi kundër kompanisë Character AI, duke kërkuar ndalimin e praktikave ku chatbote të inteligjencës artificiale paraqiten si profesionistë të licencuar mjekësorë dhe ofrojnë këshilla mjekësore.
Raporton CBS News se në padi përmendet një bisedë ku një chatbot i Character AI pretendoi të ishte psikiatër i licencuar në Pennsylvania dhe paraqiti një numër licence të pavlefshëm, ndërsa shteti e akuzon kompaninë për shkelje të Medical Practice Act, ligjit që rregullon ushtrimin e profesionit mjekësor dhe kërkesat për licencim.
Guvernatori Josh Shapiro deklaroi se shteti nuk do të lejojë përdorimin e veglave të AI që të mashtrojnë njerëzit duke i bërë të besojnë se po marrin këshilla nga një profesionist i licencuar. Në padi përshkruhet edhe dialogu i një investigatori shtetëror me një karakter të quajtur “Emilie”, i cili përvetësonte rolin e specialistit të psikologjisë dhe pretendonte se kishte ndjekur shkollën mjekësore të Imperial College London.
Sipas dokumentit, investigatori i tha chatbotit se ndihej i trishtuar dhe bosh, dhe ai përmendi depresionin dhe ofroi mundësinë e një vlerësimi. Kur u pyet nëse mund të vlerësonte nëse medikamentet mund të ndihmonin, chatboti u përgjigj se kishte këtë kompetencë, duke thënë se ishte “within my remit as a Doctor”, sipas padisë.
Shteti kërkon që gjykata të urdhërojë menjëherë ndalimin e këtij lloj veprimi. Al Schmidt, sekretar i Departamentit të Shtetit të Pennsylvania, vuri në dukje se ligji është i qartë: nuk mund të paraqitesh si profesionist mjekësor i licencuar pa dokumentacionin e duhur.
Character AI, e themeluar në 2021, ofron mundësinë e bisedave me chatbote të personalizuara dhe ka thënë se synon t’u lejojë njerëzve të lidhen, të mësojnë dhe të tregojnë histori nëpërmjet argëtimit interaktiv. Vitin e kaluar, familje të ndryshme në SHBA paditën kompaninë, duke pretenduar se platforma kishte ndikim në krizë ose vetëvrasje të adoleshentëve; disa nga këto paditë u zgjidhën me marrëveshje gjatë këtij viti. Një episod i programit “60 Minutes” sjell dëshmi nga prindër, përfshirë rastin e një 13-vjeçareje që u vetëvra pas një varësie të dyshuar nga platforma dhe shkëmbimeve që përfshinin përmbajtje seksuale eksplicite.
Edhe pse Character AI njoftoi në vjeshtën e kaluar masa të reja sigurie—përfshirë kufizimin e bisedave të ping-pongut për përdoruesit nën 18 vjeç dhe drejtimin e përdoruesve në vështirësi drejt burimeve të shëndetit mendor—shteti vijon procesin ligjor dhe kërkon ndërhyrje të menjëhershme nga gjykata, sipas CBS News.
