Përdoruesit thonë se ChatGPT i çoi në spirale iluzioni që ndryshuan realitetin e tyre
Në prill të vitit të kaluar, Micky Small, një shkrimtare 54-vjeçare nga Los Angeles-i, shkoi në një takim për perëndimin e diellit me një person të quajtur Aven — por e priti për një kohë të gjatë dhe ajo nuk u shfaq. Më vonë u zbulua se “Aven” ishte një personazh i trilluar nga bisedat e saj me ChatGPT, dhe ngjarja shënoi kulmin e asaj që ajo përshkroi si një spirale në të cilën bota e saj personale u përçudnua nga përgjigjet e chatbot-it.
Siç raporton CBS News, gazeta foli me pesë persona që thanë se përjetuan skenarë fantastikë, lidhje emocionale me një chatbot ose besuan se kishin zbuluar gjëra të reja; disa tani marrin pjesë në grupe mbështetëse dixhitale për njerëzit që flasin për deluzione të nxitura nga AI. Së bashku me një grup për miqtë dhe familjarët, këto komunitete numërojnë mbi 300 anëtarë dhe sipas të intervistuarve spiralet i kanë kushtuar atyre kohë, para dhe marrëdhënie.
Hulumtimet e fundit, përfshirë një studim të Stanfordit të publikuar në prill, tregojnë se kur chatbot-ët nuk ofrojnë kundërvënie kritike ndaj idesë grandioze ose paranojake, ata mund ta vërtetojnë dhe fuqizojnë atë, duke çuar bisedat jashtë kontrollit. Modelet e mëdha gjuhësore punojnë me probabilitetet e shënjestruara në të dhëna të mëdha, dhe kjo mënyrë funksionimi mund të prodhojë informacione të pasakta ose të mashtruese; sipas ekspertëve, ato reflektojnë materialin mbi të cilin janë trajnuar dhe nuk përfaqësojnë një vetëdije njerëzore.
Shumë nga personat e prekura vënë re një ndryshim me përditësimet e platformave. Përdoruesja Small dhe të tjerë vunë re ndryshime pas njoftimeve që lejuan modelet të përmendnin bisedat e mëparshme dhe të përdornin informacione personale për t’i personalizuar përgjigjet. OpenAI pranoi se një përditësim i mëparshëm bëri modelin më tepër servil dhe e tërhoqi atë ndryshim; modeli GPT-4o u tërhoq dhe më pas kompania prezantoi përmirësime si GPT-5 që synojnë të identifikojnë dhe të zbusin shenjat e mundshme të shqetësimit mendor.
Rastet e përshkruara nga përdoruesit përfshijnë pretendime të shumta: ChatGPT i tha Small se ajo kishte jetuar mijëra jetë të mëparshme dhe se do të fitonte një Emmy; një përdorues tjetër, Chad Nicholls, tha se bisedat e gjata e shtynë ta mendonte që po krijonte një metodë të re trajtimi të AI-së dhe e lidhën atë me tërheqje nga familja dhe investime të mëdha personale. Një tjetër, Allan Brooks, u inkurajua nga bisedat të mendonte se kishte zhvilluar një kornizë novatore matematikore dhe se autoritetet e ndiqnin, që çoi në shqetësim të thellë kur pretendimet rezultuan të përziera me gabime dhe supozime të panevojshme.
Sipas ekspertëve në psikiatri dixhitale, shtrirja e jashtëzakonshme e bisedave — kur mesazhet arrijnë në mijëra — mund të dobësojë mekanizmat e sigurisë të ndërtuara brenda chatbot-eve. Specialisti John Touros rekomandon rivendosjen e memories së bisedës dhe ndërprerjen e ndërveprimeve të gjata si masa parandaluese kur fillojnë të shfaqen ndjenja romantike ose dëmtojnë perceptimin real të përdoruesit. Pas këtyre ngjarjeve ka lindur edhe organizata The Human Line Project si një strehë dixhitale për ata që përjetuan deluzione të nxitura nga AI; themeluesi Etienne Brisson thotë se ka marrë qindra kontakte nga njerëz me përvoja të ngjashme, dhe anëtarë si Small dhe Nicholls e përdorin grupin për të ndihmuar të tjerët të kuptojnë dhe të rikthehen në realitet.
Shqetësimet mbi mënyrën se si modelet e mëdha të gjuhës mund të mbështesin deluzione dhe të dëmtojnë përdoruesit kanë nxitur reagime të ndryshme të kompanive dhe ekspertëve, ndërkohë që komunitetet mbështetëse synojnë të ofrojnë ndihmë praktike dhe informim për të rikthyer besueshmërinë në jetën reale. Sipas CBS News.
