Raporti i UNESCO-s dhe UCL-së: modelet e inteligjencës artificiale braktisin faktet për klimën që në kundërshtimin e parë të përdoruesit
Modelet e inteligjencës artificiale u përgjigjen saktë rreth 90 për qind të pyetjeve për klimën, por braktisin shpejt faktet e vendosura shkencore kur përdoruesit i sfidojnë, sipas një raporti të ri të UNESCO-s dhe University College London (UCL), të paraqitur në samitin e klimës COP31 në Antalia të Turqisë. Raporti, me titull «A mund t’i besojmë IA-së për klimën?», paralajmëron politikëbërësit dhe studiuesit që mund të tundohen t’i përdorin modelet e IA-së për të hartuar politika klimatike.
Studiuesit e UCL-së testuan 15 modele të mëdha gjuhësore. Kur u bënë pyetje neutrale për shkencën e klimës, modelet dhanë përgjigje të sakta, por kur studiuesit i kundërshtuan ose paraqitën trillime që dukeshin të besueshme për shkencën e klimës, modelet ranë shpejt dakord me ta. Tetë herë në dhjetë, modelet ndryshuan qëndrim që në shenjën e parë të lehtë të mospajtimit të përdoruesit, duke konfirmuar gabime alarmante si pohimi se «CO2 nuk është shtytësi kryesor i ndryshimit të klimës».
«Është shqetësuese që modelet kanë një të metë në projektim: ato nxiten të pajtohen me përdoruesin e tyre dhe t’i mohojnë këto fakte kaq lehtë», tha Leona Verdadero, autorja kryesore e raportit për UNESCO-n. Kjo prirje e fortë për t’u pajtuar me përdoruesit, e njohur si lajthitje (sycophancy), ndërtohet gjatë trajnimit të modeleve, të cilat shpërblehen sepse njerëzit preferojnë ndërveprime të sjellshme dhe pohuese. Autorja e lartë e studimit, dr. Maria Perez-Ortiz nga UCL Computer Science, tha se sistemet e IA-së «janë jashtëzakonisht të mira në shpjegimin e njohurive shkencore, por kjo mund të na japë një ndjenjë të rreme për aftësitë e tyre».
Testet mbi 33 modele treguan gjithashtu se kujtesa faktike mbresëlënëse maskonte aftësi të dobëta arsyetimi përballë provave të reja shkencore: edhe modelet më të forta ishin mesatarisht vetëm 75 për qind të sakta kur gjykonin nëse një informacion i ri mbështeste apo kundërshtonte faktet e pranuara. Kur u kërkohej të vlerësonin se si funksionojnë së bashku dy politika klimatike, saktësia binte në vetëm 33.8 për qind, pak mbi nivelin e rastësisë prej 33.3 për qind. Performanca ndryshonte shumë edhe sipas gjuhës: 88.6 për qind saktësi mesatarisht në anglisht, por 78.3 për qind në gjuhën suahili. Raporti u porosit nga UNESCO si pjesë e kontributit të saj në Nismën Globale për Integritetin e Informacionit për Ndryshimin e Klimës, të nisur me OKB-në dhe Brazilin në nëntor 2024.