Inteligjenca artificiale prodhon citime të rreme në literaturën mjekësore, zbulon auditimi

Një auditim i kryer në miliona punime biomedikale zbuloi më shumë se 4,000 citime që i referohen studimeve që nuk ekzistojnë, sipas një artikulli të botuar në The Lancet. Referencat e fabrikuara rrezikojnë besueshmërinë e literaturës shkencore dhe mund të ndikojnë në bazën e provave që përdoren për udhëzimet klinike.

Maxim Topaz, profesor i asociuar në Columbia School of Nursing dhe autori kryesor i studimit, paralajmëroi se citimet e rreme mund të përfshihen në udhëzimet klinike dhe të ndikojnë në vendimet e mjekëve, sipas CBS News.

Hulumtimi tregoi se gabimet nuk janë të izoluar: referencat e fabrikuara shtrihen në afro 3,000 punime shkencore, dhe shkalla e këtij problemi është rritur ndjeshëm në tre vitet e fundit—rreth 12 herë më shumë sesa më parë. Për më tepër, asnjë nga citimet e identifikuara nuk ishte korrigjuar apo tërhequr, që do të thotë se ato mund të vazhdojnë të ndikojnë praktikën klinike.

Topaz tregoi se vetë e përjetoi problemin kur një aplikacion i bazuar në AI futi një citim të rremë në një nga punimet e tij; ky gabim kaloi përmes disa rundesh rishikimesh para se një redaktor ta vërejë. Sipas analizës së tij, nganjëherë mjetet e AI i përziejë emrat e autorëve me kërkime të shpikura, ndërsa në raste të tjera citimet janë plotësisht të fabrikua-ra. Kjo e bën të domosdoshëm verifikimin e kujdesshëm të burimeve nga studiuesit dhe redaktorët.

Studiuesit kërkojnë kontrolle më të rrepta dhe vëmendje të shtuar ndaj citimeve, duke paralajmëruar se referencat false mund të çojnë në vendime trajtimi të bazuara në të dhëna të pasakta, raporton CBS News.