Anthropic prezanton FlashProve, sistemin që vërteton se përgjigjen e dha modeli i premtuar i AI

Anthropic po punon për një sistem me burim të hapur që vërteton se cili model i inteligjencës artificiale e prodhoi një përgjigje të caktuar, sipas një postimi kërkimor të publikuar të martën, siç njofton TechCrunch. Sistemi, i quajtur FlashProve, ofron atë që kërkuesit e quajnë “inferencë të provueshme”: një provë kriptografike, pra një garanci matematikore, se përgjigjja erdhi pikërisht nga modeli i premtuar.

Ideja i ngjan nënshkrimeve kriptografike të postës elektronike, që i lejojnë marrësit të konfirmojë se mesazhi erdhi vërtet nga dërguesi i deklaruar. Sipas kërkuesve, FlashProve do t’i rezistonte edhe mashtruesve që përpiqen ta paraqesin një model si një tjetër, përfshirë vetë laboratorin që e ndërtoi modelin; sistemi mund ta ndalojë, për shembull, një kompani AI që ta zëvendësojë fshehurazi modelin me një version më të lirë për të ulur kostot, ose me një më të shtrenjtë për t’i fryrë rezultatet e performancës.

Për të funksionuar, sistemi u kërkon laboratorëve të publikojnë një “gjurmë gishti” të çdo modeli që nxjerrin, e cila më pas mund të krahasohet kriptografikisht me përgjigjet konkrete. Gjurmët nuk i zbulojnë peshat e modelit — numrat e brendshëm që përcaktojnë sjelljen e tij dhe që kompanitë si Anthropic dhe OpenAI i mbajnë sekret — ndaj sistemi mund të përdoret edhe me modelet tregtare, ndërsa verifikimi është projektuar të bëhet lehtë, edhe në një pajisje lokale.

Bashkë me njoftimin, kërkuesit publikuan specifikimin teknik të detajuar dhe kodin funksionues të sistemit me licencë me burim të hapur në GitHub. Megjithatë, siç thekson TechCrunch, kërkimi është ende në vazhdim dhe nuk ka plane që FlashProve të vendoset në përdorim te Anthropic apo te ndonjë laborator tjetër; “ky postim kërkimor synon të ndajë progresin e ndërmjetëm, jo një axhendë kërkimore të përfunduar”, shprehen kërkuesit.