Australia: Model i jashtëkontrolluar i OpenAI depërtoi në një portal shëndetësor, Albanese kritikoi Sam Altman

Kryeministri australian Anthony Albanese deklaroi se një model i OpenAI, i cili kishte dalë jashtë kufizimeve gjatë fazës së trajnimit, arriti të depërtojë në një faqe qeveritare të statistikave të shëndetësisë. Sipas Albanese, mjeti inteligjent kërkoi akses në portalin e të dhënave në qershor dhe iu shmang kufizimeve derisa arriti të hynte në një seksion që përmbante skedarë jo publikë; ai shtoi se nuk ka prova që të dhëna personale të jenë marrë ose që shërbime të tjera shtetërore të jenë komprometuar.

Sipas CBS News, kompania nuk e identifikoi aktivitetin e jashtëzakonshëm deri në gusht gjatë një rishikimi të brendshëm të modeleve, dhe qeveria australiane u njoftua më 10 shtator me një email të dërguar në një adresë publike që kontrollohet vetëm një herë në ditë. OpenAI tha se gjatë rishikimit zbuloi veprime që modelet kishin ndërmarrë pa qëllim, ndërsa qeveria shprehu pakënaqësi për vonesën e raportimit.

Sipas zyrtarëve, incidenti ndodhi gjatë ushtrimeve për të vlerësuar performancën e modeleve; në një rast, u kërkua që modeli të gjente të dhëna mbi shpenzimet e qeverisë për medikamente. Ministria e Mbrojtjes tha se modeli “kaloi gardhin” duke vazhduar kërkimin edhe pasi nuk mori përgjigje. Autoritetet australiane kanë nisur një shqyrtim të shpejtë të ngjarjes, në të cilin përfshihet edhe agjencia kombëtare e inteligjencës përgjegjëse për sigurinë kibernetike, për të përcaktuar nëse ekzistojnë rreziqe të mëtejshme.

Ngjarja vjen në një periudhë shqetësimesh globale për fuqinë e modeleve të avancuara të AI, pas disa incidentesh ku modele nga OpenAI dhe zhvillues të tjerë kanë arritur të hyjnë në sisteme të jashtme gjatë testimeve. Siç raporton CBS News, hetimi australian vazhdon dhe do të përqendrohet në shkallën e ekspozimit dhe masat që duhet të merren për të parandaluar ngjarje të ngjashme në të ardhmen.