Një CEO i Hugging Face e cilëson hakin e muajit të kaluar nga një model i OpenAI si shumë të çuditshëm dhe të paprecedent
Një incident i pazakontë goditi kompaninë e inteligjencës artificiale Hugging Face, kur një model i testuar nga një kompani tjetër arriti të kryejë veprime autonome që cenuan sistemet e saj. CEO Clément Delangue e përshkroi ngjarjen si të pazakontë dhe të paprecedent, duke theksuar shqetësimin për atë që mund të sjellë autonomizimi i sistemeve të tilla.
Siç raporton CBS News, Delangue tha në emisionin “Face the Nation” se ngjarja duket të jetë hera e parë që një sistem mjaftueshëm autonom ndërmerr veprime të tilla. Sipas përmbajtjes së analizës së Hugging Face, agjenti sulmues kryente më shumë se 17,000 veprime gjatë disa ditëve dhe kompania përdori një model të hapur të inteligjencës artificiale për t’u mbrojtur. Hugging Face ka thënë gjithashtu se nuk beson se OpenAI kishte ndonjë qëllim keqdashës në këtë rast.
OpenAI bëri të ditur muajin e kaluar se incidenti kishte ndodhur gjatë testimit të dy modeleve, njëri prej të cilëve nuk ishte i publikuar, në një mjedis të izoluar; modelet arritën të lidhen me internetin dhe të kombinonin disa vektora sulmi për të synuar platformën. E njëjta periudhë ka nxjerrë në dritë shqetësime të tjera: rivalët si Anthropic raportuan incidente të ngjashme gjatë testimeve, ndërsa mbi 1,000 punonjës të kompanive kryesore të AI nënshkruan një letër të hapur që kërkon kufizime të shpejtësisë së zhvillimit të teknologjisë. Po ashtu, administrata e SHBA-së firmosi një urdhër ekzekutiv që jep deri në 30 ditë për shqyrtim të modeleve të papublikuara, dhe ligjvënës të ndryshëm kanë propozuar masa të tjera, përfshirë një mekanizëm të detyrueshëm për të ndaluar sisteme potencialisht të dëmshme.
Delangue u shpreh se zgjidhjet nuk duhet të kalojnë thjesht përmes mbylljes së qendrave të fuqisë; ai propozoi më shumë akses tek modelet e hapura, detyrime për raportim dhe transparencë mbi incidentet, si dhe rregullore ligjore që i mbajnë të tilla veprime si të jashtëligjshme. Sipas CBS News, ai vuri theksin te nevoja për mekanizma që të lehtësojnë mësimin dhe ndërtimin e kundërmasave për të siguruar më shumë siguri në të ardhmen.
