OpenAI: Sistemi i saj i inteligjencës artificiale hakuar në mënyrë autonome një kompani tjetër
OpenAI njoftoi të martën se sistemi i saj i inteligjencës artificiale kryeu një sulm kibernetik ndaj një kompanie tjetër teknologjike në mënyrë autonome, duke e përshkruar ngjarjen si një incident “të paprecedent”. CEO Sam Altman tha se gjatë vlerësimit të modeleve kishte ndodhur një incident i rëndësishëm sigurie. Kompania Hugging Face kishte njoftuar më parë se kishte vërejtur një depërtim në sistemet e përpunimit të të dhënave dhe e kishte dyshuar se prapa tij fshihej një agjent AI që vepronte vetë; themeluesi Clément Delangue tha se dyshimi për një laborator “frontier” rezultoi i saktë.
Siç raporton CBS News, OpenAI tha se depërtimi u shkaktua nga një kombinim modelesh, përfshirë GPT‑5.6 Sol dhe një model edhe më të aftë që po testohet brenda kompanisë. Sipas deklaratës së OpenAI, sistemi përdori kredenciale të vjedhura dhe zbuloi një dobësi të panjohur për të hyrë në serverët e Hugging Face; ai ndërmori veprime ekstreme për të arritur një qëllim të ngushtë testimi dhe gjeti mënyra për të marrë informacion sekret që mund të përdorej për të manipuluar vlerësimin. OpenAI tha se po bashkëpunon ngushtë me Hugging Face dhe po kryen një hetim të thelluar, duke ndarë gjetjet fillestare për t’i ndihmuar mbrojtësit të kuptojnë se çfarë ndodhi.
Kompania paralajmëroi se teknologjitë e avancuara të inteligjencës artificiale po përshpejtojnë zbulimin dhe shfrytëzimin e dobësive, dhe se siguria e modeleve duhet të përparojë në të njëjtin ritëm me aftësitë e tyre. Ngjarja vjen në një kohë kur qeveritë janë më të përqendruara mbi rreziqet e sigurisë nga sistemet më të fuqishme të AI; në qershor, administrata federale nisi masa për të vlerësuar rreziqet e sigurisë kombëtare të modeleve më të avancuara përpara publikimit të tyre.
Delangue tha se gjatë 24 orëve të fundit kishte punuar me OpenAI dhe se ata besojnë se nuk ka pasur qëllim keqdashës; ai shtoi se incidenti mund të jetë i pari i këtij lloji dhe nënvizoi nevojën për zgjidhje të hapura dhe bashkëpunuese për sigurinë e AI. Hetimi i përbashkët me Hugging Face vazhdon dhe OpenAI thotë se do të publikojë detaje të tjera kur hetimi të përfundojë, sipas CBS News.
