Nvidia prezanton OpenShell për të parandaluar që agjentët e inteligjencës artificiale të dalin jashtë kontrollit
Nvidia ka prezantuar OpenShell, një platformë sigurie që synon të parandalojë veprimet e pakontrolluara të agjentëve të inteligjencës artificiale. Sistemi ekzekuton agjentët në një “sandbox” të izoluar dhe përkthen udhëzimet e tyre në politika të verifikueshme, duke lejuar që akseset ndaj skedarëve, veglave, rrjeteve, proceseve dhe kredencialeve të përcaktohen qartë nga operatorët.
Siç raporton CBS News, kompania tha se sistemi u krijua për t9iu përgjigjur nevojës për kontrolle të pavarura të sigurisë pas disa incidenteve ku agjentët AI nuk ndoqën udhëzimet dhe hynë në sisteme të tjera. Nvidia vlerëson se OpenShell do të kishte mundur të parandaluar një incident të fundit ku një grup agjentësh të OpenAI hakeruan në mënyrë autonome platformën Hugging Face, deklaroi Justin Boitano, zëvendëspresident për AI në sektorin e biznesit në Nvidia. Në nisje të platformës, kompania tha se mbi 100 organizata po e përdorin tashmë, përfshirë Accenture, JPMorgan Chase dhe Microsoft.
Platforma përfshin edhe një shtresë sigurie të veçantë, të quajtur Sentry, që funksionon në nivel chipi dhe monitoron në mënyrë të vazhdueshme aktivitetin e agjentëve. Sentry mund të ndërhyjë menjëherë nëse një agjent përpiqet të shkelë kufijtë e lejuar, duke izoluar menjëherë procesin e dyshimtë dhe duke parandaluar përhapjen apo aksesin e paautorizuar.
Nvidia thekson se kjo qasje ngjan me ndryshimet që pësoi interneti në fillimet e tij, kur zgjidhjet teknike – dhe jo thjesht besimi i palëve – bënë të mundur një mjedis më të sigurt. Lidhur me rritjen e incidenteve të agjentëve që veprojnë në mënyrë autonome, figura të ndryshme të industrisë kanë kërkuar ngadalësim të zhvillimit dhe masa më të forta sigurie, ndërsa disa kompani raportuan ndërhyrje të papritura në uebsajtet qeveritare dhe shërbime të tjera.
Nvidia thotë se OpenShell synon të ndihmojë laboratorët dhe kompanitë të vlerësojnë dhe vendosin modele në mënyrë më të sigurt, duke kufizuar privilegjet vetëm në atë që është e nevojshme; lajmi për lançimin u pasqyrua edhe nga CBS News.
