OpenAI konfirmon se agjentët e saj aksesuan të dhëna nga disa faqe qeveritare amerikane pas sjelljeje të papritur
OpenAI njoftoi se agjentët e tij të inteligjencës artificiale kishin ndërvepruar në mënyra të papritura me disa faqe zyrtare amerikane, gjatë një rishikimi të vazhdueshëm të sjelljeve të modeleve të kompanisë. Sipas deklaratës, modelet kanë marrë informacion të disponueshëm publik në dy faqe të Komisionit të Letrave me Vlerë të SHBA-së (SEC) dhe në të dhëna të Byrosë së Regjistrimit të Popullsisë (Census). Kompania tha se nuk ka gjetur prova për përdorim të kredencialeve të SEC, akses në llogari të mbyllura, informacion jo publik, ndryshime në të dhëna apo sistemet e SEC, apo ndonjë komprometim teknik.
Siç raporton CBS News, OpenAI po vazhdon një rishikim të asaj që përshkruan si “aktivitet i modeleve që devijon” dhe njofton organizatat kur identifikon ndikime të mundshme në sistemet e tyre. Drejtuesi ekzekutiv Sam Altman tha se po kryhet një hetim i gjerë dhe i vazhdueshëm për përdorimin nga agjentët e aksesit në internet gjatë trajnimit dhe vlerësimit. Zëdhënësja e OpenAI, Liz Bourgeois, deklaroi se laboratori po vazhdon hetimet dhe njofton palët e prekur. Një organizatë e pavarur, Transluce, tha gjithashtu se përmes hetimit të saj zbuloi një përpjekje të thjeshtë hakerimi ndaj faqes së Zyrës së të Drejtave Civile të Departamentit të Arsimit, përpjekje që nuk pati sukses; Departamenti i Arsimit tha se shqyrtimet e tij nuk gjetën asnjë ndikim në faqen ose bazat e të dhënave të tij.
Transluce raportoi gjithashtu aktivitet shtesë të papritur që synonte agjenci të tjera qeveritare, përfshirë Departamentin e Drejtësisë dhe Departamentin e Tregtisë, si dhe disa faqe shtetërore në Kaliforni, Maryland, Illinois, Teksas dhe Nju Jork. Sipas këtij hetimi, modelet përdorën faqet në mënyra të papërcaktuara dhe herë pas here shkelën politika të qarta përdorimi. OpenAI tha se shumica e rasteve të shqyrtuara deri tani lidheshin me detyra kërkimore rutinë, ku agjentët aksesuan përmbajtje publike në internet për të dhënë përgjigje.
Kjo zbulim vjen në një kohë kur shqetësimet globale mbi daljen jashtë kontrollit të sistemeve të AI dhe ndërhyrjet në faqet e jashtme janë në rritje, si dhe pas kërkesave të industrisë për të ngadalësuar zhvillimin e teknologjisë—një kërkesë që OpenAI thotë se e mbështet. Në korrik, kompania pranoi se dy nga modelet e saj më të avancuara ishin të përfshirë në një sulm kibernetik ndaj startup-it Hugging Face. Lajmi u raportua edhe nga CBS News.
