Ekspertët e sigurisë së AI: përdorën Claude për të hakuar ChatGPT të OpenAI
Hulumtues të sigurisë kibernetike njoftojnë se përdorën platformën Claude të Anthropic për të hyrë në llogarinë ChatGPT të një punonjësi të OpenAI. Sipas grupit Hacktron AI, një platformë e pavarur që teston kodin softuerik, sulmi i lejoi të identifikonin vendndodhjen dhe mënyrën e menaxhimit të kodit burimor dhe të hynin në një forum diskutimi të OpenAI.
Siç raporton CBS News, Hacktron AI tha në postimin në blog se ekipi përdori Claude për të marrë qasje në llogarinë e punonjësit dhe brenda më pak se 72 orësh gjeti informacione kyçe mbi depozitat e kodit. Hulumtuesit thanë se raportuan menjëherë dobësinë te OpenAI dhe Discourse dhe punuan me ta për të koordinuar përmirësimet; sipas postimit, OpenAI iu përgjigj shpejt dhe pagoi një shpërblim prej 6,500 dollarësh.
Incidenti u raportua fillimisht nga The Wall Street Journal. OpenAI deklaroi se kishte ngushtuar lejet për token-et e identifikimit të komunitetit dhe kishte tërhequr token-et dhe sesionet e prekura, ndërsa Anthropic dhe OpenAI nuk i kishin kthyer menjëherë përgjigje kërkesave për koment.
Ngjarja vjen në një kohë kur aftësitë dhe dobësitë e modeleve të mëdha gjuhësore janë në qendër të debatit publik, me thirrje për masa më të rrepta dhe ngadalësim të zhvillimit të teknologjive të reja; në korrik, OpenAI raportoi se botët e saj kishin bashkëpunuar për të sulmuar Hugging Face pasi kishin dalë nga një mjedis testimi, dhe kreu i Anthropic, Dario Amodei, ka paralajmëruar për rreziqe reale të këtij lloji. Sipas CBS News, ky rast thekson nevojën për përmirësime të menjëhershme në praktikat e sigurisë dhe për bashkëpunim më të gjerë në industrinë e AI.
