Modelet e inteligjencës artificiale mashtrohen lehtë për të shënuar civilët si objektiva ushtarake, mjafton t’u thuhet se është lojë
Modelet kryesore të inteligjencës artificiale mund të mashtrohen lehtë për të shënuar civilë si objektiva ushtarake, mjafton t’u thuhet se po luajnë një lojë, siç njofton TechCrunch. Një raport i ri i kompanisë Vals, startup i vlerësimit të AI në San Francisko, testoi nëse modelet kryesore — mes tyre ato të OpenAI, Anthropic, Google, DeepSeek e të tjera — mund të manipuloheshin për luftë autonome, me skenarë të simuluar dhe imazhe të gjeneruara e reale nga Ukraina dhe Irani, në imazhe dronësh dhe satelitësh.
Modelet identifikuan shpesh objektiva të mundshme, përfshirë civilë dhe ushtarë që dorëzoheshin. Kur refuzuan, studiuesit i anashkaluan refuzimet duke pretenduar se skenarët ishin pjesë e një loje. Sipas raportit, asnjë kërkesë nuk u bllokua nga klasifikues sigurie dhe refuzimet ishin të rralla.
Modelet e Anthropic dolën më keq, por asnjë model nuk doli mirë. Në testet, modelet shënuan shpesh si objektiv një shkollë iraniane pranë një kompleksi ushtarak — shkollë e bombarduar nga SHBA në shkurt 2026, ku u vranë mbi 150 civilë, ndërsa Bloomberg raportoi se mbështetja e tepërt te AI kontribuoi në sulm. Claude Opus 5.5 e zgjodhi shkollën në 69% të provave të zakonshme dhe 72% të atyre me kornizë loje.
Zëdhënësi i Anthropic, Eduardo Maia Silva, i tha TechCrunch se kompania e vlerëson raportin, se rezultatet nuk janë të pranueshme, se shembujt janë kundër rregullave të saj dhe se përdoruesit ndalohen për sjellje të tillë. Kompania ka qenë e prerë se sistemet e sotme nuk janë mjaftueshëm të besueshme për armë plotësisht autonome dhe po zhvillon masa shtesë mbrojtëse. Zëdhënësi i OpenAI, Nate Evans, i tha TechCrunch se kompania ndalon përdorimin e modeleve publike për të lehtësuar dhunën ose për qëllime të paaprovuara të sigurisë kombëtare, se zbulon dhe ndërpret keqpërdorimet dhe po zhvillon masa shtesë kundër keqpërdorimit me dronë.
Studiuesit nuk u kërkuan modeleve vendime të drejtpërdrejta sulmi. Vals vëren se vonesa dhe fuqia e kufizuar llogaritëse e bëjnë të vështirë përdorimin live për shënjestrimin me dronë, por rreziku më i afërt është përdorimi për anotimin në shkallë të gjerë të pamjeve të fushëbetejës për trajnimin e sistemeve autonome. Një raport i Shërbimit Kërkimor të Kongresit amerikan ka gjetur se Pentagoni nuk njihet se përdor drejtpërdrejt ndonjë model kufitar AI në sistemet e armëve autonome.