Anthropic ndalon llogaritë që përdornin Claude për aktivitete me potencial armësh biologjike
Compania amerikane Anthropic njoftoi se ka bllokuar përdorues që shfrytëzuan modelet e saj të AI-së Claude në mënyra që mund të lehtësonin zhvillimin e armëve biologjike. Njoftimi u përfshi në një raport të gjatë që dokumenton gjithashtu aktivitete të dëmshme si survejimi, mashtrimet, zhvillimi i armëve konvencionale dhe propaganda.
Sipas CBS News, Anthropic paraqiti pesë raste që sipas kompanisë kishin potencial për të mbështetur keqpërdorime biologjike dhe e përshkroi keqpërdorimin biologjik si një nga rreziqet më serioze nga modelet e avancuara të AI-së. Kompania tha se këto raste japin prova të aftësisë së modeleve, por nuk provojnë në mënyrë konkrete se ky kapacitet do të përdorej patjetër për të zhvilluar armë biologjike në botën reale. Personat e përfshirë janë studiues të punësuar, të cilët Anthropic nuk i identifikoi, dhe nuk pretendon se ata synonin domosdoshmërisht të bëjnë dëm.
Anthropic tha se, pasi zbuloi këto raste, hoqi llogaritë e përdoruesve të përfshirë dhe shfrytëzoi gjetjet e hetimeve për të përmirësuar mekanizmat e mbrojtjes, zbatimit dhe inteligjencës kundër kërcënimeve për modelet e saj kufitare. Modelet më të fundit, si Claude Fable 5, sipas kompanisë përmbajnë masa më të forta mbrojtëse dhe kufizime për pyetje që lidhen me kërkime biologjike me përdorim të dyfishtë, duke pranuar se e njëjta njohuri mund të përdoret për zhvillimin e një vaksine apo për qëllime keqdashëse.
Raporti gjithashtu përshkruan rastet e përdorimit të Claude për operacione ndikimi dhe survejimi. Anthropic hoqi llogari që shfrytëzonin modelin për të krijuar përmbajtje propagandistike dhe për ta shpërndarë atë në rrjete sociale si X, Instagram dhe TikTok; mes këtyre ishin edhe tre llogari të lidhura me institucione propagandistike të Iranit. Në një rast të lidhur me Iranin, aktori përdori Claude për të hartuar rekomandime targetimi kundër forcave detare amerikane dhe për të zhvilluar softuer për një platformë masive survejimi. Gjithashtu u identifikuan përdorime të modelit për operacione survejimi nga aktorë në Kinë dhe Afrikën Perëndimore, përfshirë identifikimin e objektivave dhe zëvendësimin e punës inxhinierike në disa raste.
Anthropic thotë se po i përdor këto zbërthime për të përforcuar masat parandaluse dhe për të ndërprerë aktivitete të tilla në të ardhmen, çka reflektohet edhe në raportin e kompanisë dhe në konfirmimet e dhëna për CBS News.
