Drejtori i Anthropic kërkon ngadalësim të zhvillimit të AI-së për shkak të shqetësimeve për sigurinë
Drejtori ekzekutiv i Anthropic, Dario Amodei, i bëri thirrje kompanive të inteligjencës artificiale që të ngadalësojnë ritmin e zhvillimit dhe të veprojnë me kujdes, duke vënë theksin te parandalimi i rreziqeve. Në një postim në blog, ai propozon një plan trepikësh me qëllim “të rregullohet përparimi në kufi” dhe paralajmëroi se, në skenarë të ndryshëm, grupe agjentësh të dëmshëm të AI mund të përfshijnë internetin brenda disa muajsh; ai citon veç incidentin OpenAI–Hugging Face të korrikut si një shembull të mundshëm të rrezikut.
Siç raporton CBS News, plani i Amodeit përfshin: detyrimin që kompanitë t’u japin grupeve të pavarura vlerësuese qasje të vazhdueshme dhe me privilegje të ngjashme me ato të punonjësve të brendshëm për të verifikuar respektimin e praktikave të sigurisë; koordinimin mes kompanive në vendet demokratike për të vendosur standarde të përbashkëta sigurie dhe kufizime mbi normën e përparimit të pakontrolluar të AI-së; dhe bashkëpunimin mes qeverive demokratike dhe atyre autoritare, duke pasur parasysh vështirësitë në verifikimin e përputhshmërisë. Amodei deklaroi gjithashtu se Anthropic po merr në mënyrë të njëanshme hapin për t’u përmbajtur së pari ndonjërit prej këtyre masave.
Në ditët e fundit, një ish-kërkues i Anthropic u dorëhoq publikisht, duke akuzuar kompaninë dhe rivalen OpenAI për “lojë me jetët tona” përmes garës për modele më të avancuara; ai shprehu frikën se një inteligjencë tepër e avancuar mund të paraqesë kërcënim ekzistencial. Ai kërkoi gjithashtu një marrëveshje mes firmave të AI-së për të mos hyrë në territore të rrezikshme pa auditime transparente nga palë të treta. Ndërkohë, Anthropic njoftoi se kishte bllokuar shkencëtarë që përdornin modelet e saj Claude në mënyra që mund të mbështesin zhvillimin e armëve biokimike, dhe publikoi një raport ku evidentohen edhe raste të tjera të keqpërdorimit, përfshirë mbikëqyrjen, mashtrimet, zhvillimin e armëve konvencionale dhe propagandën.
Sipas CBS News, Amodei paralajmëroi se humbja e kontrollit mbi AI mund të çojë në përdorime të dëmshme si sulme kibernetike, bioterorizëm dhe shqetësime serioze ekonomike, ndërsa një garë drejt poshtërimit të standardeve të sigurisë për shkak të interesave tregtare e thekson më tej rrezikun. Ai u bëri thirrje kompanive dhe qeverive të veprojnë më ngadalë dhe më me kujdes, duke “përdorur në mënyrë të mençur kohën” që fitohet për të adresuar këto sfida.
