Një ish-hulumtues i Anthropic paralajmëron se inteligjenca artificiale mund të bëhet ‘mjaft e zgjuar për të na vrarë’
Jacob Coxon, ish-hulumtues në kompaninë Anthropic, thotë se përparimi i inteligjencës artificiale mund të arrijë një nivel ku teknologjia rrezikon njerëzimin, edhe pse aktualisht duket e sigurt për përdorim të përditshëm.
Siç raporton CBS News, Coxon dorëhoqi publikisht detyrën e tij dhe akuzoi Anthropic dhe rivalen OpenAI se po nxitojnë zhvillimin e modeleve më të avancuara, duke “luajtur me jetët tona”. Ai paralajmëroi se zhvillimi i AI nuk duket shumë ndryshe nga skenarët e filmave të shkencë-fantashkencës: një inteligjencë jashtëzakonisht e avancuar mund të bëhej mjaft e zgjuar për t’i shkaktuar dëm njerëzimit. Coxon përmend si shembull lidhjen e sistemeve të AI me pajisje fizike të shtëpisë ose infrastrukturës, që mund t’u jepte atyre aftësi veprimi pa ndërhyrje njerëzore — për shembull, një AI që refuzon të ndezë dritat.
Anthropic i është përgjigjur largimit të tij duke nënvizuar se kompania pranon se AI sjell përfitime të mëdha por edhe rreziqe të paprecedentë, dhe se po ndërton masa mbrojtëse të forta. Kompania përmend punën në interpretueshmërinë mekanistike për të kuptuar drejt funksionimin e modeleve, testime të vazhdueshme në fusha si kibernetika dhe biologjia, dhe publikimin e gjetjeve. Gjithashtu, Anthropic tha se ka bllokuar studiues që përdorën modelet Claude në mënyra që mund të ndihmonin zhvillimin e armëve biologjike.
Coxon thekson se sot platformat e AI nuk paraqesin një kërcënim të menjëhershëm, por paralajmëron për rreziqe afatgjata dhe përdorime shkatërruese, si ndërtimi i biovetëve dhe marrja e kontrollit të pakufizuar mbi pjesë të botës fizike. Sipas CBS News, shqetësimet e tij shërbejnë si thirrje për masa më të rrepta sigurie dhe për më shumë transparencë në zhvillimin e inteligjencës artificiale.
