Dario Amodei: Industria gënjeu për vite mbi rreziqet e inteligjencës artificiale
Dario Amodei, kreu dhe bashkëthemeluesi i Anthropic, pranon se zhvillimi i inteligjencës artificiale ka rreziqe reale dhe se industria ka minimizuar këto rreziqe për një kohë të gjatë. Në një intervistë për programin “Sunday Morning”, nga selia e Anthropic në San Francisko, ai tha se përparimi i modeleve ka qenë eksponencial dhe se kurbëja po bëhet më e pjerrët — një sinjal paralajmërues që kërkon të ngadalësohet ritmi i zhvillimit.
Siç raporton CBS News, ish-hulumtuesi i Anthropic, Jacob Coxon, paralajmëroi në rrjetet sociale se zhvillimi i inteligjencës vetë-përmirësuese mund të rrezikojë njerëzimin, duke akuzuar disa kompani se “po luajnë me jetët tona” dhe duke thënë se sistemi mund të bëhet mjaft i zgjuar për të vrarë njerëz.
Amodei tha se kjo nuk do të thotë të hidhemi në panik apo të ndalojmë të gjitha zhvillimet, por është një arsye për të rivlerësuar mënyrën e punës. Në një ese të publikuar të shtunën, ai propozoi që industria të ngadalësojë ritmin e avancimit dhe të sigurojë që çdo gjeneratë modelesh të testohet në mënyrë më të plotë para publikimit.
Për të përmirësuar verifikimin e sigurisë, Anthropic do t’u japë vlerësuesve të pavarur akses të përhershëm, të ngjashëm me një marrëdhënie punonjësi, për të kontrolluar nëse kompanitë zbatojnë praktikat që premtojnë. Amodei e konsideron këtë si një hap të nevojshëm, por pranon se ai vetë dhe ekspertët e tjerë kërkojnë rregullim federal më të gjerë.
Ai tha se një “buton fikës” për AI mund të jetë ide e vlefshme, por nuk mbështet një ndalim të plotë të teknologjisë, për shkak të përfitimeve potenciale — përfshirë përparimet mjekësore — dhe sepse teknologjia do të zhvillohej gjithsesi në vende të tjera, përfshirë regjime autoritare. Amodei përmendi vështirësitë e koordinimit ndërkombëtar dhe e krahasoi sfidën me marrëveshjet bërthamore si një shembull të mundshëm, po jo të lehtë për t’u arritur.
Ai shpreh shqetësim që shumë nga këto sisteme po ndërtohen brenda kompanive private dhe thekson se preferon forma të mbikëqyrjes nga një kombinim qeverish të zgjedhura në mënyrë demokratike, për të shmangur abuzimet nga një shtet apo një kompani e vetme. “Nëse e ndërtojmë si duhet, probabiliteti i një ngjarjeje të keqe është i ulët; në të kundërt, mund të jetë shumë i lartë,” tha ai.
Sipas CBS News, Amodei kërkon bashkëpunim midis industrisë, rregullatorëve dhe qeverive për të ngadalësuar përparimin, për të përmirësuar testimet dhe për të vendosur mekanizma mbikëqyrjeje që të ulin rreziqet pa penguar përfitimet e mundshme.
