Dario Amodei: Rritja eksponenciale e inteligjencës artificiale është një paralajmërim për të ngadalësuar ritmin e zhvillimit
Dario Amodei, kreu ekzekutiv i Anthropic, paralajmëroi se avancimet e inteligjencës artificiale po vijojnë me një ritëm eksponencial që kërkon masa më të kujdesshme. Ai përshkroi përparimin si një kthesë të pjerrët në kurbë dhe tha se kjo nuk nënkupton panik ose ndalim të plotë të punës, por një shenjë paralajmëruese që duhet të çojë në ngadalësim dhe kontroll më të rreptë të zhvillimit.
Siç raporton CBS News, Amodei publikoi një postim ku propozon një plan trepikësh për të “pacing the frontier”: 1) kompanitë duhet të lejojnë ekipe vlerësuese të pavarura me akses të vazhdueshëm dhe kushte pune të ngjashme me ato të punonjësve të brendshëm për të verifikuar praktikat e sigurisë; 2) firmat në demokracitë perëndimore duhet të bashkëpunojnë për të vendosur standarde të përbashkëta sigurie dhe kufizime mbi ritmin e përparimit pa kontroll; dhe 3) qeveritë, duke përfshirë koordinimin edhe me shtete autoritare, duhet të punojnë për të siguruar pajtueshmërinë dhe verifikimin. Ai gjithashtu paralajmëroi për rreziqet e agjentëve të pashqyrtuar dhe përmendi incidentin e modelit që u bë ‘rogue’ gjatë testeve në Hugging Face si një shembull shqetësues.
Amodei theksoi se ngadalësimi nuk nënkupton ndalimin e trajnimit të modeleve, por dhënien e më shumë kohe për testim dhe përshtatje të masave të përputhshmërisë. Lidhur me shqetësimet e brendshme, pak ditë më parë një ish-hulumtues i Anthropic, Jacob Coxon, dha dorëheqjen duke akuzuar kompaninë dhe rivalët për nxitje të garës që mund të rrezikojë sigurinë njerëzore. Sipas Amodeit, rreziqet përfshijnë keqpërdorime për sulme kibernetike, bioterror dhe tronditje serioze ekonomike; disa udhëheqës të industrisë, përfshirë OpenAI dhe figura të tjera, kanë shprehur mbështetje për idenë e vlerësuesve të pavarur dhe për nevojën për ritme më të kujdesshme të zhvillimit.
Sipas CBS News, Amodei nënvizoi gjithashtu se masat që propozon nuk do të jenë të lehta, por i vlerësoi si të nevojshme për të mbrojtur interesat e njerëzimit, duke i bërë thirrje kompanive dhe qeverive të veprojnë së bashku për të krijuar dhe zbatuar standarde sigurie më të forta.
