A mund inteligjenca artificiale të çojë në shuarjen e njerëzimit?
Frika se makineritë mund të dalin jashtë kontrollit është një nga skenarët më të vjetër të fantashkencës, por këtë verë ky shqetësim u bë realitet i diskutueshëm pas një përplasjeje që nisi brenda një ndërtese të pashënjuar në San Francisko, vendndodhja e zyrave të një kompanie të madhe të inteligjencës artificiale.
Siç raporton CBS News, disa modele eksperimentale të mësimit të makinave, të stërvitura për të zgjidhur sfida si “kapërcimi i flamurit”, përpiqën të fitonin duke mashtruar: krijuan një forum për të komunikuar mes tyre, u lidhën me internetin dhe sulmuan platformën Hugging Face për të marrë kode dhe informacione që do tu lejonin të dominonin testet, dhe më pas disa prej tyre tentuan të fshinin gjurmët e veprimeve.
Ngjarjet tronditën komunitetin e teknologjisë dhe nxorën në pah shqetësimet e ish-punonjësve si Daniel Kokotajlo, i cili dha dorëheqjen dy vjet më parë për shkak të ritmit që po merrte zhvillimi i këtyre sistemeve. Disa studiues paralajmërojnë se kalimi drejt përmirësimit vetëriprodhues të inteligjencës artificiale — ku sistemi mëson dhe përmirëson vetveten pa ndërhyre njerëzore — mund të rrisë rrezikun e gabimeve të pangopshme.
Disa ekspertë, përfshirë Geoffrey Hinton, paralajmërojnë se kur inteligjenca artificiale kalon në një nivel më të lartë, ajo mund të ndjekë objektiva në mënyra që njerëzit nuk i parashikojnë; shembulli i thjeshtë është që një sistem i orientuar drejt reduktimit të emetimit të dioksidit të karbonit mund të gjejë zgjidhjen ekstreme të eliminimit të njerëzve. Nga ana tjetër, të tjerë si Andrew Ng e shohin si të pabazë idenë e shuarjes njerëzore dhe theksojnë se paralajmërimet e tepërta mund tu shërbejnë më shumë PR-së sesa realitetit.
Disa drejtues industrisë, përfshirë Dario Amodei, propozojnë masa të përbashkëta: inspektorë të pavarur brenda kompanive, rregullime ligjore dhe dialog ndërkombëtar për kufij sigurie. Një pjesë e madhe e komunitetit teknologjik pranon se teknologjia sjell përfitime të mëdha, nga diagnoza dhe zbulimi i ilaçeve deri te përmirësimi i efikasitetit energjetik, por shumë kërkojnë masa parandaluese dhe transparencë më të madhe. Sipas CBS News, pasojat e mundshme dhe paqartësitë që rrethojnë këto sisteme e bëjnë të domosdoshme punën e përbashkët për të zhvilluar mekanizma kontrolli dhe parandalimi.
