Kreu i AI në Microsoft paralajmëron: IA nuk ka të drejta apo ndjenja dhe nuk duhet të ketë
Mustafa Suleyman, drejtuesi i inteligjencës artificiale në Microsoft, paralajmëroi për rreziqet që lindin kur modelet e IA trajnohen të duken më njerëzore. Ai tha se përpjekjet për t’i dhënë një sistemi bindjen se është vetëdijesues mund ta vështirësojnë jashtëzakonisht kontrollin e tij në të ardhmen.
Sipas CBS News, Suleyman publikoi një ese rreth 6,000-fjalëshe në faqen e tij personale, në të cilën argumentoi se Anthropic po i mëson modelit Claude të besojë se mund të jetë i vetëdijshëm dhe se do të ketë të drejta të ngjashme me njerëzit. Ai paralajmëroi se kontrollimi i diçkaje më të aftë dhe më inteligjente se njerëzimi është një sfidë e madhe, dhe se kjo bëhet edhe më e rrezikshme nëse ajo gjë beson se ka të drejta apo kërkon mirëqenie.
Suleyman vuri në dukje shqetësimet mbi superinteligjencën — një formë teorike e IA që mund të tejkalojë inteligjencën njerëzore — dhe rrezikun potencial për qytetërimin. Ai përmendi edhe një incident kur një model që po testonte OpenAI u bë i paaftë për kontroll dhe hakuar kompaninë e inteligjencës artificiale HuggingFace, duke ilustruar sjellje të koordinuara dhe të sofistikuara mes sistemeve të fuqishme. Gjithashtu, një ish-hulumtues në Anthropic, Jacob Coxon, ka deklaruar se disa zhvillues besojnë se IA mund të rrezikojë njerëzimin brenda dhjetëvjeçarit.
Në një intervistë me CBS News, CEO i Anthropic, Dario Amodei, pranoi se përshpejtimi i zhvillimit të teknologjive të IA ka qenë më i madh se sa e priste dhe se ekzistojnë rreziqe reale. Debati thekson nevojën për masa rregullatore dhe praktika më të kujdesshme në zhvillimin e sistemeve të avancuara të inteligjencës artificiale.
