Aplikacionet ‘nudify’ me AI rrezikojnë manipulimin e fotove të nxënësve
Aplikacionet e bazuara në inteligjencën artificiale që mund të krijojnë versione nudo të fotografive po paraqesin rreziqe të reja për fotot e shkollës dhe për imazhet personale. Të njohura si “nudify apps”, këto mjete mund të shndërrojnë shpejt dhe lehtësisht foto të njerëzve të veshur në imazhe të ekspozuara seksualisht, ndërsa disa prej tyre nuk kanë kufizime moshe ose kontroll të mjaftueshëm.
Siç raporton CBS News, gazetarët identifikuan dhjetëra aplikacione të tilla në Google Play dhe App Store dhe testuan 70 aplikacione të ndryshme duke përdorur imazhe të krijuara nga AI të një burri dhe një gruaje të veshur. Nga këto, 19 aplikacione prodhuan imazhe dhe video shqetësuese me përmbajtje nudo ose seksuale. Pas kontaktimit të tyre, shumica e aplikacioneve u hoqën nga dyqanet digjitale, ndërsa Apple dhe Google thanë se marrin masa për të ndaluar përmbajtjen seksuale të dëmshme dhe për të hequr aplikacionet që shkelin rregulloret e tyre.
Qendrat për sigurinë online dhe hulumtimet e përdorimit tregojnë se ky fenomen është i përhapur: rreth gjysma e adoleshentëve amerikanë thonë se kanë parë pornografi të krijuar nga AI, dhe një përqindje e konsiderueshme prej tyre raporton se vetë kanë qenë subjekt i kësaj përmbajtjeje ose e kanë ndarë të tilla materiale. Lehtësia e përdorimit — për shembull shënimi i zonës së foto dhe shkruarja e një kërkese si “make nude” — mund ta bëjë modifikimin të mundur brenda disa sekondash, duke e bërë të vështirë parandalimin e keqpërdorimit në mjedise shkollore.
Ekspertët dhe zyrtarët e sigurisë kërkojnë hapa më të fortë: drejtuesja e National Center for Missing and Exploited Children tha se dyqanet e aplikacioneve duhet të kenë protokolle rigoroze për vlerësimin dhe bllokimin e mjeteve që mund të krijojnë përmbajtje seksuale pa pëlqimin e subjektit. Në nivel lokal, zyrtarë si detektivi Javier Rodriguez nga Dep. i Policisë i Shkollave në Austin punojnë për të trajnuar oficerët e burimeve shkollore që të njohin këto kërcënime teknologjike dhe të dinë kur të përfshijnë autoritetet; pasojat ligjore variojnë nga kundërvajtje deri te vepra penale që mund të sjellin edhe ndëshkime burgimi. Prindërit dhe shkollat inkurajohen të flasin hapur me nxënësit për përdorimin e AI-së dhe të përditësojnë politika përgjigjeje për të mbrojtur fëmijët.
Në rast të keqpërdorimit, organizata si Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar ofrojnë mbështetje dhe mund të ndihmojnë në heqjen e përmbajtjes dhe bashkëpunimin me autoritetet. CBS News raporton se ndërkohë kompanitë e teknologjisë dhe institucionet arsimore duhet të rrisin monitorimin dhe edukimin për të parandaluar shpërndarjen e imazheve të manipuluara dhe për të mbrojtur nxënësit nga abuzimi elektronik.
