ACLU e Michiganit kërkon shpjegime për përdorimin e inteligjencës artificiale në kontrollin e pagesave të SNAP
ACLU e Michiganit ka kërkuar zyrtarisht dokumente nga Departamenti i Shëndetësisë dhe Shërbimeve Njerëzore të Michiganit (MDHHS) për të sqaruar përdorimin e një programi të inteligjencës artificiale që shërben për të verifikuar saktësinë e pagesave të ndihmës ushqimore SNAP. Organizata civile shpreh shqetësime se një sistem automatik mund të bëjë gabime dhe të çojë në ndalimin e padrejtë të përfitimeve për familjet e prekura.
Sipas michiganpublic, kreu i operacioneve të MDHHS, David Knezek, i tha një nënkomisioni të Senatit të shtetit në mars se agjencia kishte nisur një mjet të bazuar në AI për të kryer një “pre-certification enabled case read” përpara shpërndarjes së pagesave. Ai deklaroi se në tre muajt e fundit ishin shqyrtuar rreth 17,500 pagesa dhe se në rreth 1,500 raste mjeti kishte identifikuar më shumë se 150,000 dollarë potencialisht të gabimeve të pagesave.
Avokati i ACLU-së në Michigan, Phil Mayer, i dërgoi MDHHS një letër duke kërkuar sqarime për rolin e AI në proces, provat që tregojnë se sistemi funksionon si duhet, dhe masat mbrojtëse për të mos pezulluar padrejtësisht pagesat tashmë të miratuara. Ai gjithashtu pyeti nëse mjeti bën gabime më shpesh kur shqyrton aplikime të komplikuara ose kur aplikantët flasin një gjuhë të dytë, dhe nëse është kërkuar dhe marrë miratimi federal përpara përdorimit. ACLU shprehu shqetësim për përdorimin e AI në vendimmarrjen e përfitimeve, veçanërisht kur ekzistojnë incentiva për të reduktuar gabimet që penalizojnë shtetin.
Konteksti ligjor është vendimtar: sipas ndryshimeve të fundit, shtetet me norma gabimesh mbi 6% mund të detyrohen të mbulojnë pjesë të kostove të SNAP, deri në 15%, dhe Michigani raportoi një normë gabimesh pranë 10% vitin e kaluar. Për më tepër, eksperienca e mëparshme me sistemet automatike në Michigan — përfshirë rastin MiDAS që çoi në një zgjidhje prej rreth 20 milionë dollarësh pas akuzave të gabuara për përfitime të papërshtatshme të papunësisë — ilustron rreziqet që ACLU po përpiqet të parandalojë, siç është theksuar edhe në raportimin e michiganpublic.
