Një burrë nga Florida padit pas arrestimit të gabuar të bazuar në identifikimin me AI të fytyrës
Një burrë nga Florida, Richard Dillon, ka ngritur padi pas një arrestimi të vitit 2023, kur autoritetet e lidhën me një përpjekje për të tërhequr një të mitur në një McDonald’s në Jacksonville Beach. Dillon thotë se në kohën e ngjarjes ishte më shumë se 300 milje larg dhe se prova kryesore e përdorur për të hedhur poshtë alibinë e tij ishte një përputhje e identitetit e nxjerrë nga një program i njohjes së fytyrës.
Siç raporton CBS News, Dillon u shpall i pafajshëm më vonë dhe është bërë pala paditëse në një padi të përpiluar nga ACLU, e cila akuzon Departamentin e Policisë së Jacksonville Beach dhe të tjerë për përdorim të keq të teknologjisë së përputhjes së imazheve me ndihmën e inteligjencës artificiale. Nathan Freed Wessler, zëvendësdrejtor i Projektit për Fjalën, Privatësinë dhe Teknologjinë në ACLU, paralajmëron se shpesh shfaqet keqkuptimi midis një ‘përputhjeje’ të sugjeruar nga softueri dhe një konfirmimi të palëkundur; prodhuesit e teknologjisë tregojnë se këto sisteme prodhojnë lista kandidatësh dhe jo prova të pakundërshtueshme. Raportohet gjithashtu se databazat publike përmbajnë imazhe të qindra miliona amerikanëve, duke e bërë përdorimin e kësaj teknologjie një çështje me pasoja të gjera.
Rasti nis në nëntor 2023, kur policia thotë se një burrë iu afrua një vajze 12-vjeçare në McDonald’s dhe përpiqej ta tërhiqte larg prindërve. Më vonë Dillon pretendon se mori një telefonatë nga oficeri Scott O’Connell, i cili e akuzoi disa herë për krimin që ai thotë se nuk e kishte kryer. Gjatë komunikimit ai përmendi shenjat dalluese në fytyrë, shenja nga një operacion i kancerit të lëkurës, dhe kur pa fotografitë përkrahuhet biseda, u habit nga ndryshimet e dukshme ndërmjet tij dhe imazhit të dyshuarit.
Pas telefonatës, Dillon kontaktoi stacionin e policisë ku jeton, pasi u shqetësua se mund të ishte viktimë mashtrimi; sipas tij, zyrtarët vendas e këshilluan se thirrja ishte kundër protokollit dhe e përshkruan si një mashtrim të keq. Tetë muaj më vonë, një zëvendës-sherif i Qarkut Lee e arrestoi në shtëpinë e tij. Ai qëndroi një natë në paraburgim, ishte i detyruar të huazonte para dhe të jepte si garanci titullin e kamionit për të paguar qiranë, ndërsa akuzat u hoqën rreth dy muaj më pas. Pas përjetimit, Dillon thotë se ka vështirësi të rikthejë kontaktet normale me fëmijët, pasi ndjen stigmatizim dhe frikë se njerëzit mund ta njohin nga lajmet.
Sipas CBS News, sistemi i identifikimit që përdorën autoritetet quhet Face Analysis Comparison and Examination System (FACESNXT). Padi pretendon se oficeri David Cohill bëri foto me celular nga një ekran që shfaqte pamjet e kamerave të sigurisë, dhe ato foto u përpunuan në FACESNXT, që sipas rezultateve tregoi një “përputhje 93%” me Dillonin. Dokumente të trajnimt të sistemit nga viti 2015 paralajmërojnë se kornizimi jashtë-aksit dhe ndriçimi jo uniform mund të japin mostra me cilësi të dobët; padia thotë se imazhet e përdorura ishin pjesërisht të errësuara dhe jashtë-aksit. Dillon shpreh shpresën që çështja e tij të vendosë kufij mbi përdorimin e teknologjisë së tillë dhe të parandalojë që të tjerë të përjetojnë trauma të ngjashme.
