Flash News

Abusare del riconoscimento facciale

3 maggio 2019 | Scritto da La redazione

Un vuoto normativo permette l’uso inappropriato del software Rekognition di Amazon per identificare sospetti

Rekognition è un software di riconoscimento facciale sviluppato da Amazon che dal 2017 viene usato nella contea di Washington, in Oregon, per aiutare gli agenti nelle indagini. Dei giornalisti del Washington Post hanno osservato per due giorni come questo strumento venisse usato per capire come la tecnologia stava trasformando le operazioni della polizia.

I risultati sono stati spiazzanti, il sistema veniva usato indifferentemente su cadaveri, sospetti svenuti, persone che rifiutavano di farsi identificare e addirittura su identikit. Oltre ai problemi di natura etica a cui può portare il cattivo utilizzo di questa tecnologia, esperti di AI hanno rivelato che gli agenti, utilizzando anche identikit come immagini di riferimento, avrebbero potuto facilmente incappare in falsi positivi o addirittura forzare le indagini.

 

Amazon consiglia di fare affidamento sul software solo quando fornisce una percentuale di accuratezza superiore al 99%, ma, stando a quanto riportato dal giornale, gli agenti non guardavano nemmeno questo valore, semplicemente inserivano nella lista dei sospettati i primi 5 risultati attendibili. Un utilizzo del genere, anche se non dichiaratamente illegale finché i legislatori non inizieranno a regolamentarne l’uso, potrebbe portare i funzionari delle forze dell’ordine ad usare la tecnologia come ritengono opportuno, anche se ciò significa arrestare persone innocenti o violare i loro diritti civili.

Leggi la news: https://bit.ly/2VO5q6o

La redazione
La redazione

leggi tutto