L’IA che tenta di classificare le persone

Le intelligenze artificiali che conosciamo e che usiamo sono incredibilmente stupide, almeno in termini umani: sono perfettamente in grado di svolgere un determinato compito in maniera quasi perfetta, ma basta cambiare leggermente in tiro e mostrano tutti i loro limiti. Per allontanarsi dalla visione delle IA che in un futuro prossimo ci schiavizzeranno e per riportarci coi piedi per terra sullo stato dell’arte degli algoritmi moderni è nato ImageNet Roulette, un sito che è una via di mezzo fra un’installazione artistica e una provocazione. Sfruttando un dataset normalmente usato per addestrare IA a identificare oggetti, all’algoritmo viene chiesto di riconoscere le persone, con risultati fallimentari. Il software, assieme ad altre creazioni, si trova in esposizione alla mostra Training Humans presso il museo Prada di Milano.

“Training humans esplora due questioni fondamentali in particolare – si legge nella descrizione della mostra – come gli esseri umani sono rappresentati, interpretati e codificati attraverso data set per l’addestramento e come i sistemi tecnologici raccolgono, etichettano e utilizzano questo materiale. Man mano che le classificazioni degli umani da parte dei sistemi di intelligenza artificiale diventano più invasivi e complessi, i loro pregiudizi e la loro politica diventano evidenti. All’interno della visione artificiale e dei sistemi di intelligenza artificiale, le forme di misurazione si trasformano facilmente in giudizi morali “.

Prova il software al link https://imagenet-roulette.paglen.com/

Leggi la news: https://bit.ly/2kPlGTQ