L’intelligenza artificiale può scambiare i discorsi sugli scacchi per hate speech

Agadmator è un famoso youtuber croato che si occupa di scacchi. Un tema decisamente innocuo e che anche grazie alla serie TV “La regina degli scacchi” ha recentemente trovato un nuovo interesse da parte del grande pubblico, e non solo. Anche i sistemi di intelligenza artificiale che monitorano l’hate speech online si sono accorti della nuova rilevanza di questo tema, ma non nel mondo in cui ci si aspetterebbe. Agadmator infatti ha visto il suo canale venire sospeso per 24 ore a causa di contenuti pericolosi e d’odio. L’IA usata da Youtube per monitorare i contenuti dei suoi utenti pare sia stata confusa dall’uso di parole chiave come “nero e bianco”. Secondo due ricercatori della Carnegie Mellon University che hanno provato ad analizzare l’incidente si tratta di errori che possono accadere che, nel caso di canali grandi come quello di Agadmator vengono risolti e fanno clamore mediatico, ma probabilmente esiste un sottobosco di canali più piccoli che incontrano lo stesso tipo di inconveniente e di cui non si sa molto.

Via TechXplorer