Il rating del (buon) guidatore e il modello del credito sociale

Guidare in città nelle ore di punta può essere un’esperienza stressante. Frenate improvvise, colonne e ingorghi, slalom tra ciclisti e scooter, pedoni indisciplinati. A tutto questo gli utenti di una nota azienda di car sharing, presente in diverse città italiane, dovranno aggiungere la sensazione di essere costantemente giudicati: non da un istruttore in carne e ossa, con cui magari fare anche quattro chiacchiere per passare il tempo e allentare la tensione, ma da un algoritmo.

Dal primo dicembre, infatti, è attivo su questi veicoli un sistema che monitora tutto il tragitto e, una volta parcheggiata l’auto ed estratta la chiave, attribuisce all’utente un punteggio da 1 a 10.

Ma come vengono utilizzate le informazioni raccolte e i punteggi? L’algoritmo è nato ufficialmente per “incentivare comportamenti di guida corretti e sicuri” e “tutelare l’azienda”, limitando il rischio di danneggiamenti delle sue vetture. Al momento, quindi, non sono previste conseguenze sui noleggi futuri per i “cattivi guidatori”, ma la notizia solleva qualche interrogativo: è accettabile farsi giudicare dagli algoritmi? Cosa accadrebbe se questi dati fossero utilizzati per limitare opportunità o accesso a servizi?

Il sistema cinese del credito sociale. Il dibattito sul tema del rating dei cittadini è vivo da anni anche a causa del Sistema di Credito Sociale lanciato dalla Repubblica popolare cinese: uno strumento per classificare la reputazione dei cittadini, a partire da una serie di informazioni raccolte e analizzate da sistemi tecnologici. Il programma è stato annunciato dal governo di Pechino già nel 2014 ed è stato definito dal mondo occidentale come una forma di controllo non distante dagli scenari distopici orwelliani.
L’idea di fondo è quella di creare un sistema di sanzioni e ricompense, con cui premiare o punire i comportamenti dei cittadini come il rispetto della legge, l’affidabilità sul piano economico e la condotta sul piano sociale. Almeno ufficialmente il sistema è pensato proprio per fornire degli incentivi sociali che favoriscano comportamenti virtuosi e buone pratiche: uno strumento che permetterebbe quindi di regolamentare economia e vita sociale in modo quasi naturale, facendo leva sulla reputazione dei cittadini e limitando i casi in cui si renda necessario un intervento diretto dello Stato.

In alcune città e province dal 2014 a oggi il sistema è stato utilizzato e implementato, con conseguenti polemiche del mondo occidentale e di osservatori esterni sul suo funzionamento, le punizioni previste e l’arbitrarietà dei giudizi.

Il semaforo della vergogna. Curiosi, ma allo stesso tempo esplicativi del sistema, sono i semafori installati in alcune città cinesi. Chi passa con il rosso viene filmato e il suo volto mostrato su un maxi schermo per essere (mal)giudicato dagli altri cittadini. Ma non è tutto, perché grazie a un sistema di riconoscimento facciale “il semaforo” è anche in grado di identificare il contravventore, per poi applicare le sanzioni previste. Una gogna popolare che, in un Paese in cui reputazione e onore sono valori importanti, ha dato risultati positivi. Ma la privacy?

Il fine giustifica i mezzi? Tralasciando i fini di questi sistemi di rating, che almeno nelle intenzioni dichiarate restano strumenti per incentivare comportamenti virtuosi e non per introdurre forme di controllo, è giusto porre l’accento sui mezzi utilizzati al loro raggiungimento.
Da un lato c’è la capacità di questi sistemi di raccogliere e analizzare dati che assumono valore e rappresentano il perno di un modello economico che tende a trattarci più come prodotti che come individui. Dall’altra c’è il tema relativo alla natura degli algoritmi, che hanno pregiudizi e sono privi di una caratteristica che in alcuni casi è fondamentale: il buon senso.

In Europa, ancora più che in Cina, siamo lontani da uno scenario in stile “Grande Fratello”. Ma i segnali del presente ci obbligano a porci qualche domanda.