Cittadini a punti

Nei paesi anglosassoni, ma non solo, esiste ufficialmente un punteggio di credito, il cosiddetto Credit Score, un meccanismo, o meglio un algoritmo, che permette agli istituti finanziari di valutare il rischio di insolvibilità di un cliente. I data broker tracciano in modo tempestivo il modo in cui paghiamo i nostri debiti, dandoci un punteggio che viene utilizzato da istituti di credito e fornitori di mutui. Alcune società indipendenti offrono servizi predittivi alle polizie di tutto il mondo. Non si è arrivati alle reclusioni per delitti potenziali non ancora fatti, ma il daspo urbano e quello calcistico ci si avvicinano, sono punizioni senza delitto che si potrebbero basare su una "valutazione" algoritmica dei comportamenti umani.

In alcuni distretti giudiziari degli Stati Uniti si fa ampio uso di algoritmi che calcolano la probabilità di recidiva, diventando strumenti di aiuto ai giudici per le scelte sulla libertà vigilata e altre determinazioni restrittive da applicare in molti casi giudiziari. L'ultima parola la prende un umano, ma quasi sempre essa coincide con quella proposta dalla macchina. Nessuno osa prendersi la responsabilità di una scelta che l'algoritmo sconsiglia. Nulla è stato fatto per bandire questa pratica anche dopo aver constatato che questo strumento discrimina le minoranze e i ceti più poveri.

Il sistema di credito sociale cinese estende queste idee a tutti gli aspetti della vita, giudicando il comportamento e l'affidabilità dei cittadini. Il regime di Pechino sta impiantando in Cina un sistema di "credito sociale" mediante il quale gli "errori" di qualsiasi individuo vengono "scontati" dal suo "saldo", di modo che, in base alla sua "qualificazione" comportamentale, un cittadino può essere punito con multe, restrizioni, mancato accesso a promozioni sul lavoro, negazione all'autorizzazione di viaggi etc.

Si tratta di uso e abuso di dati aggregati per l'analisi del comportamento. L'obiettivo del sistema è quello di "incentivare le buone azioni" (o quelle considerate tali) attraverso l'assegnazione di crediti, e disincentivare quelle cattive togliendole. Ci sono sistemi di credito sociale pubblici e privati che spesso però condividono i dati. Nei progetti privati come quello di Sesame Credit, che vanta 400 milioni di utenti, vengono giudicate (e premiate con denaro) le abitudini più disparate: dall'utilizzo dei videogiochi (che fa perdere crediti) al fatto di essere genitori (che ne fa guadagnare). Prendere parte ai sistemi privati o governativi di credito sociale è tecnicamente volontario, ma esistono incentivi per chi decide di aderirvi, e disincentivi per chi si rifiuta di partecipare.

È di questi giorni la notizia che il governo britannico abbia in programma di introdurre nel 2022 un'app per la salute che monitorerà i nostri acquisti, i nostri livelli di esercizio fisico o l'assunzione di frutta e verdura e ci ricompenserà con punti virtù che possiamo scambiare con sconti, biglietti gratuiti (a quale tipo di evento non è chiaro) e altre chicche.

Anche a Bologna c'è l'intenzione di subordinare e condizionare l'accesso ad alcuni servizi in relazione al punteggio di una "patente digitale". "Tra gli interventi più innovativi c'è lo smart citizen wallet. 'Il portafoglio del cittadino virtuoso', dice l'assessore alla agenda digitale del comune di Bologna Massimo Bugani. "L'idea è simile al meccanismo di 'una raccolta punti del supermercato', il cittadino avrà un riconoscimento se differenzia i rifiuti, se usa i mezzi pubblici, se gestisce bene l'energia, se non prende sanzioni dalla municipale, se risulta attivo con la Card cultura". Comportamenti virtuosi che corrisponderanno a un punteggio che i bolognesi potranno poi 'spendere' in "premi in via di definizione" riporta Il Corriere di Bologna.

Bisogna a questo punto spiegare una volta per tutte che ogni misurazione dei comportamenti umani è imperfetta se non fallace, e porta a una normalizzazione; sin qui sembra che non ci sia nulla di grave. Il fatto è che la normalizzazione non è una forma di armonizzazione e che ogni normalizzazione ha una performatività escludente. Gli implementatori parlano di premi, ma nessuno vieta che la prossima mossa sia una punizione per chi si discosta dalla norma. Oltretutto, anche se si registrano soltanto i comportamenti virtuosi, si stigmatizzano nello stesso tempo tutti gli altri. L'algoritmo è un dispositivo che rafforza le opinioni. È un meccanismo reputato oggettivo che dà voce alla maggioranza silenziosa. È una tecnica che lavora al servizio delle banche, delle assicurazioni, di ogni tipo di serialità e contro ogni singolarità.