Saremo persone o algoritmi?

Ottobre 2016. Il primo episodio della terza serie di Black Mirror è ambientato in un mondo dove ogni comportamento viene valutato dai pari e un algoritmo sintetizza il risultato in un punteggio che garantisce — o meno — alla protagonista la possibilità di comprare una casa, di noleggiare un’auto e di mantenere il lavoro. Inutile dire che la storia non ha un lieto fine ma si tratta di una distopia, non poteva essere altrimenti. Certo, la tecnologia è la stessa che utilizziamo tutti i giorni ma si tratta solo di fiction, possiamo stare tranquilli.

Maggio 2018. Entrano in vigore le prime misure restrittive legate al “Social Credit System” cinese, un sistema nazionale per classificare la reputazione dei cittadini sulla base di informazioni possedute dal governo anche grazie ad accordi con aziende che permettono l’acquisizione di big data rispetto a: pagamento delle fatture, capacità di onorare i contratti, preferenze e comportamenti personali (tra cui acquisti online e offline, siti consultati online, interazioni sociali tramite chat, posizione del telefonino, ecc.) e relazioni interpersonali (i legami di parentela o amicizia con persone a basso credito sociale hanno un impatto sul punteggio).

Alle persone a basso “credito sociale” viene impedita la mobilità attraverso treni e aerei. A partire dal 2020 pare che le punizioni includeranno anche l’esclusione da scuole private, il rallentamento della connessione internet, l’esclusione da lavori ad alto prestigio, l’impossibilità di pernottare in alcuni alberghi. Non è una fiction, ma succede lontano dal nostro cortile, c’è chi ritiene che si possa stare tranquilli.

Agosto 2018. Il Washington Post riporta la notizia che Facebook ha iniziato ad assegnare un punteggio reputazionale a ogni utente come parte della strategia contro le fake news. Le dichiarazioni della product manager responsabile del progetto sono l’epitaffio del peer-to-peer. Facebook ritiene che non ci si possa fidare degli sconosciuti e — in ritirata rispetto alle sperimentazioni degli ultimi anni del modello piattaforma — ha implementato un meccanismo centralizzato di verifica di affidabilità dei propri utenti. Facendo ricorso a una retorica ormai diffusa, Facebook dichiara di non poter diffondere informazioni sulle logiche di funzionamento di questo algoritmo per evitare manipolazioni. Ora sarà Facebook a dirci di chi fidarci.