La falsa democrazia dei dati

Sommiamo matematica, finanza e tecnologia. Che cosa otteniamo? Più ordine o più caos? Assunta come analista quantitativa presso un hedge found, Cathy O’ Neal era convinta della prima ipotesi. Poi arrivò la crisi del 2008 innescata dai mutui subprime, ovvero da un misto di matematica, tecnologia e stupidità umana. E fu il tracollo. Ma la lezione non è stata imparata, spiega O' Neal in Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia (trad. di Daria Cavallini, Bompiani, pagine 450, euro 18), un libro illustra i disastri del "matematicamente corretto" nei campi della cittadinanza attiva, del sociale, del lavoro, della scuola e del quale consigliamo vivamente la lettura.

Se nel 2008 l'uso avanzato di modelli matematici ha contribuito a accelerare e rendere efficienti dinamiche e sistemi malati nei loro presupposti, che dire dei modelli circolanti sotto copertura di gig economy che, in questo decennio, ha contribuito a disgregare reti sociali, di relazione e di scambio?

La matematica applicata alla finanza e alla tecnologia grazie all’aura creata proprio dalla crisi del 2008 è diventata trendy. E quando una cosa diventa trendy, finisce per far distogliere lo sguardo dai veri problemi. Così, anziché un passo indietro, rispetto al pessimo uso della matematica che contribuì all'innesco della crisi del 2008, se ne sono fatti due in avanti: e i sistemi sono passati dallo studiare le variabili finanziarie di rischio, allo scandagliare gli esseri umani, raccogliendo petabyte di dati sui loro consumi, le loro abitudini, fino a elaborare diagrammi predittivi persino sui desideri e delle loro potenziali pulsioni criminali. Diagrammi diventati, a colpi di ideologia, modelli prescrittivi del sé: l’algoritmo crea comportamenti e modelli. E quei modelli, veicolati da storytelling sempre più raffinati, si impongono nel sociale. Modelli che definiscono una realtà e si servono dei dati per giustificare quella realtà: il serpente si morde la coda, ma non muore.

Come è stato possibile non capire, si chiede l'Autrice, che si stavano innescando vere e proprie armi di distruzione matematica e che il design del sistema codificava proprio quei disvalori (iniquità, pregiudizi, disuguaglianze di ogni genere) che, a parole, l’economia dei grandi numeri, diceva di voler superare? Incorporare in un codice il pregiudizio o l’errore umano non lo rende altro da ciò che è: un pregiudizio o un errore umano. Nell'epoca dei diritti, una nuova discriminazione avanza: la discriminazione algoritmica. Fermarla, osserva Cathy O' Neil, è una necessità immediata. Come darle torto?