«Gli algoritmi non sono cose, ma disposizioni di potere che riorganizzano la nostra società»

Gli algoritmi hanno un posto sempre più centrale nelle nostre vite. Orientano le nostre scelte, determinano le politiche pubbliche, li percepiamo come arbitri neutrali di un processo di decisione e di scelta che, quando si inceppa, mostra che tanti, troppi nodi non sono compresi, discussi, risolti.

Francescano del Terzo Ordine Regolare (TOR), Paolo Benanti è tra i maggiori esperti di etica delle tecnologie e da molti anni invita a non sottovalutare la questione-algoritmi. Una questione che apre a un campo di riflessione particolarmente urgente e complesso che viene oggi descritto con un termine divenuto corrente: algocrazia.

L'algocrazia è un sistema di governance e di governo basato su algoritmi. Decisioni politiche o tecniche? Il dibattito è aperto.

L'impatto etico degli algoritmi

Professor Benanti, recenti fatti di cronaca hanno riportato al centro il dibattito sugli algoritmi. Tecnica o politica? Neutralità della prima e delega della seconda? Ci aiuta a comprendere il quadro in cui si collocano tali questionI nell'ottica di un'etica pubblica?
Quanto si parla di etica della tecnologia è importante ricordare il nome di un grande maestro come Langdon Winner. Per capire che cosa significhi approcciarsi alla tecnologia con uno sguardo etico, nel 1980 Winner scrive un articolo importante e lo intitola così: Do Artifacts Have Politics? Potremmo tradurre in questo modo: gli artefatti tecnologici hanno politica? Eccoci arrivati al cuore della questione.

Le tecnologie non sono semplici aiuti all'attività umana, ma anche potenti forze che agiscono per rimodellare quell'attività e il suo significato

Langdon Winner

Guardiamo gli esempi che fa Winner e decliniamoli in quello che sta accadendo in questi giorni in Italia. Il primo esempio che fa è quello dei ponti in calcestruzzo che stanno sopra l'autostrada che da New York porta a Long Island.

Chiunque di noi guarda quei ponti cosa vede solo dei ponti in calcestruzzo. Ma se dovessimo fare un'analisi etica della tecnologia, dovremmo notare che quei ponti sono più bassi dello standard. Se poi andiamo a leggere la biografia di Robert Moses, che fu il capo progettista di quei ponti, capiremmo che per sua stessa ambizione era un grande classista.

Gli algoritmi sono disposizioni di potere che decidono chi ha accesso e chi no. Non sono semplicemente delle cose, sono modalità per organizzare la società e il potere, i diritti e i privilegi

Paolo Benanti

Moses fece così bassi quei ponti affinché solo la classe bianca agiata, che aveva auto di proprietà, potesse accedere alla spiaggia di Long Island. Le minoranze etniche che dovevano servirsi di autobus non potevano accedervi, perché gli autobus non passavano sotto quei ponti. L'artefatto tecnologico è una disposizione di potere.

I ponti di una volta, oggi, sono diventati gli algoritmi…
Questi algoritmi sono disposizioni di potere che decidono chi ha accesso e chi no. Non sono semplicemente delle cose, sono modalità per organizzare la società e il potere, i diritti e i privilegi. Winner fa poi un secondo esempio: nel 1977 si diffuse la macchina meccanica per la raccolta di pomodori.

Da migliaia di raccoglitori di pomodori che c'erano, si scese a pochissimi. Ma ci fu un'altra questione: per resistere alla compressione meccanica del raccoglitore automatico venne selezionata una qualità di pomodori resistente, ma meno saporita.

Mercato, concentrazione, qualità delle relazioni

Che cosa possiamo imparare da questi esempi?
Possiamo capire che l'innovazione tecnologica concentra il mercato e cambia la qualità del mercato stesso. Applichiamo questa legge agli algoritmi e capiamo cosa sta succedendo: i grandi produttori di algoritmi che permettono di risparmiare rispetto ad altri sistemi tradizionali stanno concentrando il mercato.

Se applichiamo questa concentrazione algoritmica alle notizie che cosa accade?
Abbiamo una perdita di qualità.

Come per i pomodori americani, che non sanno di nulla…
Esattamente. Da tutto questo, anche dalla perdita di qualità delle cose, emerge che il digitale non è neutrale. Men che meno lo sono gli algoritmi. Al contrario, anche il digitale è una disposizione di potere politico che cambia le relazioni tra i cittadini, cambia il mercato tra i cittadini e cambia le relazioni di potere.

Pensa sia cambiato qualcosa nella disposizione dell'opinione pubblica rispetto agli algoritmi?
Fino a quanto si trattava di muovere dei beni immateriali come le notizie abbiamo fatto fatica a capire la portata etica di quanto stava accadendo. Ma se, adesso, quello che decidiamo tramite algoritmi sono stipendi, posti di lavoro, controllo sul luogo di lavoro o, ancora, scelte che riguardano la salute pubblica come la distribuzione dei vaccini le cose cambiano.

Il ruolo del Terzo settore

Oggi abbiamo capito che l'impatto sulle nostre vite è potenzialmente deflagrante, ma questa comprensione non è necessariamente un male…
Tutt'altro, perché una maggior consapevolezza e una maggior comprensione del problema porta le coscienze a diventare più critiche e a risvegliarsi. L'associazionismo, il Terzo settore, la società civile organizzata si stanno accorgendo che la tecnologia può diventare un moltiplicatore di disuguaglianze.

Il Terzo settore può dunque essere un attore importante in questo processo di reintermediazione?
San Tommaso diceva che non possiamo volere una cosa che è Bene, se non la conosciamo: la consapevolezza è la chiave per far cambiare le cose e smascherare le apparenti neutralità della tecnologia.

In questo riconosco al Terzo settore un ruolo primario: quello di motore per una un'azione etica grandissima. Anche perché questo mondo è un po' il nume tutelare di quelle fasce più deboli che non solo rischierebbero di non essere consapevoli, ma diverrebbero le prime vittime di questa inconsapevolezza.