Addomesticare l’algoritmo per non finire addomesticati

Paolo Bananti, romano, classe 1973, francescano, teologo, e docente alla Pontificia Università Gregoriana. Da anni, coi suoi libri e le sue conferenze, propone una riflessione pubblica sull’algoretica, ossia sull’etica dell’algoritmo, più che mai necessaria in un mondo in cui si delegano all’intelligenza artificiale attività, anche delicatissime, del vivere. Il suo ultimo libro, Human in the loop. Decisioni umane e intelligenze artificiali, edito da Mondadori, è un richiamo a questi grandi rischi e ma anche alle grandi potenzialità che la dimensione digitale offre. Temi di cui si è è parlato in Vaticano, il 10 gennaio scorso all’evento Rome Call for AI Ethics, grazie alla Pontificia Accademia per la Vita e alla Fondazione RenAIssance, coi rappresentanti delle tre religioni abramitiche a confronto. Lo abbiamo intervistato.

Padre Paolo Benanti, nei giorni scorsi, le tre religioni che discendono da Abramo si sono incontrate a parlare di mondo digitale, di intelligenza artificiale, di big data. E c'era anche il Papa. Che cosa vi siete detti?

Beh, la prima cosa che c'è da raccontare, secondo me, è il fatto che le tre religioni abramitiche si sono ritrovate insieme per dire che c'è un terreno condiviso, che si può coesistere in una società plurale e in una società globale, in una maniera che ci vede a fianco gli uni agli altri, per cercare di far sì che la che gli strumenti della tecnica siano e non armi. Un modo che cerca di utilizzare i mattoni di Sapienza che appartengono a ogni religione per costruire ponti più che per costruire muri. Ecco, questa è già la prima novità.

Giustamente. La seconda?

La seconda questione è che la tecnologia tocca tutti. Più o meno i rappresentanti che erano presenti a Roma erano espressione di tre miliardi e mezzo di credenti. E guardando ai giovani, guardando agli anziani, guardando alle persone più fragili in difesa della nostra società, tutti ci siamo resi conto quanto gli strumenti della intelligenza artificiale possano essere una potenzialità ma anche una minaccia. Questa “macchina”, questo strumento che per la prima volta è capace di surrogare le decisioni umane e di rendere l'uomo, per certi versi, meno centrale nei processi decisionali, può essere il più efficace degli strumenti per garantire un futuro migliore, per costruire una cultura che guardi al bene comune, all'ambiente…

Oppure?

Oppure può essere la peggiore delle armi, perché è capace di muovere e di orientare anche la coscienza delle persone. Ecco come sarà il domani, dipende anche da come staremo insieme di fronte a questo tema.

Il Papa ha fatto un riferimento molto concreto, paventando l'eventuale applicazione dell'intelligenza artificiale alla vita dei richiedenti asilo. Quali sono i rischi e le potenzialità di una vita regolata dall'algoritmo?

Dunque, da una parte c'è una possibilità che ha la possibilità di distribuire, con maggior facilità, dei servizi su tutto il globo. Oggi possiamo mandare un messaggio dappertutto. Praticamente la maggioranza delle persone nel mondo è connessa a Internet, in maniera molto più facile, elettronicamente, che non con un postino. Paradossalmente abbiamo delle zone meno sviluppate nel mondo in cui è più semplice trovare un cellulare che non un bagno. E questo dice che, questa rete capillare di presenza può essere ottima per tantissimi scopi e pensiamo di avere degli strumenti che possono essere degli indici anticipatori di alcune problematiche climatiche, sociali, di salute.

Spieghiamo bene il vantaggio

Avere una rete così sparsa sul territorio e poter acquisire questi dati in maniera istantanea, potrebbe essere veramente quello che si chiama un game changer, cioè un qualcosa che ci aiuta ad andare incontro ai bisogni delle persone, a reagire e a dare una sorta di resilienza anche alle popolazioni in maniera completamente diversa. Immaginiamo…

Immaginiamo?

Immaginiamo che cosa poteva voler dire indovinare i segni della pandemia da subito, grazie a una rete di dati, connessa in tutto il pianeta e, dall'altra, però l'informazione è anche una sorta di grande nudging, è una sorta di grande spinta ad assumere un comportamento. E allora ecco che è sempre possibile anche l'opposto. È possibile che questa non sia solo una rete per uno scambio che fa arricchire tutti, ma per il più sofisticato e tremendo dei sistemi di controllo. Non usciamo dal dual use, ma pure non uscendo dal dual use, siamo chiamati a confrontarci con ricchezze e povertà che ci sono nel mondo, culture diverse.

Come, padre Bananti?

Siamo su questa frontiera, a darci dei principi, a sottoscrivere degli appelli. E il fatto che attori molto diversi – dal Governo italiano alla Fao da Microsoft a Ibm – dicano che è importante andare in questa direzione, e che le religioni abramitiche siano tutte insieme nel dire “non lasciamo nessuno indietro”, indica, secondo me, l'inizio di un movimento culturale che può spingere in una certa direzione.

Il valore di un appello, di un autorevole richiamo.

Chiaro. È etica, è un appello, è una voce. Raggiunge la parte più profonda di noi stessi, non è assolutamente garantito che produca i risultati che vuole produrre. Ecco perché non basta mai l’etica da sola però…

Però?

Però dire che c'è già questa frontiera, queste sentinelle, questo orizzonte, secondo me è qualcosa di molto, molto positivo.

Nel suo intervento lei ha fatto riferimento ai valori numerici, quelli del mondo digitale, che devono essere accompagnati dai valori morali. È la sfida dell’algoretica. Chi può far crescere l'uomo perché, nel rapporto con la macchina, sia sempre lui a discernere i valori?

Da una parte, dobbiamo dire una cosa: non esiste una tecnologia neutrale. C'è un esempio che viene dall'etica delle tecnologie – che forse ha fondato l'etica delle tecnologie – che è utile adesso ricordare quando Richard Moses ha costruito la parkway, l'autostrada a sei corsie che unisce Manhattan a Long Island, l'ha fatta avendo in mente l'idea che per lui, Long Island, con la sua amata Johnson Beach, dovesse rimanere appannaggio di quella che, per lui, era la parte migliore della società: la white middle class, la classe media bianca. E allora come fai a impedire agli altri ad andare a Johnson Beach? Beh, non costruisce una metropolitana, un sistema di trasporto pubblico cioè, e fa i ponti in calcestruzzo più bassi di due piedi, ossia di 60 centimetri, rispetto allo standard. Ecco che, improvvisamente, solo chi ha una macchina negli anni ’40, ossia la white middle class, può andare in spiaggia.

Perché neppure gli autobus, passavano. Una tecnologia costruttiva non neutrale, effettivamente.

Ogni tecnologia, ogni artefatto tecnologico, una forma di potere e una forma d'ordine pensate all'ordine con il quale ci è stata data del vaccino durante la pandemia: lo ha deciso un algoritmo chiuso dentro un sistema che era la sanità regionale.

Non c'è neutralità. Che cosa vuol dire?

Che se questi strumenti funzionano con catene logiche di "if this then that" (Ifttt, ovvero se accade questo allara fai accadere quello, ndr), quell'"if", quel “se” è una condizione su qualcosa, qualcuno ha deciso qualcosa suqualcun altro. Quello che chiede tutto questo nostro movimento non è l'assenza di indecisione, perché non è possibile, non funzionerebbero, ma rendere trasparenti i criteri di quella decisione. Vale a dire riaddomesticarli all'interno di quello spazio pubblico, dove diversi soggetti, dove i diversi membri attivi della comunità civile e della società civile possano portare il loro contributo positivo, perché questo innovazioni tecnologiche diventino veri e propri sviluppi umani. Ecco, è questa the next big thing, la prossima cosa buona. Non è andare contro la tecnologia, non e dire che la tecnologia è buona o sbagliata, ma essere coautori di un domani che veda, nella tecnologia, il migliore degli strumenti possibili, per vivere esistenze più degne di essere vissute.

È interessantissimo che le grandi religioni si muovano, ma c'è la sensazione che Stati e governi, viceversa, su questo tema indugino ancora. Su un'altra grande emergenza condivisa del nostro tempo, il cambiamento climatico, pare ci sia una maggiore sensibilità comune. Eppure vicende come quella di Cambridge Analytica, ossia l’uso massiccio di un algoritmo per manovrare il consenso elettorale via Facebook, dovrebbero aver reso tutti più avvertiti.

Che dire? Ci sono tanti interessi in gioco. E forse questa è la frase più sintetica su questo tema e quindi non dobbiamo stupirci del fatto che ci possano essere interessi parziali o personali che possano cambiare la scala con l'ordine dei valori. La storia, anche recente, penso dall'800 al 900, con le sue pagine di sangue, ci ha detto che il problema non è l'esistenza di interessi diversi, ma è come comporre insieme questi interessi. E il metodo, fragile ma più efficace che abbiamo trovato fino adesso, è il metodo democratico, il metodo in cui tutta la società civile partecipa e contribuisce attivamente a tutto questo. E allora l'idea è di nuovo, dobbiamo addomesticare tutto ciò, perché non sia appannaggio di interessi privati o di interessi nazionali o di una nazione rispetto all'altra o di una parte del mondo privilegiata, rispetto a una parte di mondo che rimane esclusa.

Venticinque anni fa, parlavamo di digital divide: c'era la preoccupazione che il Sud del mondo finisse ancora più distanziato dal Nord e dalle sue tecnologie informatiche. Oggi c'è la sensazione che questo divario sia diventato ancora più ampio e più sofisticato. E c'erano, all'epoca, tante proposte. Qualcuno lanciò i computer a 100 dollari, il laptop a basso costo da dare ai bambini africani. Come cambia questo divario con l'intelligenza artificiale?

Mi ricordo molto bene, lo One laptop per child (un laptop per bambino, ndr). Forse se oggi avessimo un laptop connesso per ogni bambino, staremmo in qualche misura estraendo valore anche da quei ragazzini! Al di là delle battute, temo che questo discorso che noi stiamo facendo, un discorso di frontiera importantissimo, vada letto con la crescita della disuguaglianza degli ultimi anni. La forbice della ineguaglianza sociale è enorme e il digitale, da strumento, non è né causa né effetto, ma è casomai “accompagnante” tutto questo. Quello che è vero è che da una parte, in alcune società occidentali abbiamo assistito all'impoverimento della classe media a favore dell'arricchimento in alcune altre società orientali delle classe più basse. L'arricchimento o la creazione di una classe media cinese è avvenuta a spese della classe media occidentale e questo ha creato una serie di fenomeni, una serie di contrasti, una serie anche di tensioni non indifferenti, che forse sono anche alla base della messa in crisi di un'idea di globalizzazione. Perché quando Bill Clinton ha fatto entrare la Cina nella World trade organization – Wto, l'ha fatto con un'idea precisa: diamo a loro i lavori peggiori e teniamo noi lavori migliori. Adesso sappiamo che l'iPhone è prodotto in Cina e che l'America esporta verso la Cina il maiale.

Dunque?

Dunque qualcosa non è andato come sperava Clinton. La seconda questione è che quindi, al di là di questo trasferimento di ricchezza internazionale, c'è anche un trasferimento di ricchezze tra diverse forme di stratificazione sociale, per cui ci sono dei lavori che, sempre di più, diventano insufficienti a consentire alle persone a sostenersi e le portano in posizioni fragili e legate alla soglia di povertà.

Per esempio?

Pensiamo, per esempio, all'inesistenza. Un lavoro a contratto indeterminato, come stiamo passando nella gig economy, all’economia dei lavoretti, a quella serie di prestazioni che di fatto hanno un nome nuovo e bellissimo per una cosa antica, che pensavamo di aver estirpato: il cottimo.

Che cosa ci dicono queste diverse tensioni?

Due cose: da una parte c'è chi ha usato il digitale per rendere questo un fenomeno globale con cui guadagnare le piattaforme e alcune forme di economia che, di fatto, non assumono più nessuno ma, con la scusa di mettere insieme problem owner e solution owner (chi ha il problema e chi ha la risposta, ndr) drenano ricchezze, aumentano l'ineguaglianza.

Dall'altra?

Dall’altra abbiamo addirittura una serie di strumenti che potrebbero dirci che intere parti del mercato del lavoro potrebbero scomparire. Allora la soluzione purtroppo facile che mi viene richiesta non c'è. Mi piacerebbe averla, ma è un dibattito, che non era aperto, anche perché non può essere un'unica competenza a trovare una soluzione, deve essere un dialogo, deve essere una piazza, deve essere una società plurale. Quello che è vero è che come noi risponderemo a questo, dirà o meno la sostenibilità della nostra società. Per usare un'analogia noi oggi abbiamo tanti problemi ecologici. Che cosa avremmo voluto dire alle generazioni che hanno deciso della carbonizzazione della società? Ecco, noi siamo la la generazione che decide della digitalizzazione della società, come noi risponderemo a questa sfida sarà la sostenibilità della società, del futuro o meno. È una sfida grande, serve innanzitutto consapevolezza. Mi lasci dire un’ultima cosa.

Prego.

Che il primo obiettivo della Call di Roma, prima ancora dei risultati globali e la consapevolezza e dire che 3,5 miliardi di persone, rappresentate da tre religioni abramitiche, dice che siamo consapevoli. I vantaggi possono essere immensi. Gli svantaggi anche. Giochiamo una partita che sia a favore di tutti e secondo me è un segno di speranza in una direzione piuttosto che un'altra.