Roger Penrose: «L’intelligenza artificiale? Non esiste»

Riproponiamo un'intervista realizzata con sir Roger Penrose nel maggio 2018, a margine dell'incontro Intelligenza Artificiale vs. Intelligenza Naturale, e pubblicata nel numero di Vita dedicato ai Social robot (giugno 2018)

Professor Penrose, naturale o artificiale: una contrapposizione che regge in termini di “intelligenza’?
Dietro l’espressione “Intelligenza artificiale” ci sono almeno tre parole alle quali dovremmo prestare attenzione. La prima parola è, ovviamente, “intelligenza”. La seconda è “comprensione”. La terza parola è “consapevolezza”. Solitamente l’espressione “Intelligenza artificiale” è usata con molta libertà. La si applica a tutto, da dispositivi molto semplici come i termostati fino alle automobili a guida autonoma. Ma dietro questa apparente semplicità si celano i problemi.

Si usa l’espressione AI per descrivere dispositivi che vengono ritenuti capaci di riprodurre attività che richiedono intelligenza naturale e che — si crede — finiranno col superare o, secondo alcuni, avrebbero già superato in capacità gli esseri umani più capaci. Se questa forma di imitazione e concorrenza e, infine, di superamento è ciò che la definisce allora dobbiamo dire che non c’è nulla di nuovo in questa “intelligenza artificiale”.

Mio padre usava una vecchia calcolatrice meccanica, una Brunsviga. Girava la manovella che muoveva gli ingranaggi all’interno della macchina e questa riproduceva calcoli aritmetici che andavano oltre quelli degli esseri umani. A meno che, a questi esseri umani dotati di carta e di matita, non venisse dato un tempo congruo per calcolare.

Perché allora questa espressione, “intelligenza artificiale”, seduce tanto?
Probabilmente perché deriva da una non irragionevole convinzione che il cervello, essendo un oggetto fisico, obbedisca alle leggi della fisica. E, poiché segue le leggi della fisica, può essere simulato computazionalmente. In sostanza, se si ritiene che i neuroni si comportino come fili e transistor è normale credere che un dispositivo regolato da un computer possa simularne il funzionamento. Ma ci siamo messi su una strada sbagliata.

Non dico che alcune attività del pensiero umano non possano certamente essere riprodotte computazionalmente — penso, ad esempio, alla somma di due numeri e a operazioni aritmetiche o algebriche più complicate — ma il pensiero umano va ben al di là di queste cose. Soprattutto quando diventa importante comprendere il significato di ciò in cui si è coinvolti. Uno dei campi di prova su cui, dagli anni Cinquanta, l’AI viene testata è quella dei giochi, in particolare del gioco degli scacchi.

Proprio qui, terreno trionfale dell’AI, dopo la celebre sconfitta del 1997 quando Gary Kasparov perse contro il programma Deep Blue, c’è qualcosa che non torna…
C’è una nota posizione di pareggio, conosciuta da qualsiasi giocatore che domini i rudimenti del gioco degli scacchi. È una posizione alla portata di un bambino. Invece Fritz, uno dei principali programmi di AI per il gioco degli scacchi, regolato sul livello grande maestro, fraintende completamente la posizione e dopo un certo numero di mosse fa un errore stupido e perde la partita. Perde non perché è un peggiore giocatore, ma perché non ha alcuna comprensione di ciò che i pezzi possono o non possono fare. Segue in maniera inconsapevole degli algoritmi, senza sapere cosa sta facendo.

Se vogliamo il problema è tutto qua: algoritmi ovvero AI contro consapevolezza umana…
Torniamo allora alle tre parole che l’espressione “Intelligenza artificiale” evoca: intelligenza, comprensione e consapevolezza. In gioco, nell’intelligenza, vi sono tanto la coscienza quanto ciò che la comprensione cosciente dei significati può fare per noi. Queste parole si implicano a vicenda: l’intelligenza richiede comprensione. E la comprensione richiede consapevolezza. Questo ci porta a dire che un dispositivo, per essere definito “intelligente”, dovrebbe essere capace di comprensione.

Dietro l’espressione “Intelligenza artificiale” ci sono almeno tre parole alle quali dovremmo prestare attenzione. La prima parola è, ovviamente, “intelligenza”. La seconda è “comprensione”. La terza parola è “consapevolezza”. Solitamente l’espressione “Intelligenza artificiale” è usata con molta libertà. La si applica a tutto, da dispositivi molto semplici come i termostati fino alle automobili a guida autonoma. Ma dietro questa apparente semplicità si celano i problemi

Roger Penrose

Ma se anche ammettessimo la comprensione, questo dispositivo, per essere definito “intelligente”, dovrebbe essere dotato di consapevolezza. Come la calcolatrice a rulli, ma con una potenza stupefacente, un computer esegue calcoli estremamente rapidi, molto più velocemente e con maggiore precisione di qualsiasi umano. Non ha però idea di cosa significhino gli algoritmi attraverso cui opera, né alcuna comprensione del loro significato. La comprensione può venire solo dalla coscienza e gli algoritmi non ne hanno una.

Ci spiega meglio?
Possono essere straordinariamente efficaci nel risolvere determinati problemi, ma affinché funzionino a monte ci deve essere comprensione consapevole. È la comprensione consapevole attraverso cui procedono i loro programmatori, ovvero gli esseri umani che li ideano. Sarà così almeno finché non comprenderemo abbastanza che cosa sia effettivamente la coscienza: solo allora potremmo, eventualmente, costruire dispositivi davvero coscienti e consapevoli, qualunque cosa ciò possa significare.

Ma ad oggi questa soglia non è stata superata. Oltretutto non mi piace l’uso della parola “intelligente” nel contesto di sistemi artificiali, dal momento che sembra implicare una misura unidimensionale delle capacità mentali. Naturalmente molti, se non la maggior parte tra coloro che si occupano di AI la pensano diversamente. Costoro si dicono convinti che qualunque “comprensione” o “significato” possano essere simulati da un sistema computazionale puro.

Eppure, non tutte le preoccupazioni su ciò che chiamiamo AI sono prive di legittimità o fondamento. L’intelligenza naturale sembra voglia mettersi in scacco da sola…
​Dal lavoro all’uso di sistemi informatici complessi nel campo del controllo, dello spionaggio militare, il problema è grande. Ma ciò di cui dobbiamo preoccuparci non è se i computer e quindi se ciò che chiamiamo comunemente “intelligenza artificiale” prenderanno il sopravvento, bensì l’abuso che l’intelligenza naturale degli umano potrà fare di una tecnologia informatica, ovvero di una “intelligenza” priva di consapevolezza. Per questa ragione ritengo che quando parliamo di intelligenza, non dovremmo mai rimuovere l’elemento umano dalla nostra visione.

Quando parliamo di sistemi controllati da algoritmi, sistemi di calcolo molto potenti e veloci, dobbiamo sempre ricordare che non sono dotati di consapevolezza. Se dunque prenderanno il sopravvento in molti ambiti della nostra società — lavoro, salute, istruzione — sarà proprio perché abbiamo dato deleghe in bianco su questa consapevolezza.