Cese: «No alle pratiche dei punteggi sociali in Ue»

Nella sessione plenaria di settembre il Cese ha accolto con favore la proposta dell’Ue di una "legge sull'intelligenza artificiale" (Artificial Intelligence Act -AIA) e di un "piano coordinato sull'IA" (Coordinated Plan on AI).

La legislazione proposta, secondo il Cese, pone effettivamente al centro la salute, la sicurezza e i diritti fondamentali e assume una portata globale fissando una serie di requisiti che gli sviluppatori, sia intra, sia extra europei, dovranno rispettare se vogliono vendere i loro prodotti nell'Ue.

«Per l'Europa si tratta di un nuovo passo avanti verso il mantenimento della sovranità nel campo dell'intelligenza artificiale», ha dichiarato Marie-Françoise Gondard-Argenti, relatrice del parere del Cese sul piano coordinato per l'IA. «Etica e competitività non sono affatto in contraddizione tra loro, anzi! Al contrario, qui ci troviamo di fronte a una sfida alla quale dobbiamo guardare attraverso il prisma dei valori europei. Solo così potremo diventare leader mondiali nel campo dell'Ia e al tempo stesso rimanere fedeli ai nostri valori».

Le lacune da colmare: il "punteggio sociale" e i mezzi di ricorso

Il Cese individua tuttavia una serie di punti deboli nelle proposte in esame, anzitutto, ma non solo, riguardo al problema dell'attribuzione dei cosiddetti "punteggi sociali". Il Comitato segnala infatti il pericolo che questa pratica – già corrente in Cina, dove le autorità possono giungere a negare ai cittadini l'accesso a servizi pubblici – possa prendere piede anche in Europa.

La proposta di legge sull'IA vieta sì in tutta l'Ue pratiche di valutazione sociale da parte delle autorità pubbliche, ma il Cese vorrebbe che tale divieto fosse esteso anche alle organizzazioni private e semi private, onde evitare che anch'esse possano ricorrere a tali pratiche, ad esempio per stabilire se una persona sia ammissibile a un prestito personale o a un mutuo ipotecario. Il Cese reputa che nell'Ue non vi sia cittadinanza per un sistema che attribuisce un punteggio all'affidabilità delle persone sulla base del loro comportamento sociale o delle caratteristiche della loro personalità, quale che sia il soggetto che assegna tale punteggio.

«È importante che la legge sull'IA interrompa l'attuale tendenza degli attori pubblici e privati a utilizzare informazioni sempre più numerose per valutarci, classificarci e assegnarci un punteggio», ha dichiarato Catelijne Muller, relatrice del parere del Cese su tale proposta legislativa come già del primo, pionieristico parere del Cese in materia di intelligenza artificiale, adottato nel 2017. «La legge proposta dovrebbe cercare di tracciare una linea di demarcazione chiara tra ciò che va considerato 'punteggio sociale' e ciò che può essere considerato una forma accettabile di valutazione per un determinato scopo. E il discrimine può essere costituito dalla ragionevole rilevanza o proporzionalità delle informazioni che si desidera utilizzare ai fini di tale valutazione».

Il Cese sottolinea inoltre i pericoli insiti nell'elencazione di una serie di applicazioni di IA "ad alto rischio", avvertendo che un approccio di questo tipo (iscrizione in un apposito elenco) rischia di far considerare "normali" – e quindi generalizzare l'uso di – una serie di impieghi dell'IA ancora fortemente controversi. In questo modo, infatti, sarebbero ammesse pratiche come il riconoscimento biometrico, compreso quello delle emozioni o dei sentimenti, in cui le espressioni facciali, il tono della voce, la postura e i gesti di una persona sono analizzati per prevederne i comportamenti futuri, individuarne le menzogne e persino verificarne le probabilità di successo in una data occupazione. E sarebbe permesso valutare, classificare e persino licenziare i lavoratori utilizzando sistemi di IA o valutare gli studenti nelle sessioni di esame con l'ausilio di tali sistemi — una pratica diffusasi silenziosamente durante la pandemia e giudicata estremamente invasiva dagli studenti, di cui vengono seguiti i movimenti oculari davanti agli schermi e la battitura dei tasti, captati i rumori di fondo ecc.

Inoltre, i requisiti di cui la legge propone di imporre il rispetto per l'IA ad alto rischio non sempre possono attenuare i danni alla salute, alla sicurezza e ai diritti fondamentali che tali pratiche comportano. Da qui la necessità di introdurre un meccanismo di reclamo o ricorso per le persone che subiscono danni a causa dei sistemi di IA. Il Cese segnala questa lacuna e chiede alla Commissione di introdurre un tale sistema, in modo che i cittadini europei abbiano il diritto di contestare le decisioni prese esclusivamente da un algoritmo.

Più in generale, secondo il Cese, la legge sull'IA non tiene conto del fatto che la promessa dell'IA consiste nel migliorare il processo decisionale umano e rendere più efficiente l'intelligenza umana. Al contrario, essa parte dal presupposto che, una volta soddisfatti i requisiti relativi all'IA a medio e alto rischio, questa possa sostituire in larga misura il processo decisionale umano.

«Nella legge proposta mancano concetti chiave quali la necessità di garantire che il processo decisionale resti prerogativa degli esseri umani, la responsabilità e l'autonomia umane, la forza della collaborazione uomo-macchina e il pieno coinvolgimento delle parti interessate», spiega Catelijne Muller. «Al Cese abbiamo sempre propugnato un'impostazione basata sul controllo dell'uomo sull'intelligenza artificiale, perché non tutte le decisioni possono essere ridotte a delle cifre binarie. Molte decisioni, infatti, hanno una componente morale, gravi implicazioni giuridiche e importanti ripercussioni sociali: è il caso, ad esempio, dell'applicazione della legge da parte degli organi giurisdizionali e di polizia, ma anche della prestazione dei servizi sociali, abitativi e finanziari, dell'istruzione e delle norme in materia di lavoro. Siamo davvero disposti a permettere all'Ia di sostituire il processo decisionale umano anche in processi critici come l'attività di contrasto e quella giudiziaria?».

Informazioni di riferimento

La legge e il piano coordinato sull'intelligenza artificiale sono stati presentati dalla Commissione europea rispettivamente nel 2021 e nel 2020.

La legge sull'IA instaura un quadro normativo orizzontale – da applicare a qualsiasi sistema di Ia che interessi il mercato unico, indipendentemente dal fatto che il fornitore sia stabilito in Europa – utilizzando un approccio basato sul rischio; pone quindi una serie di obblighi giuridici e requisiti tecnici crescenti a seconda che il prodotto o servizio basato sull'Ia sia classificato come a basso, medio od alto rischio, fino a vietare del tutto una serie di possibili impieghi dell'IA.

Il nuovo piano coordinato fa seguito a quello del 2018, che già sanciva l'impegno comune da parte della Commissione europea e degli Stati membri a lavorare insieme per massimizzare il potenziale dell'Europa di competere a livello mondiale e ha indotto la maggior parte degli Stati membri ad adottare strategie nazionali in materia di Ia. Il nuovo piano rappresenta un passo ulteriore, prevedendo un insieme di azioni concrete congiunte della Commissione e degli Stati membri volte a creare una leadership globale dell'Ue in materia di Ia affidabile.

Il Cese svolge un ruolo di primo piano nel dibattito sull'Ia in Europa sin dal suo primo parere sul tema, adottato nel 2017 – un atto precursore in cui figuravano già molti elementi essenziali della strategia in materia di Ia successivamente adottata dalla Commissione, a cominciare dall'approccio basato sul controllo della macchina da parte dell'uomo ("human-in-command"), che è alla base di tutti i suoi lavori su questa tecnologia.

Intanto l'intensa attività del Cese in materia di Ia prosegue anche negli ultimi mesi del 2021: l'8 novembre il Comitato ospiterà il suo secondo vertice sull'Ia, organizzato in collaborazione con la commissione speciale del Parlamento europeo sull'intelligenza artificiale in un'era digitale (Aida). Questa edizione del vertice sarà dedicata alla legge sull'intelligenza artificiale, alla sua applicazione e alle competenze specialistiche che essa implica, con particolare riferimento alle Pmi.

Il testo integrale del parere del Cese in merito alla legge sull'IA è disponibile qui e il testo integrale del parere del Cese in merito al piano coordinato sull'IA qui. Ai seguenti link le proposte della Commissione relative alla legge sull'IA e al piano coordinato sull'IA.