Intelligenza artificiale e Chiesa: padre Benanti e la trappola dell’algoritmo

Francesco Peloso
23/01/2024

La coscienza non appartiene alla macchina. E il fine ultimo di ogni sua operazione deve essere dettato dall'uomo. Perché perdere il controllo può portare a «esiti catastrofici». Anche per le democrazie. I dubbi del teologo francescano nominato dal governo presidente della commissione sull'Ia.

Intelligenza artificiale e Chiesa: padre Benanti e la trappola dell’algoritmo

L’intelligenza artificiale oltre ai grandi benefici che può apportare all’umanità come ogni importante progresso scientifico e tecnologico comporta un rischio tremendo: quello di farci compiere senza che nemmeno ce ne accorgiamo un passo definitivo verso un tipo di società orwelliana, ovvero verso un mondo che fa dell’omologazione e del controllo il suo centro, mentre la coscienza e la dignità umane vengono compresse e schiacciate dal potere di turno. Una profezia troppo negativa e pessimista? Forse, tuttavia è lungo questo crinale che si muovono le preoccupazioni della Santa sede e della Chiesa rispetto allo sviluppo dell’Ia. Non è allora forse un caso che uno dei maggiori esperti di etica e intelligenza artificiale sia un frate francescano, padre Paolo Benanti, teologo e filosofo, stretto collaboratore di Papa Francesco, e docente all’Università Gregoriana di Roma. Tutto questo sarebbe ancora la normalità se non fosse che Benanti ha ricevuto un doppio incarico per occuparsi di Ia: prima da parte dell’Onu e poi dal governo italiano. Nel primo caso è stato chiamato nell’ottobre scorso dal Segretario generale delle Nazioni Unite, Antonio Guterres, a far parte del Comitato Onu di esperti sull’Artificial Intelligence. Dopo di che anche il governo italiano ha deciso di nominare, all’inizio del 2024, il religioso come presidente della Commissione sull’intelligenza artificiale, organo del dipartimento per l’Informazione e l’editoria presso la Presidenza del Consiglio.

Intelligenza artificiale e Chiesa: padre Benanti e la trappola dell'algoritmo
Padre Paolo Benanti, presidente della Commissione sull’Ia (Imagoeconomica).

Benanti e l’allarme sulle fake news

Benanti, che è nato nel 1973 e ha preso il posto dell’ottuagenario Giuliano Amato, come si legge nella sua biografia, «si occupa di etica, bioetica ed etica delle tecnologie. In particolare i suoi studi si focalizzano sulla gestione dell’innovazione: internet e l’impatto del Digital Age, le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie». Il presidente del Comitato ha già fatto capire come la pensa durante le audizioni in Commissione di vigilanza Rai. Lo scorso 18 gennaio, ha parlato infatti rischio che si diffondano notizie prodotte «artificialmente»; uno scenario di fronte al quale ha avanzato, fra l’altro, l’ipotesi di creare un bollino che identifichi le notizie elaborate solo dalle macchine e ha proposto, inoltre, un ruolo crescente delle autorità di settore come l’Agcom per esercitare un minimo di controllo su quanto sta avvenendo. «Con il lavoro della Commissione cercheremo di fare una fotografia di quello che c’è oggi» con l’obiettivo di «valorizzare il lavoro dell’uomo, per dare visibilità a ciò che è prodotto con una responsabilità personale», ha detto Benanti, sottolineando dunque la centralità dei giornalisti e della formazione di tutti i cittadini, alla quale può contribuire anche il servizio pubblico. Qualcuno, ha storto il naso quando si è saputo che a presiedere il comitato per l’intelligenza artificiale presso la presidenza del Consiglio era stato scelto un religioso, anche perché dalle parti del Vaticano non hanno mai avuto un rapporto troppo sereno con la scienza, il che certamente contiene una parte di verità. Tuttavia stavolta le preoccupazioni sollevate Oltretevere coincidono con quelle avanzate da tanti scienziati, politici ed esperti della materia che potremmo sintetizzare in questo modo: l’intelligenza artificiale ha potenzialità enormi ma porta con sé anche enormi problemi per la sopravvivenza stessa delle democrazie moderne.

Le preoccupazioni della Santa Sede circa la dittatura degli algoritmi: l’identità umana non può risolversi in un insieme di dati

Il Papa, che pure è intervenuto più volte sull’argomento, ha voluto dare poi una cornice definitiva al suo pensiero nel messaggio per la Giornata mondiale per la pace che si celebra il primo gennaio di ogni anno, non a caso nel 2024 dedicata al tema Intelligenza artificiale e pace. Nel testo si legge fra l’altro: «In futuro, l’affidabilità di chi richiede un mutuo, l’idoneità di un individuo a un lavoro, la possibilità di recidiva di un condannato o il diritto a ricevere asilo politico o assistenza sociale potrebbero essere determinati da sistemi di intelligenza artificiale. La mancanza di diversificati livelli di mediazione che questi sistemi introducono è particolarmente esposta a forme di pregiudizio e discriminazione: gli errori sistemici possono facilmente moltiplicarsi, producendo non solo ingiustizie in singoli casi ma anche, per effetto domino, vere e proprie forme di disuguaglianza sociale». In sostanza, il cuore dell’allarme lanciato dalla Santa Sede è di tipo etico: un algoritmo non solo non è Dio, ma non ci salverà nemmeno dal male. Più esplicitamente ancora, si afferma infatti: «L’affidamento a processi automatici che categorizzano gli individui, ad esempio attraverso l’uso pervasivo della vigilanza o l’adozione di sistemi di credito sociale, potrebbe avere ripercussioni profonde anche sul tessuto civile, stabilendo improprie graduatorie tra i cittadini». In una simile prospettiva, tali «processi artificiali di classificazione potrebbero portare anche a conflitti di potere, non riguardando solo destinatari virtuali, ma persone in carne e ossa. Il rispetto fondamentale per la dignità umana postula di rifiutare che l’unicità della persona venga identificata con un insieme di dati. Non si deve permettere agli algoritmi di determinare il modo in cui intendiamo i diritti umani, di mettere da parte i valori essenziali della compassione, della misericordia e del perdono o di eliminare la possibilità che un individuo cambi e si lasci alle spalle il passato». La redenzione, insomma, non può essere decisa da un algoritmo.

Il Papa torna a parlare delle dimissioni: «Sono un'ipotesi ma non in questo momento»
Papa Francesco (Getty Images).

La coscienza non può appartenere alla macchina: il fine ultimo deve restare in mano all’uomo

Che il tema del rapporto fra etica e intelligenza artificiale sia ineludibile – in pratica la questione riguarda la moralità o l’immoralità delle macchine, sia pure altamente sviluppate tanto da dare l’illusione di essere “pensanti” – non ce lo ricorda solo la fantascienza (si pensi ai replicanti di Blade runner che rifiutano la loro ‘morte’ perché, in qualche modo, ne hanno preso coscienza). Lo stesso padre Benanati ha toccato il tema in diverse occasioni. «Nonostante quanto alcuni film di fantascienza possano farci pensare», ha spiegato in una recente intervista all’Osservatore romano, «la coscienza non è qualcosa che appartiene alla macchina. Quindi non c’è una soggettività che si interroga su se stessa o che interroga il mondo. È una macchina che esegue dei compiti. Riceve dei fini dall’uomo, come il robottino che può pulirci casa, per cui gli dico: ‘pulisci la casa’ e poi adegua i mezzi utilizzando l’aspiratore, va a sbattere, torna indietro, cosa che succede quando magari trova le scale, tutte cose legate a quel fine. Quindi questa parte, il ‘nuovo manico’ dell’Intelligenza Artificiale, cioè la scelta dei fini adeguati, deve e può essere solo in mano all’uomo. Ciò non toglie che dare dei fini alla macchina senza pensarci troppo, senza farci le giuste domande, può portare a degli esiti catastrofici, pur senza la presenza di una macchina cosciente». Più in generale, tuttavia, «l’intelligenza artificiale può funzionare come un moltiplicatore. Dove trova ricchezza e un tessuto con tante risorse, può moltiplicarle. Dove trova, in realtà, non un segno più, ma un segno meno, può marcare questo segno meno, anche perché questi sistemi — per quanto siano globali — sono appannaggio e di proprietà di pochissime aziende mondiali». In questo momento, sottolineava ancora Benanti, «le grandi innovazioni dell’intelligenza artificiale vengono fatte da nove compagnie globali che hanno tutte una capitalizzazione superiore al trilione di dollari. […]. Insomma, non è un prodotto diffuso, non è una cosa a cui tutti possono arrivare. Si rischia sempre di più una forma di dipendenza da pochissimi monopolisti».

Intelligenza artificiale e Chiesa: padre Benanti e la trappola dell'algoritmo
Il robot Nao agli stati generali del lavoro di FdI (Imagoeconomica).

L’Intelligenza artificiale e i rischi per le democrazie

Ma è in merito all’impatto che queste tecnologie possono avere sui sistemi democratici che il discorso si fa ancora più interessante. La rivoluzione parte dalla comunicazione. «Ci suggeriscono cosa leggere, ci profilano creando per noi una sorta di panorama digitale personalizzato, creano fake news, cioè testi, immagini e anche video falsi indistinguibili da prodotti veri», rifletteva Benanti sul suo blog. «Il potere nelle comunicazioni di massa delle Ai è così forte e pervasivo da generare quello che potremmo chiamare un quinto potere», aggiungeva, mettendo in guardia: «Quello che c’è in ballo è la capacità di formare in maniera pervasiva e sistematica l’opinione pubblica». Interessanti anche le ricostruzioni dei precedenti di questo processo. «Se torniamo al 2008 è interessante rileggere quello che l’allora Ceo di Google, Erich Schmidt, decise sul supporto che la compagnia avrebbe dato ai candidati alle Presidenziali Usa. E scelse i democratici e Barack Obama», ricordava il teologo. «Schmidt ha detto apertamente che Obama raggiunse il successo almeno in parte grazie a Internet». Anche Trump, naturalmente, si è servito della Rete e non senza polemiche. «Più di uno spot pro-Trump ha utilizzato filmati propagandistici provenienti dalla Russia e dalla Bielorussia in importanti campagne», ha ricordato Benanti. Senza dimenticare le indagini «sulle operazioni del mercato degli annunci internet operate dall’estero e dai russi». Insomma Internet è politica e, soprattutto, uno strumento di potere.