La Magna Charta del pontificato di Leone XIV: critica del liberalismo e regolazione del capitalismo

di Eros Barone

1. La sfida della torre di Babele

L’enciclica Magnifica Humanitas pubblicata il 15 maggio scorso dal papa statunitense Robert Prevost, alias Leone XIV, è un testo di 245 pagine e cinque capitoli, più introduzione e conclusione¹. Si tratta di un testo molto ampio e complesso che si pone esplicitamente sulla scia della Rerum Novarum di papa Leone XIII e punta ad approfondire i temi della dottrina sociale della Chiesa, proiettando tale dottrina in avanti e aggiornandola a partire dalla sfida posta oggi all’umanità dall’intelligenza artificiale, dal paradigma tecnocratico e dalle ideologie del transumanesimo e del postumanesimo. L’indice dei cinque capitoli in cui si articola il testo di questa enciclica fornisce, peraltro, una mappa essenziale del vasto territorio esplorato da un papa che sembra voler raccogliere e tesoreggiare, attraverso un accorto bilanciamento dell’istanza della continuità e dell’istanza dell’innovazione, la duplice eredità dei suoi immediati predecessori: quella teologica di papa Ratzinger e quella pastorale di papa Bergoglio: Introduzione; capitolo 1: Un pensiero dinamico fedele al Vangelo; capitolo 2: Fondamenti e princìpi della dottrina sociale della Chiesa; capitolo 3: Tecnica e dominio – La grandezza della persona umana davanti alle promesse dell’IA; capitolo 4: Custodire l’umano nella trasformazione – Verità, lavoro, libertà; 5) La cultura della potenza e la civiltà dell’amore; Conclusione.

Poiché non è possibile riassumere i contenuti del documento pontificio senza rischiare di sacrificare l’unità logica della ricapitolazione sintetica a cui l’autore ha costantemente mirato, giova almeno ribadire, desumendoli dall’indice analitico dei paragrafi, i princìpi chiave della dottrina sociale della Chiesa, così come sono stati enunciati da Leone XIV: l’essere umano immagine del Dio trinitario; l’eguale dignità di tutti gli esseri umani; l’altissimo valore dei diritti umani; i princìpi della Dottrina sociale; il principio del bene comune; il principio della destinazione universale dei beni; il principio di sussidiarietà; il principio di solidarietà; il principio della giustizia sociale; lo sviluppo umano integrale.

L’‘incipit’ della Magnifica Humanitas enuncia subito, fin dal primo paragrafo, una secca alternativa: «La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme. Ogni generazione riceve in eredità il compito di dare forma al proprio tempo: di far maturare la storia come luogo in cui la dignità di ogni persona sia custodita, la giustizia promossa e la fraternità resa possibile. Ma su ogni epoca incombe il rischio di costruire un mondo disumano e più ingiusto.» E già qui le due metafore tratte dal testo biblico (la torre di Babele e la ricostruzione di Gerusalemme²) rendono evidente la radice teologica della formazione di un papa che proviene dall’Ordine Agostiniano, dove ha ricoperto anche il ruolo di superiore generale. Vediamo allora di seguire, fra le varie piste che si intrecciano nel testo leoniano, quella che ne rappresenta la maggiore novità, ossia l’analisi dell’intelligenza artificiale e l’argomentazione che viene sviluppata a proposito della regolazione giuridico-istituzionale della medesima per opera di uno Stato capace di intervenire (non a valle dell’iniziativa dei potenti soggetti privati che detengono le chiavi dell’IA bensì) a monte, fissando regole e norme che permettano di controllare e, al limite, impedire l’uso di questa tecnologia a fini di profitto e di potere.

2. Che cosa è l’Intelligenza Artificiale: due risposte convergenti

Per Leone XIV non è possibile formulare una definizione univoca e completa dell’IA: essa indica (cfr. il paragrafo 99) sistemi capaci di imitare alcune funzioni dell’intelligenza umana attraverso il trattamento dei dati, senza però possedere esperienza, corpo, coscienza morale, comprensione autentica o crescita interiore: «Non è possibile dare una definizione univoca e completa dell’IA», i cui sistemi «imitano alcune funzioni dell’intelligenza umana», anche se la loro potenza «resta legata esclusivamente al trattamento dei dati», «non vivono una esperienza», «non possiedono un corpo», «non hanno neppure una coscienza morale» e «non capiscono ciò che producono».

L’IA è certamente riguardata come uno strumento tecnico, sebbene non vada pensata come “soltanto uno strumento” neutro e isolato. In sede di commento al testo dell’enciclica, si potrebbe riassumere il dibattito circa la natura dell’IA nel seguente dilemma: l’IA è uno strumento (e coloro che affermano il contrario si sbagliano), ma non è soltanto uno strumento (e coloro che affermano il contrario si sbagliano). Dal canto suo, papa Prevost pone in risalto due aspetti: l’IA resta uno strumento ovvero un dispositivo tecnico, perché opera per mezzo di dati e di calcoli, ma non è né un soggetto personale né una vera intelligenza equiparabile all’essere umano. Tuttavia, pur essendo uno strumento, l’IA diventa il fattore di un ambiente socio-tecnico più ampio, perché penetra nelle infrastrutture digitali, nei processi decisionali, nell’immaginario collettivo e nelle relazioni sociali.

Seguendo questa linea di ragionamento, nel paragrafo 4 Leone XIV sottolinea che la digitalizzazione, l’IA e la robotica stanno trasformando il mondo e incidono profondamente sulla quotidianità, sui processi decisionali e sull’immaginario collettivo. Inoltre, nel paragrafo 96, trattando del potere delle «infrastrutture digitali e degli algoritmi», egli rivendica il diritto/dovere di verificare se favoriscano la partecipazione, la responsabilità, la protezione dei soggetti fragili e il bene comune. E nel paragrafo 9 la tecnologia è descritta, alla luce di un realismo dialettico che sorprende, come qualcosa che può «curare, connettere, educare, custodire la Casa comune», ma anche «dividere, scartare, generare nuove ingiustizie», laddove il papa sottolinea con forza il fatto che la tecnologia non è mai neutrale, in quanto «assume il volto di chi la pensa, la finanzia, la regola, la usa».

A questo punto risulta interessante, in ordine a una visione realistica dell’IA e alle consonanze che si possono registrare, un confronto tra il modo in cui il tema dell’IA è trattato nella Magnifica Humanitas, quindi alla luce di una sensibilità religiosa e sociologica, e il modo in cui lo stesso tema è trattato, alla luce di un approccio laico e rigorosamente scientifico, nella “Lettera aperta alla società” formulata da un gruppo di accademici del settore informatico. Questi ultimi rilevano, innanzitutto, che negli ultimi anni, con l’arrivo e la diffusione esplosiva dei sistemi generativi, le tecnologie informatiche comunemente note come “intelligenza artificiale” sono entrate con forza nel dibattito pubblico, talché si è arrivati a parlare di rivoluzione, di macchine che “pensano”, di coscienza artificiale, di sostituzione delle persone. Gli estensori di questo importante documento che proviene dall’interno della comunità scientifica italiana osservano però che una domanda semplice resta spesso senza risposta: che cosa sono davvero questi sistemi, e a che punto siamo realmente?

La domanda che essi pongono è la stessa da cui prende le mosse Leone XIV nei paragrafi dell’enciclica qui or ora richiamati: che cos’è l’intelligenza artificiale? Ed ecco la risposta: l’intelligenza artificiale ha l’obiettivo di simulare il pensiero umano, sia quello basato sul ragionamento (deduttivo) sia quello basato sui dati (induttivo). In passato si è lavorato soprattutto col primo approccio perché non c’erano a disposizione né le quantità di dati né la potenza di calcolo che sono disponibili adesso. Segue un’altra domanda, che permette di precisare la natura specifica dei sistemi attuali: che cos’è un sistema di “intelligenza artificiale generativa”?
I sistemi di intelligenza artificiale generativa, prosegue il documento, sono modelli matematico-statistici addestrati su enormi quantità di dati. Il loro funzionamento, nella sua essenza, è semplice: imparano dai dati a fare previsioni. Possono stimare quale parola è più probabile in una frase, quale immagine è coerente con una descrizione o quale risposta è compatibile con una domanda. Funzionano perché nei dati di addestramento esistono regolarità che il modello riesce a individuare su scala molto ampia. Si sono ottenuti risultati tecnici impressionanti e inattesi in diversi compiti cognitivi, che però non equivalgono a comprensione nel senso umano del termine. Conoscerne bene i limiti e le potenzialità diventa quindi sempre più importante.

Un’altra fondamentale domanda è questa: i sistemi di intelligenza artificiale generativa “capiscono”? Negli esseri umani, rispondono questi docenti e ricercatori in campo informatico, la comprensione implica l’esperienza del mondo e la capacità di verificare le informazioni. I sistemi di intelligenza artificiale generativa possono scrivere testi convincenti, risolvere esercizi o sostenere conversazioni complesse. Questo, però, non significa che capiscano ciò che stanno dicendo: c’è solo un calcolo di probabilità. Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’‘output’ statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica. In sostanza, questi sistemi funzionano molto bene quando il problema è simile a situazioni già presenti nei dati di addestramento e quando sono disponibili molti esempi da cui apprendere, mentre diventano più fragili quando le informazioni cambiano rapidamente, quando il tema è controverso o quando l’argomento è significativamente diverso dai dati conosciuti. In queste situazioni possono produrre risposte fluenti, cioè apparentemente coerenti e corrette, ma errate. Il punto non è che a volte sbagliano: il punto è che questi sistemi producono risposte plausibili senza disporre di un meccanismo interno per verificarne la veridicità. Dopo aver osservato che nel dibattito pubblico si parla spesso di “AGI” (Artificial General Intelligence), cioè di sistemi capaci di comprendere e ragionare in modo ampio e autonomo come un essere umano, il documento chiarisce la natura ontologica dell’AGI, sottolineando che gli attuali sistemi non presentano queste caratteristiche, in quanto è vero che sono molto potenti nel riorganizzare le informazioni già presenti nei dati, ma non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani. L’aumento dei dati e della potenza di calcolo migliora le prestazioni, ma non cambia la natura del meccanismo di base, che rimane basato principalmente su previsioni statistiche su larga scala, anche se le rappresentazioni interne che emergono durante l’addestramento possono essere molto complesse.

La conclusione è che il rischio non è questa tecnologia in sé, ma il modo in cui l’interpretiamo. Se si tratta la fluidità linguistica come prova di conoscenza o si delega il giudizio senza comprendere il funzionamento dello strumento, si rischia infatti di confondere coerenza con affidabilità. In questo modo può cambiare, spesso senza accorgercene, il criterio con cui riconosciamo ciò che è conoscenza³. E ancora una volta comune a entrambe le prese di posizione, quella del papa e quella degli accademici, risulta essere la conclusione, ossia la risposta alla cruciale domanda sul “che fare?”: la vera priorità è formare le persone a comprendere queste tecnologie, giacché sapere come funzionano, quali sono i loro limiti e come possono essere utilizzate in modo responsabile è oggi una competenza fondamentale per tutti i cittadini. Perciò la comunità accademica dell’informatica viene invitata dagli studiosi in parola a contribuire attivamente ad un’opera di chiarimento e formazione animata dalla consapevolezza secondo cui spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del lavoro di ricercatori e docenti.

3. Paradigma tecnocratico, transumanesimo e IA

L’enciclica, nel terzo capitolo intitolato Tecnica e dominio. La grandezza della persona umana davanti alle promesse dell’IA, iscrive quest’ultima dentro la cornice ideologica e culturale del paradigma tecnocratico. L’IA è una delle tecnologie che rientrano in tale cornice, così come il binomio “transumanesimo/postumanesimo” rappresenta i costrutti ideologici che estendono quella cornice fino a inglobare l’idea di superare od oltrepassare l’umano. Il paradigma tecnocratico viene descritto come la tendenza a permettere che «efficienza, controllo e profitto» governino in modo esclusivo le scelte personali, sociali ed economiche. Quando la tecnica diventa criterio, osserva papa Prevost, essa stabilisce «che cosa conta e che cosa può essere scartato», riducendo le persone a ingranaggi di un sistema sempre più performante. Questo è proprio il punto di partenza di una narrazione ideologica deviante (cfr. il paragrafo 92): la tecnica non è più solo mezzo, ma diventa misura del valore e l’IA si trasforma in fattore di potenziamento di questa logica. Leone XIV sostiene, in base ad una concezione ovviamente spiritualistica (la cui rilevanza, comunque, non va sottovalutata come presa di distanza da un atteggiamento di piatta e acritica adesione a un diffuso mitema sociale), che il paradigma tecnocratico, per effetto della diffusione dell’intelligenza artificiale, si è esteso fino a comprendere anche le scienze cognitive, la nanotecnologia, la robotica e la biotecnologia. Queste innovazioni, secondo il papa, possono essere un aiuto per lo sviluppo umano integrale, ma possono anche agire come «acceleratore del paradigma tecnocratico», se non sono orientate da un quadro spirituale, etico e politico (cfr. il paragrafo 93).

In conclusione, il transumanesimo e il postumanesimo sono presentati quali narrazioni ideologico-culturali che interpretano il progresso come superamento dell’umano. Il transumanesimo immagina che il potenziamento dell’essere umano si realizzi attraverso tecnologie, dispositivi, algoritmi e biomedicina; il postumanesimo, nelle versioni più radicali, prospetta l’ibridazione tra essere umano, macchina e ambiente fino a un nuovo stadio evolutivo (cfr. i paragrafi 115-116).  Il punto critico, per Leone XIV, non è l’uso della tecnica in sé. Il problema nasce, secondo l’interpretazione formulata dal papa, quando l’essere umano viene trattato come materiale da perfezionare o da oltrepassare. In tal caso diventa più facile considerare alcune persone «meno utili, meno desiderabili, meno degne» e giustificare sacrifici in nome dell’ottimizzazione o del progresso (cfr. paragrafo 117), laddove il rischio è che la persona non sia più riconosciuta nella sua dignità integrale, ma valutata in base a prestazione, efficienza, controllo e idoneità a essere “ottimizzata”.

4. Una variante dell’economia sociale di mercato: il capitalismo della regolazione

Il testo dell’enciclica, che tocca tutta una serie di temi e di problemi che in questa sede possono soltanto essere indicati, è quanto mai ricco: l’educazione, la scuola, il lavoro, la guerra e la pace, il mutamento degli equilibri geopolitici, la crisi del multilateralismo, le categorie filosofiche e morali che vanno usate nella interpretazione degli eventi e dei valori (di notevole interesse è, ad esempio, la distinzione dei differenti significati del concetto di “dignità” nel paragrafo 52).

Un tema cruciale merita tuttavia di essere ripreso in chiusura: se e come regolare l’IA (e le tecnologie in generale). Ed è significativo che un papa statunitense individui il contrasto tra il modello nordamericano, che vede ogni intervento di regolamentazione come indebita interferenza nella sfera privata e attentato alla libertà di impresa e di innovazione, e un modello parzialmente alternativo incentrato, almeno ipoteticamente e ottativamente secondo l’approccio postulatorio del pontefice, sulla sintesi tra i valori della libertà e dell’innovazione ed i valori democratici, la giustizia sociale e l’equità. Ebbene, a giudizio di Leone XIV, l’IA va sì regolata, ma la regolazione da sola non basta. Il papa pone decisamente l’accento, senza il timore di apparire utopistico data l’inversione da lui postulata del rapporto di causa-effetto che intercede tra l’economia e la politica, sul ruolo della politica e dei governi, cui spetta il compito di impedire che l’IA sia governata solo dal mercato, dai monopoli tecnologici o dalle logiche di carattere tecnocratico. La politica deve dunque orientare l’innovazione verso il bene comune, la giustizia, la dignità umana, la partecipazione e la protezione dei soggetti più fragili.

Il primo obiettivo è esplicitato nel paragrafo 5: Leone XIV afferma che è necessario adottare «strumenti normativi adeguati» per tutelare la giustizia e contenere gli effetti distorsivi del potere tecnologico. Aggiunge però che la questione non si esaurisce nella regolamentazione, perché bisogna anche chiedersi chi detenga il potere tecnologico e a quali fini lo orienti. Nello stesso paragrafo osserva che oggi i principali motori dell’innovazione sono rappresentati da imprese private transnazionali, più potenti di molti governi, e a causa della opacità costitutiva del suo carattere privatistico il potere tecnologico è più difficile da conoscere, governare e orientare al bene comune.

La seconda decisiva istanza è formulata nel paragrafo 106, ove si afferma a chiare note che non basta invocare genericamente l’etica. Servono «quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito». Se la politica abdica, il cambiamento viene governato infatti solo da logiche di carattere tecnocratico e da chi possiede dati, infrastrutture e capacità di calcolo. Al paragrafo 107 chiarisce ulteriormente che non basta chiedere un’IA “allineata” a valori umani se quei valori sono decisi da pochi. Serve invece una politica capace di proteggere gli spazi di partecipazione, rallentare quando tutto accelera e permettere alle comunità di discutere i criteri etici incorporati nei sistemi.

Al paragrafo 108 entra nel merito della regolazione: l’uso dell’IA, soprattutto quando riguarda beni pubblici e diritti fondamentali, deve essere accompagnato da criteri chiari e controlli effettivi. Inoltre, la proprietà dei dati «non può essere affidata solo a privati, ma va regolamentata», perché i dati sono frutto del contributo di molti e non possono essere venduti o concentrati nelle mani di pochi. L’orientamento statalista che caratterizza l’atteggiamento di Leone XIV, ancorché contemperato dal riferimento al principio di solidarietà e al pluralismo associativo, costituisce una importante novità del modo in cui egli imposta il tema della regolazione. Tale novità, qualificabile in un certo senso come rooseveltiana, emerge con forza nel paragrafo 163, ove il pontefice afferma che nell’epoca dell’IA e della robotica non ci si può affidare alla sola “mano invisibile” del mercato, giacché la politica ha il compito di orientare le dinamiche economico-tecnologiche verso il bene comune, promuovendo un lavoro dignitoso, l’inclusione sociale e l’equa distribuzione dei benefici dell’innovazione.

In conclusione, Leone XIV pone in primo piano il ruolo della politica e afferma e ribadisce, con lo stile pacato e coraggioso che gli è proprio (come si è visto nell’aspro scontro con il presidente del suo paese natale a proposito della guerra contro l’Iran), un principio di autentica democrazia che fa di lui, sulle orme del suo predecessore, una voce dissonante dal coro guerrafondaio e politicamente reazionario degli esponenti governativi di tanti paesi. Averci ricordato che la politica non deve limitarsi a inseguire la tecnologia dopo che è stata introdotta; che l’IA deve essere regolata e governata democraticamente, nonché orientata alla dignità umana, quindi resa contestabile e controllabile dai ricercatori e dai cittadini, i quali hanno il diritto/dovere di partecipare alla definizione delle sue condizioni, dei suoi limiti e dei suoi fini: tutto ciò fa di lui, oltre che un avversario rispettabile sul terreno dei princìpi, un prezioso alleato politico sul terreno della lotta contro la guerra, per una pace non disgiunta dalla giustizia nei rapporti internazionali e dalla solidarietà militante con i popoli che si oppongono al dominio imperialista e che lottano per la loro liberazione.

Note

1 Si veda nella Rete al seguente indirizzo: https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html.

2 Cfr. Genesi, c. 11, vv. 1-9 e Neemia, cc. 2-6)

fCondividi

Whatsapp