La Babele dell’I.A.
di Paolo Bottazzini
Marx e le icone bibliche
Leone XIV sembra concordare con il Marx dei Grundrisse che le macchine non possano essere racchiuse nel dominio della tecnica, ma debbano essere pensate come una cristallizzazione di rapporti sociali. L’automazione trasforma in ingranaggi e in procedure normalizzate un sapere che è maturato nelle pratiche dei lavoratori, con le operazioni di produzione e nell’interazione con i clienti. I vantaggi che derivano dalla robotizzazione della conoscenza però vengono accumulati solo dai padroni dei dispositivi, mentre tutti gli altri ne restano espropriati, insieme alla perdita del lavoro e all’emarginazione dalla comunità.
L’analisi dell’ambiente tecnologico contemporaneo per il Pontefice deve quindi passare da una ricognizione degli effetti che le piattaforme digitali iscrivono sui rapporti tra nazioni, sulla dialettica tra finanzia, impresa e lavoro, sui comportamenti interni alle famiglie, sulla formazione scolastica. I due riferimenti biblici che vengono invocati nell’Enciclica riguardano due opere di tecnologia edilizia che collocano la comunità al centro dell’impresa: la Torre di Babele e la ricostruzione delle Mura di Gerusalemme. Nel primo caso la tracotanza del progetto si conclude con il fallimento dell’iniziativa e con la dissoluzione della società, che si frammenta in una pluralità di lingue e di fazioni incapaci di comprendersi tra loro. La seconda icona invece rievoca la figura di Neemia, l’uomo della preghiera e della mediazione, che consegna una nuova identità al popolo di Israele attraverso la ricerca pragmatica della concordia.
I software di intelligenza artificiale di più largo impiego, gli LLM come ChatGPT, Claude o DeepSeek, somigliano più alla Torre di Babele che all’abilità diplomatica di Neemia. Il loro sviluppo sollecita l’accumulo di un corpus di testi, esteso idealmente quanto la produzione scritta di tutta l’umanità, per il training della macchina; eppure il programma non aspira ad alcuna comprensione semantica del contenuto del database. Il costo di generazione dei modelli fondamentali trincera un piccolo oligopolio di imprese dalla concorrenza, con uno sbarramento finanziario invalicabile; al contempo assicura all’aristocrazia dei loro azionisti una rendita di centinaia di miliardi di dollari.
La rincorsa al controllo di ricchezze smisurate, la razzia di un archivio di dati su documenti e su individui, privo di paragone in alcuna istituzione pubblica lungo la storia dell’umanità, la pretesa di costruire un’intelligenza generale paragonabile (se non superiore) a quella della mente umana – sono gli indizi dell’ambizione da parte di un’élite di tecnici, pirati della finanza, ideologi dello spirito hacker e del “capitalismo della frammentazione”, di stagliarsi al di sopra delle leggi dell’umanità e della natura, di trasformare l’assetto politico delle nazioni, di trascendere i confini biologici assegnati alla finitezza cognitiva ed esistenziale dell’uomo. Il mito dell’“archetipo randiano”, dell’individuo che per il suo talento e per la forza della sua razionalità sperimenta una sorta di ingiunzione morale a procedere oltre le convenzioni sociali e le leggi dello stato, per condurre l’umanità oltre i suoi limiti attuali – insieme all’individualismo della concezione liberale americana, e alla fiducia nella portata redentrice della tecnologia – possono essere lette, attraverso la lente dell’archetipo della Torre di Babele, come l’espressione di una hybris che innalza gli innovatori della Silicon Valley alla mandorla di Dio pantocrate.
Tecnologia politica
La concertazione di Neemia, la sua pazienza, la sua costruzione pezzo per pezzo, occasione per occasione, di una comunità attraverso pragmatismo e sapienza, non rilevano alcuna analogia con l’atteggiamento suprematista degli imprenditori californiani. Nell’Enciclica la riflessione sulla ricostruzione delle Mura di Gerusalemme è marginale, suona come una sorta di contrappunto dialettico, persino nostalgico, rispetto ad una realtà dove i muscoli della finanza e delle armi sembrano ormai essersi impadroniti della scena internazionale, a discapito di ogni altra forma di ragione. Babele è la realtà, Neemia è l’utopia che si deve materializzare.
Leone XIV condanna le forme di gnosticismo tecnologico che si sono condensate negli ambienti intellettuali e tecnologici della Silicon Valley. Le varie escatologie transumaniste del singolarismo, dell’estropianesimo, del cosmismo, del razionalismo, del postumanismo, dell’altruismo efficace, confidano nell’evoluzione delle macchine per strappare l’umanità (in senso collettivo e distributivo, a volte nella sua totalità, a volte a vantaggio solo di un’enclave di soggetti eccezionali) dalla tirannia della morte e dell’infelicità terrena. Un vate della tecnologia digitale come Ray Kurzweil ha predetto che il simbionte uomo-macchina si realizzerà prima della fine di questo secolo, e che il destino degli individui si materializzerà nella migrazione progressiva in un corpo di silicio: il composto, sempre più artificiale e sempre meno naturale, sempre meno caduco e sempre più rinnovabile, conserverà in eterno la personalità (e la coscienza) individuale, espandendola con una potenza di calcolo che renderà infinita anche la portata della sua mente razionale. Una forma di immortalità del corpo e dell’anima che traduce il Verbo messianico nel linguaggio ingegneristico di una profezia digitale, non molto più laica.
Dalle parti di San Francisco Bay la fisicità che ci ha consegnato la natura al momento della nascita è vissuta con un certo imbarazzo, per la sua esposizione alla malattia, all’inefficienza del sonno e della stanchezza, alla debolezza dell’irrazionalità, e naturalmente alla vecchiaia e alla morte. Lo scopo ultimo dell’innovazione tecnologica è porre fine a questo scandalo, trasfigurando l’uomo in un corpo di luce fatto di bit, di risorse di memoria e di intelligenza estendibili all’infinito: questa visione antropologica di ampio respiro si integra con un programma politico che intende sostituire l’impianto politico tradizionale con una nuova concezione della convivenza umana, in cui la sovranità viene sottratta alle istituzioni e consegnata ad un sistema gestionale modellato su quello delle società per azioni, guidate da un amministratore delegato che rimpiazza parlamenti, presidenti e prìncipi – mentre il popolo abbandona la sua autonomia di cittadinanza o di sudditanza, per investirsi nel ruolo di cliente e di consumatore di servizi. La funzionalità operativa soppianta la volontà generale, il dibattito che conduce alla deliberazione viene surrogato dalla proficuità della pianificazione esecutiva, per la quale solo i problemi esplicitabili in termini tecnici vantano una consistena ontologica; su tutto domina la fede che l’evoluzione delle macchine sia un percorso deterministico e ineluttabile (in ogni caso sottratto allo scrutinio pubblico).
Si tratta di un quadro che può apparire distopico o utopico, secondo la simpatia che si prova nei confronti di personaggi come Elon Musk o Peter Thiel (ma anche come Steve Jobs, Ray Kurzweil o Alex Karp); in ogni caso, si deve ammettere che questa sia l’unica visione antropologica, e l’unico progetto politico di ampia portata, partoriti negli ultimi decenni dal mondo occidentale: tutto intorno si distende la vacuità degli organismi politici e delle istituzioni intellettuali, che sembrano cercare modalità di adattamento indolori, piuttosto che esplorare e implementare modelli alternativi.
Purtroppo anche nell’Enciclica manca del tutto un’analisi della tecnologia politica elaborata dalla Silicon Valley (e non solo, se si pensa che il vicepresidente Vance è espressione diretta della lobby digitale): compare solo un ammonimento di circostanza contro l’adorazione degli idoli transumanistici, di moda nei circoli californiani. Non si tenta nemmeno un esame del tipo di macchine elaborate dai vari filoni di ricerca sull’AI, sulle loro possibilità operative e sulle attese suscitate nel pubblico, il disallineamento tra le richieste sottoposte loro e la portata effettiva della loro capacità di risposta. Non si prova a comprendere il significato della forma simbolica incarnata nel mito dell’Intelligenza Artificiale Generale, metà Messia e metà Golem, che costituisce l’orizzonte di riferimento delle promesse del marketing, della fiducia degli investitori, della ricerca ingegneristica.
In assenza di un approfondimento che entri nel merito del significato della tecnologia attuale, che è prima di tutto visione politica e antropologica, gli appelli dell’Encliclica a finalizzare i dispositivi digitali come strumenti della costruzione del bene comune, delle Mura della nuova Gerusalemme, suonano generici e già coperti dal rumore dei futuri annunci, dei prossimi vaticini strillati dagli innovatori della Silicon Valley, e dello stupore e del terrore sollevati dalla corte dei media e del pubblico al loro seguito. L’impiego di dispositivi che consumano energia quanto intere città, e che hanno scalato un valore nominale di centinaia di miliardi di dollari, dovrebbe concorrere al benessere delle famiglie, delle scuole, dei lavoratori, dei giovani di tutto il mondo, sulla sola istanza della buona volontà degli uomini che le gestiscono – e forse anche di quella di coloro che li dovrebbero controllare e che dovrebbero normare i loro comportamenti.
L’auspicio è più che condivisibile, ma per vederne la concretizzazione si deve contare sui buoni rapporti che l’Autore intrattiene con la più referenziata fabbrica di miracoli della storia. Da oltre due millenni la Chiesa stima più la fede che la forza della ragione, e ne è sempre uscita vincente: speriamo ci riesca ancora una volta.
RIFERIMENTI BIBLIOGRAFICI:
R. Kurzweil, La singolarità è vicina, Apogeo 2006
K. Marx, Frammento sulle macchine, trad. it. di R. Solmi, in “Quaderni rossi”, 4, 1964. Tratto da Grundrisse der Kritik der Politischen Ökonomie, Dietz Verlag 1953.
Leone XIV, Magnifica Humanitas, Libreria Editrice Vaticana, 2026
Q. Slobodian, il capitalismo della frammentazione, Einaudi 2023.
Add comment