Magnifica humanitas laus fallaciarum
di jolek78
…] smontare le fallacie di un testo che per metà condivido è, mi pare, il modo più serio di rispettarlo
L’enciclica di Leone XIV Magnifica Humanitas è uscita il 15 maggio, e nel giro di una settimana avevo già letto più o meno tutti gli elogi possibili. I cattolici di sinistra (leggasi: cattocomunisti) l’hanno celebrata per l’anticapitalismo esplicito; i critici della tecnologia (leggasi: tecnoscettici) per il monito sulle Big Tech; i giornali generalisti per le citazioni pop – Tolkien, Beethoven, Schindler’s List; perfino qualche ateo dichiarato, in giro per i social, si è tolto il cappello davanti alla lucidità con cui un Papa nomina la concentrazione di potere computazionale nelle mani di pochi. Alla presentazione, nell’Aula del Sinodo, sedeva tra i relatori Chris Olah, cofondatore di Anthropic e responsabile della ricerca sull’interpretabilità dell’AI. Non è un dettaglio: è la firma di un documento che vuole essere preso sul serio anche da chi i modelli li costruisce davvero.
Di lodi, insomma, ne ho lette abbastanza. Io però voglio fare l’esercizio opposto.
Non perché Magnifica Humanitas sia un brutto testo – è anzi notevole, ed è proprio per questo che merita di essere trattato come un argomento e non come un’omelia. Voglio leggerla come si legge una dimostrazione: seguendo i passaggi uno per uno, e fermandomi nei punti dove il ragionamento si rompe (spesso). Premetto una cosa, per onestà, visto che è la regola della casa: su buona parte della diagnosi sono d’accordo. L’analisi del potere tecnologico privato – gli attori transnazionali con risorse superiori a quelle di molti governi, l’opacità degli algoritmi, i dati come bene comune sottratto alla collettività, il lavoro invisibile e sfruttato che alimenta i modelli – è roba che firmerei domani. Il bersaglio di questo pezzo non è la politica dell’enciclica. È la sua logica. E smontare le fallacie di un testo che per metà condivido è, mi pare, il modo più serio di rispettarlo.
Una nota di metodo prima di cominciare. L’enciclica conta duecentoquarantacinque paragrafi, e la parola “dignità” vi ricorre centouno volte. Non è un tic stilistico: è la chiave di volta dell’intero edificio. E le chiavi di volta, in un ragionamento, sono esattamente i punti che vanno testati per primi – perché se cede quella, cede tutto il resto.
Prima crepa
Tutto il documento poggia su due immagini bibliche contrapposte: la torre di Babele e la ricostruzione di Gerusalemme sotto Neemia. Da una parte la costruzione superba, l’uniformità che appiattisce, il dominio che disumanizza; dall’altra il lavoro condiviso, ciascuno col suo tratto di muro, la comunione. Leone XIV lo dice in modo esplicito al paragrafo 9: “la prima scelta non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme.”
È un’immagine potentissima, e funziona benissimo come retorica. Come logica, è un falso dilemma – la più classica delle fallacie: presentare come esaustive due sole opzioni quando ne esistono altre. Ma la trappola vera non sta nella biforcazione in sé. Sta in come Babele viene definita. Al paragrafo 7 si legge che la torre è “un’opera concepita senza riferimento a Dio”. Tenete a mente questa frase, perché fa tutto il lavoro sporco. Se Babele è per definizione il progetto costruito senza Dio, allora qualsiasi impresa collettiva laica – qualsiasi tentativo immanente, orizzontale, ateo di costruire un mondo più giusto – ricade in Babele non per i suoi esiti, ma per la sua premessa. Il dado è truccato prima del lancio. Non si sta scegliendo tra dominio e fraternità: si sta scegliendo tra “con Dio” e “senza Dio“, travestito da scelta etica.
Il problema è che la Gerusalemme di Neemia smentisce l’enciclica stessa. Rileggetevi il paragrafo 8: la città rinasce “attraverso la responsabilità condivisa di tutto il popolo: sacerdoti, artigiani, capifamiglia, donne e giovani”, ciascuno col suo pezzo di muro, ascoltando le paure, coordinando gli sforzi. Tolta la cornice teologica, è la descrizione esatta del mutualismo. È l’auto-organizzazione dal basso, l’aiuto reciproco, la cooperazione federata che chiunque abbia frequentato il pensiero libertario riconosce al primo sguardo. La “via di Neemia” non ha bisogno del Signore al centro per funzionare: ha bisogno di gente che si fida abbastanza da affidarsi un tratto di muro a testa. Che è esattamente ciò che fanno le comunità del software libero, le reti decentralizzate, i progetti commons – senza pregare nessuno. L’enciclica descrive il modello, ne ammira il funzionamento, e poi insiste che senza Dio quel modello sarebbe Babele. Non lo dimostra. Lo postula.
C’è una terza città, quella che il testo cancella per definizione invece che per argomento: la città costruita insieme, dal basso, senza il cielo da raggiungere e senza nessuno a cui chiedere il permesso. Si dà il caso che sia la città che alcuni di noi cercano di costruire da un pezzo.
Seconda crepa
Veniamo alla chiave di volta, quella delle centouno occorrenze. Il perno antropologico dell’enciclica è il concetto di “dignità ontologica”, esposto ai paragrafi 52 e 53. È la dignità che appartiene a ogni essere umano “semplicemente per il fatto di esistere, di essere stato voluto, creato e amato da Dio”. Una dignità detta “infinita” – riprendendo la dichiarazione Dignitas infinita del 2024 – perché “infinito è l’amore di Dio che lo chiama all’amicizia con Lui”.
Fermiamoci sulla struttura dell’argomento, perché è un cerchio perfetto. Gli esseri umani hanno dignità infinita; la dignità è infinita perché Dio li ama di amore infinito; e sappiamo che vale per tutti perché tutti sono creati da Dio. Ed ecco: la conclusione è dentro la premessa. È una petizione di principio da manuale: per accettare il fondamento bisogna già aver accettato esattamente ciò che il fondamento dovrebbe dimostrare, cioè l’esistenza e l’amore di quel Dio. Per un credente è coerente, e va benissimo. Ma il documento si rivolge – paragrafo 16 – “a tutti gli uomini e le donne di buona volontà”, pretendendo una validità universale che la sua stessa fondazione gli nega.
Qui l’enciclica fa una mossa intelligente, e va riconosciuta. Al paragrafo 56 ribalta l’accusa: senza un fondamento metafisico solido, dice, i diritti umani diventano negoziabili, e “diritti oggi ritenuti intoccabili, in futuro, finiscano per essere messi in discussione o negati da chi detiene il potere”. È un argomento conseguenzialista – se non c’è Dio, i diritti crollano – usato per puntellare una tesi che si vorrebbe invece deontologica. Ma è doppiamente fragile.
Primo: è esso stesso un argomento sulle conseguenze, non sul fondamento; mi sta dicendo che mi conviene credere, non che è vero. Secondo, e più importante: è semplicemente falso che senza metafisica i diritti restino senza terra sotto i piedi. Il contrattualismo, l’etica della reciprocità, la considerazione morale fondata sulla capacità di sentire e di soffrire – tutte fondano la dignità su basi intersoggettive e verificabili, senza bisogno di postulare un creatore. Si può discutere quale sia la migliore. Ma esistono, funzionano, e reggono.
L’enciclica però ha già pensato a come neutralizzarle. Al paragrafo 133 chi fonda i propri valori sulla sola ragione umana viene descritto come l'”uomo moderno erroneamente convinto di essere il solo autore di se stesso”, vittima di “una presunzione, conseguente alla chiusura egoistica in se stessi”. Tradotto: la confutazione laica non viene confutata, viene diagnosticata come peccato di superbia. È un modo elegante per non dover rispondere.
Si potrebbe obiettare che l’enciclica, altrove, concede alla ragione di arrivarci da sola: al paragrafo 56 ammette che la ragione, interrogandosi sulla natura umana, “è in grado di scoprire valori che valgono per tutti”. Ma è una concessione avvelenata. Quella “natura umana” con i valori oggettivi già iscritti dentro non è un dato laico neutro: è essa stessa una costruzione metafisica, la legge naturale che si presenta come evidenza. E c’è di peggio, perché la ragione è ammessa a scoprire quei valori soltanto se arriva alla conclusione giusta. Quando non ci arriva – quando fonda la dignità su basi proprie, senza creatore – scatta il paragrafo 133 e quella stessa ragione diventa “presunzione“. Hai il permesso di ragionare, a patto di ragionare come loro. Non è un fondamento condiviso: è un fondamento confessionale con una porta di servizio che si chiude appena provi a uscirne da un’altra parte.
Terza crepa
La descrizione tecnica dei paragrafi 98 e 99 è sorprendentemente accurata. L’idea che i modelli moderni siano “più “coltivati” che “costruiti””, che gli sviluppatori “creano un’architettura sulla quale l’AI cresce“, e che “aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti” è semplicemente vera, ed è linguaggio da interpretabilità meccanicistica, non da teologia. Su questo, nessuna obiezione: è la cosa più onesta del documento.
Il problema arriva subito dopo, quando la descrizione corretta viene usata per una mossa scorretta. Al paragrafo 99 si stabilisce che bisogna “evitare l’equivoco di equiparare questa “intelligenza” a quella umana”, perché i sistemi “non vivono una esperienza, non possiedono un corpo, non maturano nella relazione”, e soprattutto “non capiscono ciò che producono”. Fin qui è una definizione difendibile. Ma viene impiegata per esprimere un paradigma blindato: qualunque cosa una macchina faccia, per quanto sofisticata, “non sarà mai vera intelligenza” perché le manca l’orizzonte “affettivo, relazionale e spirituale”. Ogni controesempio viene escluso ridefinendo il termine in modo da renderlo inaccessibile per costruzione. La capacità di calcolo c’è, la sofisticazione c’è, l’utilità c’è – ma l’anima no, e l’anima è precisamente ciò che si era deciso in partenza che la macchina non potesse avere. La conclusione era già nelle definizioni. Si noti che non sto sostenendo che i modelli siano coscienti: sto dicendo che un argomento che rende la propria tesi infalsificabile non è un argomento, è una definizione mascherata.
C’è poi un costo che questa mossa fa pagare al testo, ed è il più serio. Quei verbi – capire, conoscere, creare – l’enciclica li usa come se il loro significato fosse fissato e pacifico, da un lato la macchina che non li merita, dall’altro l’umano che li possiede di diritto. Ma è esattamente ciò che oggi non è più pacifico. Questi sistemi stanno mettendo sotto pressione i paradigmi con cui definiamo la conoscenza, la creatività e la relazione, e gli scienziati che li studiano lo sanno benissimo. Se “comprendere” significhi qualcosa per una macchina è una questione aperta: c’è chi sostiene che per predire la parola successiva con accuratezza sia necessario costruirsi una forma di comprensione, e c’è l’esperimento di Othello-GPT – un modello addestrato solo su trascrizioni di partite, mai sulle regole, che al suo interno ha sviluppato spontaneamente una rappresentazione della scacchiera.
Sulla creatività la confusione è perfino comica: un test psicometrico colloca i modelli nell’un per cento più alto per originalità, un altro li trova carenti proprio in originalità – segno che non sappiamo nemmeno misurare il confine che pretendiamo di tracciare. E che le macchine ci stiano cambiando il modo di pensare lo dice la ricerca sul cognitive offloading: chi delega di più all’AI mostra capacità di pensiero critico più basse. Su questo l’enciclica ha ragione, al paragrafo 100 lo dice quasi con le stesse parole. Ma è proprio qui che il testo si morde la coda: un pappagallo stocastico non solleva la domanda su cosa significhi capire – questi sistemi sì. È un fenomeno che ci obbliga a ripensare cosa siano conoscenza e creatività, e una questione del genere non si liquida con una definizione data per scontata.
Quarta crepa
La fallacia più raffinata di tutto il testo sta nei paragrafi che vanno dal 126 al 128. L’enciclica affronta il transumanesimo – la promessa di un superamento tecnico dei limiti umani – e gli oppone il proprio “più che umano”: la grazia, l’elevazione operata da Dio in Cristo, il “trascendere se stessi” che “supera la capacità della natura”. Cito il 128: “giungiamo ad essere pienamente umani quando siamo più che umani, quando permettiamo a Dio di condurci al di là di noi stessi”.
È un equivoco, nel senso tecnico: la stessa etichetta – “più che umano” – viene applicata a due cose radicalmente incommensurabili, e le due cose vengono poi presentate come se competessero sullo stesso mercato. Da un lato il potenziamento tecnologico, misurabile, in linea di principio verificabile. Dall’altro la trasformazione per grazia, che è un atto di fede non verificabile per definizione. L’enciclica squalifica il primo come illusione prometeica – l’autosufficienza che mima la salvezza – e propone il secondo come la trascendenza “autentica”. Ma per chi sta fuori dal recinto della fede, sono due affermazioni dello stesso tipo: due promesse di superamento, nessuna delle due dimostrata.
E non è una mia forzatura mettere le due cose in concorrenza: è il testo a farlo. È l’enciclica a riusare la stessa formula – “più che umano” – per la grazia; è lei a presentare il desiderio di superamento intercettato dal transumanesimo come una sete autentica a cui solo la trascendenza divina darebbe la risposta “vera”. Una volta che hai stabilito che il bisogno è lo stesso e che una sola delle due offerte è legittima, la concorrenza l’hai dichiarata tu.
A me resta solo da notare che le due offerte non sono dello stesso ordine: una promette qualcosa di misurabile, l’altra qualcosa che si può solo credere. Trattarne una come fantasia e l’altra come realtà non è il risultato di un argomento. È il presupposto da cui l’argomento parte: ti convinco che la pseudo-trascendenza dell’avversario è vuota, e nel frattempo ti vendo la mia come piena.
Quinta crepa
I paragrafi dal 118 al 120 contengono il passaggio più poetico dell’enciclica, ed è proprio per questo il più insidioso. La tesi è che “l’umano non fiorisce malgrado il limite, ma spesso attraverso il limite”: la malattia, la vecchiaia, la vulnerabilità, la sofferenza non sono difetti da correggere ma luoghi in cui l’umano matura.
C’è una verità psicologica innegabile, qui: a volte dalla sofferenza nasce saggezza, dal fallimento una crescita. Ma osservate lo scivolamento. Si parte da un’affermazione descrittiva – dalla sofferenza talvolta deriva valore – e si atterra su una normativa: quindi ridurre tecnicamente il limite è hybris, è la “salvezza puramente tecnica” da rifiutare. È la fallacia naturalistica, ma rovesciata: dal fatto che la finitudine può generare bene, si deduce che intervenire per attenuarla sia moralmente sospetto. Ma “la sofferenza a volte insegna” non implica in alcun modo “dunque non dobbiamo combatterla”. Dalla constatazione di un fatto non discende un dovere.
E al paragrafo 120 c’è la chicca che dice tutto: “per sopprimere totalmente il dolore bisognerebbe, in fondo, spegnere anche l’amore e il desiderio”. A onore del testo, va detto che l’enciclica non nega affatto il dovere di curare: lo stesso paragrafo 118 riconosce che “è doveroso cercare di eliminare la sofferenza”. Il punto allora non è se intervenire, ma dove passi il confine tra l’intervento legittimo e la “tracotanza” da condannare. E quel confine l’enciclica lo traccia senza darci un criterio: l’aspirina sì, l’ibridazione no, ma in mezzo? Chi decide quando curare diventa profanare? Tra l’aspirina e il caricamento della mente in un cloud c’è un continuum lungo come una vita – anestesia, vaccini, protesi, antidepressivi, occhiali – e senza un criterio non arbitrario quel confine resta una decisione, non una deduzione. Vale la pena ricordare, en passant, che è esattamente la logica del “limite naturale da non profanare” che è stata storicamente usata contro l’anestesia ostetrica, la contraccezione, la procreazione assistita. Ogni volta, il limite di oggi era sacro finché qualcuno non lo superava; e il giorno dopo nessuno si sognava più di rimetterlo in discussione.
Sesta crepa
Questa è meno una singola fallacia che la struttura portante di due interi capitoli. I capitoli primo e secondo – dal paragrafo 28 all’89 – sono una lunga catena di richiami: Leone XIII, Pio XI, Pio XII, Giovanni XXIII, Paolo VI, Giovanni Paolo II, Benedetto XVI, Francesco. Ogni tesi è ancorata a un predecessore, in una linea che si autoalimenta.
Va detto con precisione, perché qui è facile sbagliare il colpo: dentro il sistema cattolico, la continuità del Magistero non è una fallacia, è il criterio. Per un credente, il fatto che una dottrina sia stata sostenuta coerentemente da otto pontefici in circa centocinquanta anni è un argomento legittimo, perché l’autorità di quella tradizione è una premessa accettata. Il problema nasce nel momento esatto in cui l’enciclica esce dal recinto e si rivolge a tutti – credenti e non – pretendendo validità universale. Lì l’argumentum ad verecundiam diventa visibile: la catena di citazioni vale come prova solo per chi riconosce l’autorità della catena. Per tutti gli altri è un cerchio che si chiude su se stesso, imponente quanto si vuole, ma autoreferenziale. Otto papi che si danno ragione a vicenda non costituiscono una prova per chi non riconosce a nessuno degli otto il diritto di pronunciarsi.
Acqua al proprio mulino
Resta la domanda che mi ponevo all’inizio: è semplicemente “portare acqua al mulino della Chiesa”, o c’è dell’altro?
È acqua al mulino nel senso strutturale del termine, e si vede a occhio nudo una volta che hai isolato sei (probabilmente ce ne sono di più) crepe. Lo schema è sempre lo stesso, ripetuto capitolo dopo capitolo: una diagnosi laica condivisibile – il potere tecnocratico, lo sfruttamento, la disumanizzazione algoritmica – incanalata verso una terapia confessionale non negoziabile. Diagnosi che firmerei, ma è una soluzione che non posso accettare senza prima accettare la premessa teologica. Il quinto capitolo, sulla guerra, ripete pari pari la struttura binaria dell’introduzione: “cultura della potenza” contro “civiltà dell’amore“, Babele contro Gerusalemme con altri nomi. La macchina retorica è la stessa, oliata e instancabile.
Ma sarebbe miope fermarsi qui, e mi rifiuto di farlo per tre ragioni.
La prima è che la diagnosi è solida, e in quanto tale rende l’enciclica un’alleata tattica. Quando Leone XIV scrive, al paragrafo 108, che “piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio”, sta dicendo una cosa vera e la sta dicendo dal pulpito più ascoltato del pianeta. Quando, al 109, riconosce “il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici” – i data labeler del Sud globale pagati una miseria per addestrare i nostri chatbot – sta facendo critica materialista, non catechismo. Su questo terreno siamo dalla stessa parte della barricata.
La seconda è che c’è almeno un punto in cui l’enciclica esce dal proprio mulino e applica i suoi principi a se stessa. Al paragrafo 89 si parla di “ascolto delle vittime di abusi spirituali, economici, istituzionali, sessuali, di potere, di coscienza” dentro la Chiesa, con “il riconoscimento del danno, la giusta riparazione e la prevenzione”. È poco, è tardi, ed è scritto nel linguaggio felpato della Curia. Ma è dialetticamente onesto: non è acqua al mulino ammettere le proprie strutture di peccato, ed è giusto darne atto – pur sapendo che una voce in un elenco non è ancora una resa dei conti, e ci torno alla fine.
La terza è che dietro il documento c’è un’operazione di potere reale, e per nulla ingenua. In un vuoto regolatorio globale sull’AI – dove gli Stati arrancano e la società civile fatica a trovare voce – la Chiesa si candida a riempire lo spazio come autorità morale planetaria. Lo fa, intelligentemente, schierandosi contro il potere privato delle Big Tech, il che la rende attraente per chiunque quel potere lo critichi. È, a suo modo, una mossa da manuale: occupare un terreno che altri hanno lasciato sguarnito. Che poi sia un terreno su cui anche noi vorremmo costruire qualcosa – un governo collettivo della tecnica, i dati come commons, il rallentamento là dove tutto accelera – è precisamente ciò che rende l’enciclica così scivolosa. Concorda con te sulla destinazione per cinque sesti del viaggio, e poi all’ultimo bivio gira da una parte sola.
Conclusioni
Ogni fallacia che ho elencato, presa da sola, potrebbe essere un inciampo. Prese insieme, disegnano un metodo. Non sono errori di un ragionamento sciatto: sono dispositivi di un ragionamento accortissimo, e ognuno svolge la stessa funzione precisa. Servono a far convergere una diagnosi che il lettore laico condivide verso una conclusione che, senza la premessa su Dio, non avrebbe alcun obbligo di accettare. Il falso dilemma chiude in partenza le alternative; la petizione di principio sulla dignità rende la fede l’unico fondamento ammissibile; l’equivocazione sul “più che umano” squalifica ogni trascendenza concorrente; la fallacia naturalistica trasforma il limite in dovere; l’appello all’autorità chiude il cerchio. Tolto Dio, l’argomento non regge – ed è costruito apposta perché tu, per farlo reggere, debba rimetterci Dio.
Questo non lo rende un cattivo documento. Lo rende un documento di parte che fa finta di non esserlo, il che è cosa diversa. Magnifica Humanitas è ottima sociologia, magnifica retorica, e logica che zoppica esattamente – e solo – nei punti dove serve far entrare il soprannaturale. La parte tecnica sull’AI, quella scritta col contributo di chi i modelli li studia davvero, è la più solida e la meno ecclesiale. La parte antropologica, quella su cui poggia tutto il resto, è la più fragile. Non è un caso: è dove il testo deve fare il lavoro che gli sta più a cuore.
Da ateo che condivide metà delle premesse e nessuna delle conclusioni, resta la stessa domanda che mi faccio ogni volta che qualcuno mi descrive una città giusta e poi mi spiega che non posso costruirla senza il suo dio. Citando Eric Raymond, io il Bazaar – e non la Cattedrale – l’ho visto funzionare. L’ho visto funzionare nel software libero, nelle reti che non hanno un padrone, nelle comunità che si reggono sull’aiuto reciproco. L’ho visto funzionare “anche” senza dio. La domanda che lascio aperta, allora, è semplice: se il muro lo tiriamo su lo stesso, ciascuno col suo pezzo, ascoltandoci e fidandoci – chi ha detto che al centro debba esserci per forza qualcuno lassù? E se ci accorgessimo che reggeva benissimo anche senza?
Piccola postilla: qualcuno obietterà che l’enciclica il coraggio ce l’ha: chiede perdono per il ritardo con cui la Chiesa condannò la schiavitù. Vero. Ma è il perdono più comodo che ci sia – per una colpa di diciotto secoli fa, che non sfiora nessun vescovo vivente. Sugli abusi di oggi resta una riga, una voce in un elenco di sei al paragrafo 89. Ecco perché insisto: schierarsi contro il tecnocapitalismo, l’intelligenza artificiale e il transumanesimo è oggi un posizionamento sociale e politico molto intelligente da fare, ma davvero molto poco coraggioso. Se posso consigliare a Leone XIV qualcosa di davvero coraggioso, provi a scrivere un’intera enciclica contro la pedofilia nella chiesa cattolica. Mi proporrò volentieri come primo lettore.
Fonti e approfondimenti
Il documento
– Leone XIV (2026). Lettera Enciclica Magnifica Humanitas sulla custodia della persona umana nel tempo dell’intelligenza artificiale. Testo integrale.
– Dicastero per la Dottrina della Fede (2024). Dichiarazione Dignitas infinita sulla dignità umana.
La tradizione richiamata (per orientarsi nella catena magisteriale)
– Leone XIII (1891). Rerum novarum.
– Concilio Vaticano II (1965). Costituzione pastorale Gaudium et spes.
– Francesco (2015). Laudato si’.
– Francesco (2020). Fratelli tutti.
Sulle fallacie logiche (riferimenti generali)
– Walton, D. (2008). Informal Logic: A Pragmatic Approach. Cambridge University Press. Sul falso dilemma, l’argumentum ad verecundiam e lo slippery slope come schemi argomentativi e sui loro usi legittimi e illegittimi.
– Hume, D. (1739). A Treatise of Human Nature, libro III. La formulazione classica della distinzione tra essere e dover essere, alla radice della cosiddetta fallacia naturalistica.
Fondazioni laiche della dignità e dei diritti (le alternative che l’enciclica pre-squalifica)
– Rawls, J. (1971). A Theory of Justice. Harvard University Press. La fondazione contrattualista della giustizia senza presupposti metafisici.
– Singer, P. (1979). Practical Ethics. Cambridge University Press. La considerazione morale fondata sulla capacità di sentire e di soffrire.
– Nussbaum, M. (2006). Frontiers of Justice. Harvard University Press. L’approccio delle capacità come base della dignità umana.
Sull’interpretabilità dell’AI (il nucleo tecnico più solido del documento)
– Olah, C. et al. (2020). “Zoom In: An Introduction to Circuits”. Distill. Sul perché le rappresentazioni interne dei modelli restino in larga parte sconosciute anche a chi li costruisce.
Sul dibattito conoscenza / comprensione negli LLM (la revisione di paradigma)
– Bender, E. M., Gebru, T. et al. (2021). “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”. FAccT ’21. Il testo che conia la metafora del “pappagallo stocastico”: un sistema addestrato sulla sola forma non può accedere al significato.
– Li, K. et al. (2023). “Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task”. ICLR. L’esperimento Othello-GPT: un modello che costruisce internamente una rappresentazione della scacchiera senza averne mai viste le regole.
– Tayyar Madabushi, H., Torgbi, M., Bonial, C. (2025). “Neither Stochastic Parroting nor AGI: LLMs Solve Tasks through Context-Directed Extrapolation”. La posizione di mezzo: capacità che vanno oltre il pappagallo ma restano prevedibili e non assimilabili alla cognizione umana.
Sulla creatività computazionale (e su quanto sia incerto il confine)
– Boden, M. (2004). The Creative Mind: Myths and Mechanisms, 2ª ed. Routledge. La distinzione fondativa tra creatività combinatoria, esplorativa e trasformazionale.
– Guzik, E. et al. (2023). “The originality of machines: AI takes the Torrance Test“. Journal of Creativity. GPT-4 nell’1% più alto per originalità e fluidità.
– Lu, Y. et al. (2025). “Assessing and Understanding Creativity in Large Language Models”. Machine Intelligence Research. Risultato opposto: gli LLM eccellono in elaborazione ma sono carenti proprio in originalità.
Sull’impatto dell’AI sulla cognizione umana
– Gerlich, M. (2025). “AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking”. Societies, 15(1): 6. Correlazione negativa tra uso frequente dell’AI e pensiero critico, mediata dal cognitive offloading. (L’autore avverte: correlazione, non causazione.)
Sul potere incorporato nelle scelte tecnologiche
– Winner, L. (1980). “Do Artifacts Have Politics?”. Daedalus, 109(1): 121-136.
Add comment