(Super)Intelligenza, rilevanza, stupidità
di Paolo Bottazzini
Tante intelligenze?
Esistono forme di intelligenza “non umane”? è una domanda paragonabile all’interrogativo sull’esistenza di matematiche non umane, o di logiche non umane? Per una lumaca 2+2 può fare 5? Per una formica consultare la posizione di Saturno rispetto a Giove, prima di attraversare una strada, potrebbe essere un comportamento intelligente? E per un neutrino, o per una molecola di anidride carbonica?
Nello Cristianini ratifica con entusiasmo la tesi della pluralità di intelligenze nella sua trilogia sull’AI, pubblicata da il Mulino, e arrivata pochi mesi fa al volume conclusivo. Nel primo libro, La scorciatoia, l’eccitazione nei confronti di questa varietà è più intensa che nell’ultimo, Sovrumano. Oltre i limiti della nostra intelligenza, dove l’interesse per le scale di valutazione costringe la molteplicità dei raziocini in una sola modalità, con prestazioni confrontabili. Per il professore di intelligenza artificiale dell’università di Bath «dimostrare intelligenza non significa assomigliare agli esseri umani, ma essere capaci di comportarsi in modo efficace in situazioni nuove. Questa capacità non richiede un cervello: la possiamo trovare anche in piante, colonie di formiche e software».
Quindi dovremmo definire intelligente la pompa di benzina che, dopo essersi inserita nell’imboccatura del serbatoio di sole automobili di marchi europei, compia un ingresso corretto anche nel bocchettone di vetture di marchi coreani e giapponesi? Quanto deve essere diversa la situazione per essere giudicata abbastanza “nuova”? In quali siatuazioni “nuove” incorre una formica rispetto a quelle “consuete”? Può deliberare di migrare in Austria e di architettare una tana personale con le regole del Bauhaus, invece di collaborare alla costruzione di un formicaio, perché una tana razionalista migliorerebbe il fitting con le condizioni climatiche e storiche del luogo?
Mi sembra che una definizione come quella proposta da Cristianini presenti la difficoltà di non lasciare spazio all’opposto dell’intelligenza: un’antitesi che non si trova nell’irrazionalità, né nella follia, né nell’ignoranza, ma che ha la sua epifania nell’accusa di stupidità.
Quando una pompa di benzina, una formica o una lumaca, potrebbero essere tacciate di stupidità?
Rilevanza e stupidità
L’efficacia del comportamento degli animali viene descritta in termini di successo nella sopravvivenza e nella riproduzione. Ma questi criteri non sono forse umani, troppo umani? E se le lumache fossero immerse in una condizione di depressione perenne, per cui la loro prospettiva di massima efficacia fosse una morte indolore? O se nel segreto della loro chiocciola condividessero tutte gli assunti della filosofia di Schopenhauer, e la loro ambizione fosse approdare alla noluntas, disprezzando le strategie efficaci, riconosceremmo ancora una loro forma di intelligenza?
Noi non potremmo vivere in un universo dove, oltre l’aritmetica assiomatizzata da Peano, 2+2 faccia 5, perché questo risultato non è possibile nella concretezza delle pratiche della nostra interazione con il mondo: non è una questione di interpretazione, di variabilità culturale o storica, né un tema di legittimità o di contraddizione, ma di fatticità dell’esistenza.
L’intelligenza però non è solo vincolata alle condizioni di sperimentazione del reale, ma anche ad un giudizio di lucidità, di pertinenza, di rilevanza del risultato. Hume ha insegnato che non esiste una garanzia logica per il nesso causale che collega lo spostamento di una palla da biliardo, e la collisione con un’altra boccia in movimento sul tappeto verde: la legittimità della nostra aspettativa è sostenuta solo dall’abitudine che si è accumulata con le precedenti osservazioni dell’urto tra due oggetti non vincolati. Da un punto di vista razionale sarebbe corretto (persino raccomandabile) domandarsi se alla prossima occasione il tocco tra le due palle innescherà ancora il movimento della seconda, o se la fisica dell’universo si sarà annoiata e avrà deciso che la boccia debba evaporare, o trasformarsi in un merlo e volare via. Ma nella normalità del mondo, giudicheremmo stupido chiunque si soffermasse a preoccuparsi di questa eventualità; stimiamo intelligente chi è in grado di cogliere l’essenziale di una questione, e la critica del principio di causalità di Hume non è un ingrediente rilevante nel corso di una partita a biliardo, nemmeno se il tavolo si trovasse nella stanza della biblioteca.
Nella discussione sui problemi di overfitting, che riguardano l’annidamento di distorsioni involontarie nel set di dati con cui viene eseguito il training della macchina, Cristianini descrive anche le questioni di “allineamento perverso”, in cui il dispositivo esegue alla lettera ciò che viene domandato, senza tenere conto del senso della richiesta. In altre parole, l’intelligenza artificiale non afferra il senso ultimo del compito che le viene proposto, e limita la sua comprensione a ciò che non è rilevante nella domanda, ma che figura in modo esplicito nella sua formulazione. Uno dei padri delle reti neurali, Andrew Ng, ha reso famoso l’esempio del robot sottoposto a un training di “apprendimento per rinforzo”, con lo scopo di insegnargli a giocare a calcio: il premio (il “rinforzo”) gli veniva assegnato ogni volta che toccava palla. La soluzione escogitata dalla macchina è stata ignorare regole e scopo del gioco, rimanendo sempre accanto alla sfera e continuando a colpirla con una serie di piccoli tocchi, simili a una vibrazione.
Diremmo, quindi, che il software si comporta in modo stupido (anche se comico), non avendo compreso quello che davvero gli viene richiesto – non perché la situazione sia “nuova”, ma perché il dispositivo non ha alcuna cognizione di cosa succede nel mondo normale, e di quali siano quindi le aspettative (così banali da essere inconsapevoli, e non esplicitate) di chi formula il problema. In questo caso la distanza tra la capability della macchina, e l’alignment con le attese degli umani che l’hanno allestita, si dilata al punto da diventare visibile. L’intelligenza è il giudizio che riguarda il contesto e le previsioni dei ricercatori e degli sviluppatori; dalla macchina non ci aspetta nulla più della sua capability – che non è né intelligente né stupida, ma che è il prodotto necessario dei suoi requisiti e dei suoi ingranaggi digitali.
Test
Nel terzo volume della serie, Cristianini adotta una metafora che disegna il filo rosso dell’opera, grazie alla quale apprendiamo che il percorso decennale di ricerche e di prodotti elaborati dagli scienziati e dagli ingegneri che si affannano sotto il vessillo dell’AI è stato «un viaggio senza mappa»: un processo senza un progetto predefinito, che ne stabilisse le mete e le modalità di raggiungimento, ma capace di attingere esiti della massima rilevanza. In altre parole, l’intelligenza del cammino e dei suoi esecutori viene stimata per l’importanza del risultato, senza che fosse possibile prefissarne mete, tempi e passaggi. È curioso che il modo in cui Cristianini caratterizza l’intelligenza, in tutti i volumi della trilogia, contraddica in modo sistematico i caratteri con cui celebra l’andamento non pronosticabile della storia dell’AI.
Il volume dedicato all’indagine del potere cognitivo Sovrumano offre la chiave per comprendere in che modo venga intesa l’intelligenza da parte di Cristianini e di tutti coloro che corteggiano un’irruzione imminente dell’Intelligenza Artificiale Generale (AGI) e delle sue espansioni successive. Il nodo della questione è di nuovo una definizione dell’intelligenza tout court, per la quale la questione della rilevanza viene del tutto accantonata, mentre entra in scena la questione della sua misurabilità. Visto che formiche e blocchi di marmo non sono in grado di giocare a scacchi e di superare le prove Invalsi, la passione per la pluralità delle forme di intelligenza lascia spazio a un maggiore monismo dogmatico, che permette di afferrare meglio quale sia la posta in gioco ideologica della discussione.
Per quantificare l’intelligenza occorrono scale e gradi obiettivi, che possono essere fissati solo in circostanze in cui le variabili siano tutte sotto controllo. Ecco perché i giochi e i test diventano l’ambiente in cui celebrare i peana per le conquiste dell’AI: la vittoria contro i più grandi campioni di scacchi o di Go, il superamento dei questionari cui vengono sottoposti gli studenti nei gradi più avanzati della formazione scientifica, si stagliano come prove della corsa del software verso la superintelligenza, che oltrepassa le capacità umane.
Tuttavia, in un gioco come gli scacchi, l’obiettivo (vincere infliggendo uno scacco matto all’avversario), lo spazio di 64 caselle, gli elementi sulla scacchiera, i movimenti, le regole, sono predefiniti e immutabili: la variabilità delle configurazioni che i pezzi formano sulla plancia conta miliardi di combinazioni, ma le norme da cui derivano queste distribuzioni sono poche e stabili. Non può capitare che il re divorzi dalla sua regina, o che i pedoni si sollevino contro il regime assolutistico della monarchia, che un cane attraversi d’improvviso la scacchiera, o che l’alfiere monti sul cavallo e salvi la regina avversaria intrappolata nella torre, né che la vittoria nella partita coincida con la celebrazione del loro matrimonio. Non può accadere che parte dei pezzi bianchi prendano coscienza del loro razzismo nei confronti dei neri e scioperino per cambiare la società, o che il transito da una partita all’altra – senza mai una vittoria o una sconfitta definitiva – li getti nello sconforto, e si diano all’alcolismo. Eppure la vita quotidiana è popolata solo da eventi del genere, dove è raro che i pedoni attraversino solo sulle strisce e gli alfieri resistano alla tentazione di sesso e droghe. La scacchiera del mondo normale, senza campioni e senza secchioni, cambia in continuazione, è sempre “nuova”.
Nessun test di cultura generale, o di competenze specialistiche, ammette il dubbio sulle leggi scientifiche riportate nei manuali, o sollecita ricerche di approfondimento, o di sovversione, del paradigma teorico accolto dalle istituzioni accademiche. Le “situazioni nuove” in cui Cristianini vorrebbe scoprire le tracce dell’intelligenza sono proprio ciò che viene escluso con cura dai test e dai giochi che descrive. Il loro metodo di misurazione disincentiva la curiosità, la formulazione di domande di ricerca inedite, le indagini divergenti dalla tradizione, gli interrogativi non autorizzati dal paradigma dominante della scienza normale (nel senso di Kuhn). L’essenza stessa dell’intelligenza, la capacità di individuare questioni rilevanti, di contestare, sovvertire e stabilire una gerarchia di importanza, il gesto con cui si modifica la distribuzione degli elementi pertinenti al fenomeno che si cerca di comprendere, la decisione su ciò che è incluso e ciò che è escluso dal problema – il motore dinamico dell’intelligenza è bandito dalle prove con cui Cristianini (e tutta la letteratura consueta su AGI e Superintelligenza) pretende di misurarla, e di definirla.
Il modello dell’intelligenza approvato da La scorciatoia e Sovrumano è quella del bravo operaio che accumula competenze senza discutere, che obbedisce agli scopi che altri hanno deciso per il suo lavoro, che porta a termine i suoi compiti bene e nel minor tempo possibile, permettendo al capitale di trarre maggior profitto da ogni secondo lavorato, senza sollevare critiche all’organizzazione delle mansioni, all’ordinamento sociale, agli scopi delle attività e al senso dell’esistenza in generale. Le domande sull’assetto della comunità, sulla giustizia della sua struttura, sulle ragioni delle attività stesse, sulla loro opportunità, sulla distribuzione dei benefici, sui rischi collegati alla loro esecuzione, sul loro fondamento di verità – sono pericolose e proscritte dalla riflessione legittima sull’intelligenza. Tutto ciò che è importante e decisivo per la verità, la giustizia e la bellezza, non può appartenere alla sua definizione, alla sua coltivazione; e deve essere espulso dai canoni del bravo cittadino, dal modello dell’essere umano talentuoso e utile alla società. Scopi, valori, significati, vengono fissati al di fuori e al di sopra dell’intelligenza, in sedi che non possono essere esposte allo scrutinio della sua critica.
Graffette
Se i test descritti da Cristianini fossero una buona misura dell’intelligenza, il “percorso senza mappa” che ha condotto ai software di AI attuali, e che i suoi libri incensano, non si sarebbe mai potuto realizzare – proprio perché è senza una meta e una traccia predefinita. La risorsa più preziosa dell’intelligenza è inaccessibile ai software di AI, sviluppati con il paradigma delle reti neurali, perché il tipo di pensiero che sono in grado di simulare è quello che vince a scacchi e supera i test, non quello che stimola a intraprendere un percorso privo di garanzie verso una tecnologia ancora indefinita.
Nick Bostrom, nel suo bestseller Superintelligenza, immagina un software AI dedicato alla produzione ottimizzata di graffette che raggiunge il grado della singolarità – quindi la soglia che permette di equiparare le sue potenzialità a quelle umane – e che poi prosegue verso livelli di potenza cognitiva sempre maggiore, fino a una soglia di dimensioni teologiche. Da questa altezza, la sua attività di ottimizzatore per la produzione di graffette finisce per convertire l’intera materia dell’universo in graffette, inclusa la razza umana al gran completo, e anche tutte le sue macchine. Ma se lo scopo di una mente super-intelligente è trasformare tutta la realtà, inclusa se stessa, in graffette – allora, esattamente, cos’è la stupidità?
Non si può che essere d’accordo con le conclusioni di Cristianini sul fatto che l’intelligenza artificiale non debba essere respinta a causa dei rischi che le sono connessi, ma debba essere regolata attraverso la responsabilizzazione dei produttori, affinché espongano al controllo pubblico le euristiche dei loro modelli. Ma questa valutazione non è sostenibile con la sua analisi del problema, che non focalizza l’ideologia e le esclusioni concettuali su cui si fondano la struttura e l’efficacia dei dispositivi di AI. Come sempre, la tecnologia non è neutrale. Cristianini elogia “la scorciatoia” che ha permesso di simulare l’intelligenza sopprimendo l’interpretazione semantica del mondo, insieme a tutti i problemi teoretici e tecnici che riguardano la sua implementazione, l’ingegnerizzazione del significato del linguaggio e delle relazioni pragmatiche con cose e persone; ma non si chiede cosa sia andato perduto insieme a questo detour concettuale. Ciò che è stato neutralizzato è proprio il senso delle attività, la valutazione della loro rilevanza, il giudizio sull’importanza dell’obiettivo. È questa rimozione che gli permette di immaginare una pluralità di intelligenze, quante sono le scale di misurazione dell’efficacia strumentale, senza badare al fatto che l’intelligenza è prima di tutto ipotesi di interrogazione e di lettura della realtà, capacità critica, decisione della gerarchia degli obiettivi e dei valori.
Quando nella coppia di opposti intelligenza/stupidità ci si affanna così tanto a prendere le misure delle competenze, della destrezza, dell’abilità, da non vedere più nient’altro intorno – allora di sicuro si è precipitati, calandosi da una graffetta all’altra, fino in fondo alla stupidità.
RIFERIMENTI BIBLIOGRAFICI:
Bostrom, Superintelligenza. Tendenze, pericoli, strategie, Bollati Boringhieri 2018
Cristianini, La scorciatoia, il Mulino 2023.
Cristianini, Sovrumano. Oltre i limiti della nostra intelligenza, il Mulino 2025.
A. Y. Ng, D. Harada, S. J. Russell, Policy Invariance Under Reward Transformations: Theory and Application to Reward Shaping, ICML ’99: Proceedings of the Sixteenth International Conference on Machine Learning, 1999.
Add comment