La coscienza è sovrastimata, è ora di pensare l’impensato

“L’impensato” di N. Katherine Hayles affronta il rapporto tra vita naturale e artificiale

di Roberto Paura

Katherine Hayles: L’impensato. Teoria della cognizione naturale, Traduzione di Silvia Dal Dosso, Gregorio Magini effequ, Firenze, 2021, pp. 391, € 19,00

Stiamo vivendo una nuova età dell’oro nella ricerca sull’intelligenza artificiale, che di anno in anno e spesso di mese in mese sforna nuovi eccitanti prodigi, nuovi potentissimi software di natural language processing in grado di imitare il linguaggio e il modo di pensare umano, nuovi campioni artificiali di ogni gioco immaginabile. Un’età dell’oro mossa da un’incrollabile determinazione e ambizione, quella di pervenire a un’intelligenza artificiale autocosciente, meglio ancora a una superintelligenza artificiale cosciente a cui affidare i destini dell’umanità, affinché possa elevarci allo stadio successivo della nostra evoluzione, verso la trascendenza identificata nella Singolarità tecnologica vaticinata dai profeti del transumanesimo. Anche se non bisogna necessariamente coltivare una simile fede escatologica per lavorare nell’ambito della ricerca sull’IA, di fatto questa convinzione è sottesa agli sforzi che si concentrano sul modo di rendere gli algoritmi non solo in grado di apprendere da soli (obiettivo già da tempo conseguito), ma di sviluppare un pensiero autoriflessivo. È, in estrema sintesi, la convinzione secondo cui intelligenza e coscienza si equivalgono e non possa esistere l’una senza l’altra.

Convinzione messa in discussione, da tempo, dagli esponenti del cosiddetto postumanesimo critico reso celebre da figure come Donna Haraway e Rosi Braidotti, a cui afferisce anche N. Katherine Hayles. Di lei in italiano era finora uscita solo una traduzione, quella di My mother was a computer (2014), curata da Antonio Caronia, Domenico Gallo e Marialaura Pulimanti per Mimesis, mentre resta ancora inedita l’opera-manifesto, How We Became Posthuman (1999), uscita nello stesso anno di un’altra opera iconica, Techgnosis di Erik Davis. Entrambe se la prendevano contro l’orientamento tecno-gnostico assunto dalla ricerca sull’intelligenza artificiale e in generale dall’era informatica e digitale, preconizzando con straordinaria intuizione le derive che ne sarebbero conseguite: l’ossessione per la cosiddetta “ipotesi della simulazione” (anticipata da Davis) e quella per la superintelligenza artificiale come ultima invenzione dell’Uomo (anticipata da Hayles), entrambe esplose nell’ultimo decennio tra i guru della Silicon Valley (cfr. Paura, 2017). Di contro, N. Katherine Hayles proponeva in quell’opera un approccio embodied, ossia “incarnazionista”, all’intelligenza secondo il quale, di fatto, non può esistere un pensiero disincarnato, come sostengono invece i transumanisti con la loro fede nel mind uploading, ossia nella conversione del contenuto del cervello in bit salvati su circuiti elettronici, ma all’opposto l’intelligenza si forma solo all’interno di un corpo in grado di esplorare il mondo e interagire con esso. Un approccio che in anni recenti ha cominciato a produrre importanti sviluppi nella ricerca sull’IA.

 

Le cose che abbiamo in comune

Con L’impensato (in originale Unthought, 2017), meritoriamente portato ora in Italia da effequ nella traduzione di Silvia Dal Dosso e Gregorio Magini, N. Katherine Hayles riprende questa intuizione e la sviluppa inserendola nel più vasto dibattito filosofico sul superamento dell’antropocentrismo a favore di una nuova visione del mondo che includa anche gli agenti non-umani. La sua proposta è di abbandonare la fede nella coscienza e assumere invece come unità d’analisi quel coacervo di elementi cognitivi di base comuni a tutti gli esseri viventi che chiama cognizione nonconscia, o appunto “impensato”. Non stiamo parlando di inconscio, ovviamente, concetto troppo legato alla psicologia antropocentrica. Guardiamo innanzitutto al primo termine, “cognizione”. Come spiega l’autrice:

“La cognizione è una capacità molto ampia, che si estende ben oltre la coscienza e investe altri tipi di processi neurologici, ed è altresì presente in altre forme di vita e in sistemi tecnici complessi”.

Questa proposta riecheggia quella della Teoria dell’Informazione Integrata (IIT, Integrated Information Theory) del neuroscienziato Giulio Tononi, che definisce la coscienza in termini di una certa quantità (designata dalla lettera phi dell’alfabeto greco) che è massima nel cervello umano ma che può essere calcolata per pressoché qualsiasi substrato fisico, inclusi oggetti artificiali, ed è legata alla capacità di integrare tra loro informazioni (cfr. Tononi, 2014). Nella variante più estremista di Christof Koch la IIT diventa quasi una teoria panpsichista, che associa un certo grado di coscienza a ogni ente presente nel mondo. Hayles preferisce parlare di cognizione anziché di coscienza proprio per evitare questa deriva, ma il concetto è pressoché identico. Infatti alla cognizione nonconscia ella associa funzioni quali

“l’integrazione dei mercatori somatici in una rappresentazione unitaria e coerente dell’organismo, la sintetizzazione degli input sensoriali in modo che appaiano coerenti nel tempo e nello spazio, l’elaborazione di informazioni a una velocità molto maggiore della coscienza, il riconoscimento di pattern troppo complessi e impercettibili perché possano essere individuati dalla coscienza, il trarre inferenze che influenzano il comportamento e aiutano a determinare le priorità”.

Si tratta di funzioni che hanno sempre a che fare con la capacità di integrare informazioni, ma in cui almeno le prime due riflettono il suo approccio embodied, o di “conoscenza incarnata”, secondo cui la cognizione esiste finché esiste un ambiente in cui l’ente opera al fine di sviluppare strategie di sopravvivenza. In assenza di un ambiente esterno non esisterebbe cognizione. Ciò non significa che gli algoritmi non possiedano cognizione, anzi: per Hayles il concetto di cognizione nonconscia serve proprio a dare conto della crescente capacità cognitiva degli algoritmi. Essi operano all’interno di un ambiente digitale, come tali sono quindi sottoposti alle stesse regole dell’evoluzione dei sistemi biologici, fatto che li rende simili alle forme di vita biologiche. Ciò che invece non li rende simili agli esseri umani e ad altre specie animali che noi consideriamo “superiori” è il possesso di consapevolezza. Gli algoritmi non sono consapevoli, esattamente come non lo sono le piante. Hayles qui si inserisce con eleganza nel dibattito ritornato in auge di recente sull’intelligenza delle piante (cfr. Sgorbissa, 2017). Le piante non sono intelligenti, poiché l’intelligenza presuppone consapevolezza, una modalità della cognizione che esiste solo in pochissime specie animali. Possiedono però cognizione nonconscia, esattamente come tutte le altre forme di vita e alcuni sistemi tecnologici, i cosiddetti “media computazionali”.

La nostra eccessiva attenzione alla consapevolezza è, per Hayles, la principale causa tanto dell’antropocentrismo che ci ha spinto a porre l’intelligenza umana sul podio di una presunta gerarchia dell’intelligenza, quanto dell’attitudine prometeica a cercare di sviluppare consapevolezza all’interno dei media computazionali, per creare attraverso gli algoritmi un’immagine riflessa dell’essere umano. Per cogliere la proposta rivoluzionaria della cognizione nonconscia abbiamo invece bisogno di “decentrare l’umano”: una tesi in comune con il realismo speculativo e la corrente dell’Ontologia Orientata agli Oggetti (OOO) che ne è derivata, anche se Hayles avanza una critica a quest’ultima quando precisa che la sua definizione di “assemblaggio cognitivo”, ossia una configurazione di cui fanno parte più componenti dotate di cognizione nonconscia (per esempio l’assemblaggio cognitivo prodotto dalla configurazione essere umano + smartphone), esclude deliberatamente “processi materiali come tsunami, ghiacciai, tempeste di sabbia e simili”, poiché tali processi non possiedono alcuna forma di cognizione (“uno tsunami non può scegliere se schiantarsi contro una scogliera o una contro una spiaggia affollata”), con ciò criticando il fortunato concetto di Iperoggetto proposto da Timothy Morton, tra i principali esponenti della OOO (Morton, 2018). Il decentramento dell’umano, secondo Hayles, non può prescindere dal concetto di cognizione, mentre i sostenitori della OOO preferiscono parlare di “prensione”, caratterizzata esclusivamente dalla proprietà di ogni ente di entrare in contatto con altri attraverso la propria forma sensuale (ossia esteriore).

 

Nuove forme di convivenza postumana

La teoria di Hayles ha il vantaggio di essere un giusto punto di equilibrio tra l’astrazione estrema del realismo speculativo e il riduzionismo estremo dei teorici della coscienza, riuscendo nell’obiettivo di proporre una nuova visione del mondo più inclusiva, poiché “sostenere la cognizione nonconscia significa parteggiare per un numero maggiore di attori cognitivi”. Né si tratta di una teoria priva di applicazioni etiche che ignora le grandi problematiche del tempo presente. Ne è prova la quinta parte dell’opera, in cui Hayles analizza le implicazioni di una serie di assemblaggi cognitivi di natura tecnologica: le auto a guida autonoma, i sistemi di riconoscimento facciale, i droni autonomi, gli assistenti virtuali. Ciascuno rappresenta un tentativo di realizzare una “collaborazione produttiva tra le decisioni umane coscienti” da un lato “e il nonconscio cognitivo tecnico degli algoritmi computerizzati” dall’altro. Queste collaborazioni non sono neutrali. Per esempio, il nostro fare affidamento ad assistenti virtuali come può essere anche, banalmente, una app GPS per guidarci verso una destinazione, può produrre modificazioni nelle capacità cognitive evolute del cervello umano, per esempio riducendo le reti sinaptiche umane impiegate per l’esplorazione dell’ambiente.

Non si tratta di lanciare l’allarme sui potenziali effetti collaterali della tecnologia, ma di assumere coscienza del fatto che l’intelligenza artificiale è già tra noi, se intendiamo con questo nome una forma evoluta di intelligenza basata sull’ibridazione tra cognizione umana superiore e nonconscio cognitivo. Ciò ci impone di fare attenzione anche a quegli aggregati cognitivi tecnologici a cui magari non badiamo a sufficienza solo perché, nell’ottica di un’errata prospettiva fondata sull’intelligenza antropocentrica, li riteniamo non intelligenti. È il caso dei droni da combattimento e di auto senza conducente a cui vengono delegate decisioni che possono compromettere la vita di esseri umani. Il fatto che tali sistemi non ragionino nel senso umano non significa che non possano rappresentare un pericolo, nella misura in cui possiedono un certo grado di cognizione che li rende capaci di svolgere funzioni molto complesse che possono facilmente travalicare i confini stabiliti dalla programmazione umana. Insomma, non dobbiamo aspettare che i droni siano dotati di un’etica artificiale che li renda in grado di stabilire quando uccidere un bersaglio o meno per regolamentare questi aggregati cognitivi ed evitare che si sostituiscano del tutto all’agire umano. Come scrive Hayles:

“La questione a questo punto non è più se le macchine possano pensare, come Alan Turing si chiese più di mezzo secolo fa, ma come le reti di cognizioni nonconsce che connettono la totalità delle entità cognitive del pianeta stanno trasformando le condizioni di vita, mentre i sistemi adattativi complessivi umani diventano sempre più interdipendenti e intrecciati con le tecnologie intelligenti in assemblaggi cognitivi”.

La soluzione non è nel controllo. Il controllo è un’illusione antropocentrica, come avrebbe detto la paleobotanica Ellia Sattler criticando l’ossessione per il controllo tecnologico di John Hammond in Jurassic Park: “Non avete mai avuto il controllo”. Ciò in quanto ormai gli apparati cognitivi tecnologici sono in grado di evolversi in autonomia, agendo su un livello diverso da quello che l’intelligenza umana è in grado di afferrare, tanto in termini di velocità quanto di complessità. Quel che possiamo fare è costruire nuovi modelli di relazione simbiotica con la tecnologia, generando assemblaggi cognitivi in cui la nostra volontà abbia in ogni caso la precedenza e riesca a dirigerne l’azione in modo congruente con i nostri fini.

---

Letture

• Erik Davis, Techgnosis, Ipermedium, Napoli, 2001.

• Katherine Hayles, How We Became Posthuman, University of Chicago Press, Chicago, 1999.

• Katherine Hayles, My mother was a computer, a cura di Antonio Caronia, Domenico Gallo, Marialaura Pulimanti, Mimesis, Sesto San Giovanni (MI), 2014.

• Timothy Morton, Iperoggetti, Nero, Roma, 2018.

• Roberto Paura, La singolarità nuda, Italian Institute for the Future, Napoli, 2017.

• Federica Sgorbissa, Si può parlare di intelligenza delle piante?, Il Tascabile, 11 settembre 2017.

• Giulio Tononi, Phi. Un viaggio dal cervello all’anima, Codice, Torino, 2014.