Un capitalismo di sorveglianza?

di lundimatin#311

Pubblichiamo una recensione, uscita il 1 novembre 2021, del volume The Age of surveillance di Shoshana Zuboff (Il capitalismo della sorveglianza, Luiss University Press, Roma, ottobre 2019). La riprendiamo e traduciamo da lundimatin#311, [1]. L’autrice, nata nel 1951, è un’accademica statunitense che dal 1981 insegna stabilmente presso Harvard Business School. Si tratta di una delle prime donne a essere entrata in ruolo in tale contesto. La testata lundimatin, attiva dal 2014, si schiera nell’ambito della sinistra radicale francese. Questa recensione costituisce un commento redazionale, come conclusione di un dibattito interno alla struttura

******

Quando uscì, due anni or sono, L’età del capitalismo di sorveglianza fu quasi unanimemente salutato dalla sinistra occidentale come il manuale di riferimento per comprendere l’evoluzione capitalistica degli ultimi venti anni. Diverse critiche le sono state tuttavia rivolte per via di una posizione riformista in fondo piuttosto ingenua (NT: ciò è frequente fra gli accademici statunitensi): c’era stato un capitalismo buono, sino agli anni ‘90, ma fu pervertito da un mostro, il capitalismo della sorveglianza che impera da due decenni. Queste critiche sono certamente giuste, ma ciò non toglie che l’inchiesta di Zuboff è forte, coerente; per questo le dedichiamo una discussione approfondita nella rubrica cyber-filo-tecnica (https://lundi.am/cybernetique).

Sulla copertina dell’edizione francese (ripresa pure nell’edizione italiana), in basso a sinistra, spicca un elogio di Naomi Klein, che non esita ad affermare il libro è un atto digitale di autodifesa. In basso a destra della stessa copertina si legge anche un “Acclamato dal New York Times, dal Financial Times, dal Guardian e da Barack Obama”.

E’ lo stesso Obama di cui apprendiamo, avanzando nella lettura, che ha condotto le sue campagne elettorali con l’aiuto di un tal Eric Schmitt, ovvero l’ex amministratore delegato di Google, con lo scopo di raggiungere in modo massiccio gli elettori indecisi che potevano essere orientati a suo favore (Zuboff, p.124, edizione francese). Questo è sconcertante: da chi può difenderci, questo grande libro, se pure Obama lo elogia pubblicamente? Più in concreto l’approccio di Zuboff ci aiuta a vedere più chiaramente, a trovare i difetti da utilizzare per attaccare radicalmente il mondo dell’economia e del capitalismo?

Per prima cosa utilizzeremo la struttura del libro al fine di raccogliere le analisi che riteniamo rilevanti, e permettere a chi non ha tempo di leggere il libro intero (oltre 600 pagine! N.d.T) di farsi almeno un’idea del contenuto. Successivamente vedremo come la critica di Zuboff non colga, almeno in parte, nel segno, in quanto poggia, fin dall’inizio, su fondamenta deteriorate.

Nascita e apogeo del capitalismo di sorveglianza

“Voi avete bisogno di vincere, ma fareste meglio a vincere in maniera dolce”

Eric Schmitt

Andiamo oltre la copertina, tristemente comica, e leggiamo il testo. La tesi intorno a cui ruota il volume è: “Il capitalismo della sorveglianza si impadronisce unilateralmente dell’esperienza umana come materia prima gratuita da tradurre in dati comportamentali. Mentre alcuni di questi dati vengono utilizzati per migliorare prodotti o servizi, il resto viene ricondotto a un surplus comportamentale proprietario che si alimenta in catene di produzione avanzate, note come “intelligenza artificiale”; ed è poi trasformato in prodotti di previsione che anticipano ciò che stai per fare, ora o più tardi. Questi prodotti di previsione vengono scambiati in un nuovo mercato, quello delle previsioni comportamentali, che io chiamo il mercato dei comportamenti futuri.”

L’idea generale di Zuboff è relativamente semplice: dopo aver trasformato terra, denaro e lavoro in merci, il capitalismo fa lo stesso con l’esperienza umana, a volte anche con la natura umana. Come trasformare l’esperienza in una merce? Questo è il punto delle prime due parti del libro.

La nascita del capitalismo di sorveglianza: il surplus comportamentale

La trattazione di Zuboff ha il vantaggio, e lo svantaggio, di drammatizzare le spiegazioni, fino al punto di decretare che il capitalismo della sorveglianza è nato proprio nel 2001-2002, quando economisti e ingegneri di Google si sono resi conto di poter sfruttare le richieste degli utenti per generare annunci pubblicitari personalizzati. “Il capitalismo della sorveglianza è stato inventato da un gruppo specifico di esseri umani in un luogo e in un tempo specifici. Non è né un risultato intrinseco della tecnologia digitale, né un’espressione necessaria del capitalismo dell’informazione” (Zuboff, p.124, edizione francese). Il vantaggio: ricollocare accuratamente cose, iniziative, manovre e strategie per disfare l’immagine di un sistema e di una tecnologia semplicemente autonomi e inevitabili nel loro dispiegamento. Svantaggio: ridurre tutto a poche idee di geni più o meno malintenzionati e lasciare da parte ciò che è necessario e più profondo in questa dinamica.

Molti hanno notato, prima di Zuboff, che inizialmente Google stava facendo di tutto per sviluppare un motore di ricerca non fuorviato dalla pubblicità. Lo testimoniano queste parole di Sergey Brin e Larry Page nel 1998: «siamo convinti che la questione della pubblicità generi motivazioni contrastanti: perché è cruciale disporre di un motore di ricerca competitivo, trasparente e appartenente al settore universitario’[2]. Solo che tutto si complica molto rapidamente: scoppia la bolla di internet, gli investitori chiedono maggiori profitti[3], e i dirigenti chiedono ai team Adwords che si occupano di pubblicità di trovare nuove fonti di guadagno. In pochi anni vengono depositati una miriade di brevetti per collegare le richieste degli utenti agli annunci pubblicitari ad essi corrispondenti. Ovviamente Google non si limita alle query (domande) sul suo motore: utilizza tutti i dati che può raccogliere su un utente per indirizzare al meglio la pubblicità che lo riguarda, dati che chiamiamo UPI per le informazioni del profilo utente. Ciò include i dati di Google su tutte le ricerche di un utente ma anche tutti i dati presenti online su di lui: «questi dati possono essere forniti dall’utente, da una terza parte autorizzata a divulgarli e/o derivati ​​da azioni dell’utente. Alcuni dati possono essere ricavati o dedotti utilizzando altri dati utente dello stesso utente e/o di altri utenti[4]. In breve, Google si appropria di tutto ciò che c’è da sapere su una persona per generare annunci più pertinenti. Niente di molto nuovo, ma è da questi dati che Google scopre e sfrutta quello che Zuboff chiama surplus comportamentale, la pietra miliare del capitalismo di sorveglianza. Questo surplus si riferisce alla parte di informazione su un utente che permette di inferire i suoi comportamenti, le sue idee, le sue intenzioni. L’immagine che continua a tornare dalla penna di Zuboff è quella dello specchio bidirezionale dietro il quale i processi automatizzati registrano i nostri minimi comportamenti per dedurre i successivi e nel frattempo offrire agli inserzionisti più interessati (e ai migliori offerenti) di trasmettere i propri annunci pubblicitari.

Migliaia di volte abbiamo sentito questo ritornello, e non passa anno senza parlare di come Google o qualsiasi altra azienda utilizzi i nostri dati personali. Quello che forse è meno noto è l’affinità tra il surplus comportamentale di Google (enorme data mining) e gli interessi politici del giorno in tali pratiche. Mentre già alla fine degli anni ‘90 erano emersi diversi tentativi legislativi per limitare la raccolta dei dati personali, gli attentati dell’11 settembre 2001 hanno rimescolato le carte. Da allora ogni collaborazione tra servizi di intelligence e aziende private che permetta di conoscere il più possibile su chiunque è più che benvenuta. Già nel 1997, il direttore della CIA George Tenet disse: “La CIA ha bisogno di nuotare nella Valley”. Nel 1999, la società di investimento In-Q-Tel, finanziata dalla CIA, è stata aperta nella Silicon Valley per creare partnership e ottenere tutto ciò che è rilevante nella tecnologia all’avanguardia. Gli attacchi dell’11 settembre sono stati visti, dal punto di vista dell’intelligence statunitense, come un’umiliazione: non erano riusciti a stabilire i collegamenti per anticipare gli attacchi. Nel 2013, il direttore della CIA Michael Hayden ha ammesso che l’agenzia “potrebbe essere giustamente accusata di militarizzare Internet” (Citazione di Zuboff, p.162, edizione francese, come tutte le successive). Dal punto di vista legislativo, notiamo anche che “con gli attentati dell’11 settembre 2001 tutto è cambiato. Ora, la priorità è stata data in modo schiacciante alla sicurezza rispetto alla privacy” (Peter Swire, Chief Privacy Advisor – Citazione di Zuboff, p.161). Già nel 2002, un ex ammiraglio della NSA, John Poindexter, offrì il programma TIA per la Total Information Awareness, che voleva essere in grado di rilevare qualsiasi informazione rilevante nella massa di dati globali disponibili. Nel 2003 e nel 2004, la NSA e la CIA hanno pagato Google per utilizzare speciali servizi di data mining offerti dal motore di ricerca. Diversi progetti sono interamente frutto della cooperazione o dell’ibridazione tra Google e i servizi di intelligence. È il caso ad esempio di ‘Keyhole’, società di cartografia acquisita da Google nel 2004 e il cui principale finanziatore era nientemeno In-Q-Tel: Keyhole diventerà poi la spina dorsale di Google Earth e poi di Google Maps. Così è ‘Recorded Future’ a monitorare ogni aspetto del web in tempo reale per prevedere eventi futuri e in cui Google e In-Q-Tel hanno investito contemporaneamente. Per ricapitolare, ecco alcune parole dell’ex direttore della NSA del 2010 Mike McConnell in un articolo del Washington Post che dovrebbe far riflettere chiunque evochi un cyberspazio libero e senza confini:

“Dobbiamo costruire una partnership efficace con il settore privato in modo che le informazioni possano fluire rapidamente tra pubblico e privato, confidenziale e non confidenziale … per proteggere le infrastrutture critiche del paese. I resoconti recenti di una possibile partnership tra Google e il governo indicano il tipo di sforzi congiunti – e le sfide condivise – che probabilmente vedremo in futuro. … tali accordi offuscano le acque tra il ruolo tradizionale del governo e il settore privato … Il cyberspazio non conosce confini e anche i nostri sforzi difensivi devono essere senza soluzione di continuità».

Questa tendenza non ha mai smesso di crescere e sarebbe inutile scoprire chi trae i maggiori benefici tra le aziende della Valley e il governo. Seguono pagine divertenti in cui Zuboff descrive le strategie con cui Google fa di tutto per mantenere un ‘fossato intorno al castello’ oppure le ‘fortificazioni’ con tasse accademiche e altre intense attività di lobbying a Washington. Andiamo ora direttamente al secondo passaggio nella breve storia del capitalismo di sorveglianza.

L’avanzata del capitalismo di sorveglianza

“Avanzate velocemente e rompete delle cose. Se non rompete nulla non andate avanti abbastanza velocemente!”

Mark Zuckerberg

La seconda parte sottolinea l’approfondimento e la diversificazione della redditività ricercata dal capitalismo di sorveglianza. Queste dinamiche sono in gran parte basate sulla tendenza onnipresente nell’IT, già menzionata nel primo articolo della nostra rubrica. Conosciamo la famosa citazione di Eric Schmitt nel 2015 al World Economic Forum di Davos: “Internet scomparirà. Ci saranno così tanti indirizzi IP […], così tanti dispositivi, sensori, oggetti connessi, così tante cose con cui potremo interagire che non ce ne accorgeremo nemmeno. Faranno parte della tua esistenza per tutto il tempo. Immagina: entri in una stanza e tutto è dinamico!” [vedi da allora lo sviluppo delle cosiddette smart cities, smart house, le auto Tesla ecc. (Citazione di Zuboff, p.271). Non si tratta di prendere in parola le parole pubblicitarie di Schmitt, che allora citava solo Mark Weiser (“Le tecnologie più profonde sono quelle che scompaiono. […] Macchine che si adattano all’ambiente degli individui invece di costringerle ad adattarsi a loro: questo è ciò che rende l’uso di un computer tonificante come una passeggiata nella foresta, ecc.). Si tratta piuttosto di mostrare le nuove tendenze che rendono possibile fare soldi: vendere oggetti connessi; recuperare quantità di dati sempre maggiori; sfruttare questi dati per fornire previsioni più efficaci; e attraverso queste anticipazioni predittive, incoraggiare nuovi comportamenti.

Prima di fornire esempi di questi sviluppi, ricordiamo ancora una volta che gli interessi statali e privati ​​non sono estranei l’uno all’altro. Mentre la sorveglianza e l’intelligence fanno ovviamente parte delle funzioni di qualsiasi governo che si rispetti, la modifica dei comportamenti o la “condotta” sono state a lungo ritenute una prerogativa caratterizzante. Ripensando ai vecchi file della CIA negli anni cinquanta Zuboff ricorda a coloro che lo hanno dimenticato come la CIA avesse sviluppato “una gamma di programmi progettati per prevedere, controllare e modificare il comportamento umano” (Zuboff, p.430). Mentre la guerra di Corea rendeva popolari le tecniche comuniste di ‘lavaggio del cervello’ che riducevano i prigionieri di guerra americani a ‘robot passivi’ – secondo Allen Dules, ex direttore della CIA – era quindi necessario’ che la CIA si impegnasse rapidamente nella ricerca sullo sviluppo del ‘controllo mentale’, che andava dalla ‘destrutturazione’ e ‘riprogrammazione’ dell’individuo alla modifica degli atteggiamenti e delle azioni di un intero Paese’ (Zuboff, p.431). La maggior parte di questa ricerca è stata condotta nell’ambito del progetto MK-Ultra e tenuta segreta perché, come afferma un rapporto dell’Ispettorato Generale del ‘63: “la ricerca sulla manipolazione del comportamento umano è considerata da molte autorità mediche e correlata come una pratica non etica; pertanto, la reputazione degli specialisti che partecipano al programma MK-Ultra potrebbe risentirne. Solo negli anni ‘70 se ne sarebbe saputo qualcosa, mediante indagine del Senato. Dopo lo scandalo, queste applicazioni sono semplicemente migrate… verso applicazioni civili in tutti i tipi di istituzioni (scuole, fabbriche, carceri, ospedali, ecc.) (Zuboff, p.431).

Non sorprende dunque che questo stato d’animo si sia diffuso ampiamente all’interno del capitalismo di sorveglianza, alla ricerca di nuovi profitti. La sfida di questa nuova fase è quella di non accontentarsi più semplicemente di recuperare dati online, tramite le richieste di Google degli internauti, ma di andare direttamente alla fonte, a contatto con la realtà. E questa attività estrattiva andrà sempre più in profondità, incamerando dati sempre più intimi (sondando il sonno, la salute, gli stati d’animo, ecc.).

Oltre a queste economie di scopo (allargando il campo dei dati raccolti e la loro intima profondità), il capitalismo della sorveglianza mira alle economie di azione: “questi interventi hanno lo scopo di migliorare la certezza della previsione effettuando un certo numero di azioni: spingono (nudge), regolano (sintonizzano), stimolano (gregge), manipolano, modificano il comportamento in direzioni specifiche, il che può comportare l’inserimento di una particolare espressione nel tuo feed di notizie Facebook, la tempestiva comparsa di un pulsante ACQUISTA sul tuo telefono, o il blocco programmato della tua auto quando ti dimentichi di pagare il premio assicurativo’ (Zuboff, p.275). Come scrive Zuboff: “Con questo passaggio dalla conoscenza al potere, automatizzare il flusso di informazioni su di noi non è più sufficiente; l’obiettivo ora è quello di automatizzarci” (Zuboff, p.25). Questo ci ricorda che uno dei pericoli della tecnologia oggi non è che presto dovremo affrontare macchine (o alloggi) “intelligenti” o “autonomi”, ma piuttosto sta nel diventare noi stessi automi in molti modi. Così lo descrive un ingegnere con cui Zuboff ha parlato, “Non si tratta più solo di computer ubiquitari. Il vero obiettivo ora è l’intervento, l’azione e il controllo onnipresenti. Il vero potere è che ora sei in grado di cambiare le azioni in tempo reale nel mondo reale. […] Analisi in tempo reale che si traducono in forme di azione in tempo reale” (Zuboff, p.395).

Gli esempi di questi modi di cambiare e influenzare il comportamento sono innumerevoli, poiché sono esistiti almeno dall’invenzione della pubblicità, se non da sempre, ma in forme diverse. Zuboff si accontenta di tratteggiare solo alcuni di quelli che si sono diffusi grazie alla proliferazione di dati comportamentali. La sintonizzazione o “sintonizzazione” implica “inneschi subliminali destinati a influenzare sottilmente il flusso comportamentale”. Una variante oggi particolarmente in voga è il nudge che viene definito come ‘qualsiasi elemento di un’architettura di scelta che modifica il comportamento degli individui in modo prevedibile’[5] (un’aula dove tutti affrontano l’insegnante, un sito web che ti costringe ad accettare questa o quella condizione per il suo stesso design, una statistica che ti incoraggia a pagare le tasse dicendoti innocentemente che il 90% le paga in tempo, ecc.). Nello stesso genere troviamo anche il herding, il needleling, che si basa su un controllo degli elementi del contesto immediato di un individuo (blocco del motore di un’auto a distanza, attivazione di una particolare opzione di un dispositivo, ecc.). “Stiamo imparando a comporre musica; dopodiché è lei a far ballare”, spiega uno sviluppatore di software. Il terzo tipo di tecnica, molto semplicemente, il “condizionamento”: i comportamenti naturali vengono “selezionati” nell’ambiente circostante e raggiungono il successo. È agli esperimenti del comportamentista B.F. Skinner con i piccioni ad Harvard che tornano al posto voluto: premiando i piccioni, è riuscito a “rafforzare” un comportamento o quello rispetto a un altro. Come ha affermato uno scienziato dei dati di una società della Silicon Valley intervistato da Zuboff, “l’imballaggio su larga scala è essenziale per la nuova scienza dell’ingegneria di massa del comportamento umano” (Citazione di Zuboff, p.399). La cosa grandiosa dei topi da laboratorio è che puoi sperimentarli quasi all’infinito. Ma con i nuovi strumenti di raccolta e analisi dei dati, “la sperimentazione può essere automatizzata dall’inizio alla fine”, afferma Hal Varian, capo economista di Google. Questo è il caso degli “esperimenti a grandezza naturale di Facebook su oltre 61 milioni di persone e di “influenza sociale e mobilitazione politica”, effettuati nel 2010. Durante questo esperimento controllato e randomizzato, i ricercatori hanno manipolato il contenuto dei social e dei media di messaggi elettorali nei feed di notizie di quasi 61 milioni di utenti di Facebook (Zuboff, p.403).

Un primo gruppo ha visto un messaggio che incoraggiava a votare nella parte superiore del newsfeed con un collegamento alle informazioni sulla posizione dei sondaggi, un pulsante “Ho votato”, insieme alle foto degli amici che hanno votato. I risultati mostrano che più utenti che hanno ricevuto il messaggio hanno fatto clic sul pulsante “Ho votato”. Durante le elezioni del 2010, ci sono stati circa 60.000 elettori in più e circa 280.000 altri spinti da un effetto di “contagio sociale”, tutti determinati da questi messaggi social manipolati. Altri esperimenti hanno fatto luce sull’impatto emotivo di ciò che appare sul feed di Facebook. In un altro genere, un certo Alexandre Kogan, ex di Cambridge, è riuscito a riunire più di 270.000 persone pagate per i test psicologici, il tutto senza dire loro che aveva anche accesso ai loro profili Facebook. L’operazione ha permesso di stabilire dei veri e propri profili psicologici (tra 50 e 87 milioni) da dati online, profili che sono stati poi venduti alla società Cambridge Analytica … di cui ora sappiamo il ruolo, protagonista dell’elezione di Trump nel 2016.

Potremmo continuare questo catalogo di innovazioni sempre più avanzate per restituire informazione (vedi il progetto SEWA che tenta di analizzare le emozioni generate da un programma per misurare il grado di soddisfazione dell’utente) o influenzare direttamente il comportamento (dalla pubblicità agli orrori della CIA ai ristoranti che pagano Pokemon Go per portare i giocatori a mangiare vicino alle loro case) e Zuboff non se ne priva per tutta questa seconda parte. Tuttavia, è importante sbarazzarsi di questi accumuli travolgenti (e talvolta grossolani) in cui uno spettatore indignato è talvolta parificato a un inserzionista bugiardo.

Ma prima di passare alle critiche, il punto è che il libro di Zuboff ci offre un tentativo di sintetizzare il nuovo tipo di potere, o governamentalità, che sta emergendo attraverso queste pratiche.

Del potere “strumentarizzante” per una terza modernità

“Noi dobbiamo creare un sistema nervoso per l’umanita’ che possa consolidare i nostri sistemi sociali dappertutto sul pianeta”

Alex Pentland

In questa terza parte, Zuboff affronta lo strumentalismo, che definisce come “la strumentazione e la strumentalizzazione del comportamento ai fini della modifica, della previsione, della monetizzazione e del controllo” (Zuboff, p.472). Finora, niente di nuovo. Afferma che il potere ‘strumentale’ che ne deriva si distingue da un potere totalitario, al quale tenderemmo troppo facilmente ad associarlo, come testimonia l’espressione del ‘Grande Fratello’ che troviamo ovunque associata alle nuove tecnologie (riconoscimento facciale, telecamere, eccetera.). Il totalitarismo mira soprattutto al controllo delle anime come spiega Mussolini in La dottrina del fascismo (il fascismo è ‘l’anima dell’anima […] Non vuole rifare le forme della vita umana, ma il suo contenuto’) o Stalin (“Questo è ciò che conta, la produzione delle anime umane”). Il potere “strumentale”, invece, prende di mira gli organismi, i corpi in ciò che hanno all’esterno, i corpi concreti, come oggetti dotati di comportamenti. Si può dubitare di questa rigida distinzione tra anima e corpo, e della stessa categoria di totalitarismo che consente a Zuboff di distinguere i due poteri; rimane che trae una sorta di genealogia piuttosto convincente dall’approccio che consente di imporre una nuova razionalità di governo, da diversi decenni.

Secondo lei, è nel comportamentismo di Skinner che dobbiamo cercare la filosofia “strumentale”. Il comportamentismo consiste proprio nell’interessarsi agli esseri prendendoli come scatole nere, cioè osservando “oggettivamente” solo comportamenti esterni, visibili, identificabili. In questo approccio, è quindi vietato assumere un’anima o un’intenzione nell’organismo osservato. Puoi quindi sperimentare diversi tipi di situazioni per vedere come cambia o meno il comportamento dell’organismo (i piccioni ricevono ricompense o punizioni per vedere come reagiscono). Da lì si può cominciare a stabilire regole di comportamento, senza bisogno di nozioni mal definite come anima, spirito o volontà. Questi potrebbero essere giudicati precetti un po’ ingenui e innocui, tranne per il fatto che Skinner alla fine ne trae un’intera visione del mondo e una politica. A suo avviso, le nozioni di libertà o di autodeterminazione hanno poco significato: derivano principalmente dal fatto che non sappiamo cosa ci determina. Se scelgo questo o quel candidato, penso di farlo perché sono libero ma in realtà lo faccio perché sono determinato per ragioni che mi sfuggono (ad esempio perché Facebook mi incoraggia a farlo). Ciò che occorre è acquisire il più possibile i mezzi per comprendere tutte le cause che determinano l’uomo per poter poi stabilire politiche pubbliche sulla base di una perfetta razionalità scientifica. Potremmo allora guidare oggettivamente l’umanità verso cieli migliori, essi stessi oggettivamente definiti “buoni”. Al contrario, concetti come libertà, autodeterminazione o dignità sono ostacoli che generano confusione e discordia, impedendo il progresso nella giusta direzione. In un libro giustamente intitolato Beyond Freedom and Dignity, Skinner scrive: “Dobbiamo realizzare grandi cambiamenti nel comportamento umano, e non li raggiungeremo con l’aiuto delle sole scienze della fisica e della biologia, con tutta la buona volontà del mondo”. […]. Ciò di cui abbiamo bisogno è una tecnologia comportamentale […] paragonabile in potenza e precisione alla tecnologia fisica o biologica’ (citazione di Zuboff, p.494).

Oggi Internet e le tecnologie digitali offrono la possibilità a coloro che le controllano di realizzare l’agenda skinneriana della vera tecnologia comportamentale o, per usare le parole dei suoi eredi come Alex Pentland, della vera “fisica sociale”. Quest’ultimo, direttore dello Human Dynamics Lab del MIT e autore di un best-seller di fisica sociale, ha trascorso gli ultimi vent’anni a ricercare le tecniche che ci consentono di osservare e razionalizzare il comportamento umano. A volte soprannominato il “padrino degli accessori connessi”, fornisce consulenza a tutti i tipi di organizzazioni (Google, Nissan, Telefonica, ONU, ecc.). Mentre Skinner suscitava rabbia e indignazione per le sue posizioni provocatorie, Pentland viene invece incoronato di gloria e successo. Mentre Skinner si lamentava della mancanza di strumenti e metodi a sua disposizione per misurare il comportamento umano, Pentland ha tutto ciò di cui ha bisogno a sua disposizione. Nel 2002 scrive insieme a un collaboratore “siamo convinti che la cattura e la modellazione delle interazioni fisiche tra individui costituisca un serbatoio non sfruttato” (Citazione di Zuboff, p.558). Ha poi sviluppato il “sociometro”, una sorta di sensore portatile per la registrazione e l’analisi di vari tipi di informazioni. Nel 2005, ha sviluppato con Nathan Eagle il concetto di “sfruttamento della realtà” utilizzando i serbatoi di dati che sono i telefoni cellulari. Da esperimenti condotti sui loro studenti, hanno mostrato quanto è possibile imparare analizzando questi molteplici dati. Nel 2009, ha condotto esperimenti utilizzando un badge sociometrico con gli impiegati e ha fondato Sociometric Solutions che sarebbe diventata Humanyze nel 2015, che ha fornito badge e consigliato un certo numero di grandi aziende. Pentland spiega anche di aver convinto la Bank of America a sincronizzare le pause caffè al fine di aumentare le interazioni tra i dipendenti per aumentare la produttività – sostiene che ciò avrebbe consentito un aumento della produttività di 15 milioni di dollari l’anno (Citazione di ZUboof, p. 565). Più in generale, mira a “costruire sistemi efficienti di governo, risorse energetiche e salute pubblica” attraverso l’analisi dei big data. Per questo, non dobbiamo più pensare a livello dell’individuo – “Pentland ha capito che ciò che rovina sempre tutto sono gli individui” (giornalista citato da Zuboff, p.566) – ma a livello di un sistema globale, olistico: “abbiamo bisogno di ripensare radicalmente sistemi sociali. Dobbiamo creare un sistema nervoso per l’umanità che possa rafforzare i nostri sistemi sociali in tutto il pianeta» (Pentland citazione di Zuboff, p.568). Tuttavia, ciò è possibile poiché, ‘per la prima volta nella nostra storia, la maggior parte degli esseri umani sono collegati […] Pertanto, possiamo “sfruttare il reale” della nostra infrastruttura di telefonia wireless per [… ] controllare i nostri ambienti e pianificare lo sviluppo della nostra societa’.

Ciò che l’approccio di Pentland dice, secondo Zuboff, sono segni di una nuova figura di potere che lei chiama il Grande Altro, al contrario del Grande Fratello. Mentre il Grande Fratello incarna una figura personale di sorveglianza, il Grande Altro è più una figura di potere automatica e impersonale, che si basa sulle statistiche e sulla sicurezza speciale che offrono. Quando il primo vuole diffondere una religione politica totalitaria, il secondo si affida alla radicale indifferenza dei processi algoritmici, quella che altri hanno chiamato “governamentalità algoritmica”[6]. Le masse lasciano il posto al popolo, la rieducazione forzata all’ingegneria comportamentale. Mentre si dice che il potere del Grande Fratello sia basato sulla violenza e su una teoria che ne legittima la pratica, il Grande Altro si basa sulla delicata modificazione dei comportamenti e dell’ambiente di vita e le pratiche quotidiane nascondono la teoria dietro di essi.

Gli ultimi capitoli del libro di Zuboff descrivono questo potere “strumentale” e l'”alveare” in cui vuole che abitiamo. Questo è un aspetto importante del libro: mette in evidenza la misura in cui la retorica digitale contemporanea enfatizza sempre più la nozione di comunità. Quindi Zuckerberg ha detto: “La cosa più importante che possiamo fare è sviluppare l’infrastruttura sociale… costruire una comunità globale” (Citazione di Zuboff, p.538). Le immagini che continuano a tornare dalla penna di Zuboff sono quelle della mandria (ricorda la famosa ‘immunità di gregge’ tradotta riduttivamente come ‘immunità collettiva’ in Francia), dell’alveare, insomma rappresentazioni di comunità animali (riferimento assai discutibile) in cui comportamenti mimetici e automatici hanno sommerso l’individuo autonomo. Troviamo anche sotto la penna di E. Schmitt e S. Thurn (ex direttori di Google e Google’s X lab) l’idea che l’intelligenza artificiale dovrebbe ispirarci perché è più collettiva della nostra: prendiamo una determinata autovettura autonoma, notiamo che ‘impara’ errori da un’altra auto a migliaia di miglia di distanza, cosa che gli umani non fanno. E questi due tipi concludono: “La lezione che impariamo dalle auto a guida autonoma è che possiamo imparare e agire in modo più collettivo” (Schmitt et Thurn citati da Zuboff, p.551). Non solo le macchine hanno un mimetismo che ricorda quello degli animali gregari, ma in più occorrerebbe imitarle per apprendere a stare insieme. Sembra di sognare.

Infine, contrariamente a una tradizione che cerca di riagganciare autonomia e intelligenza collettiva, sulla scia dell’operaismo italiano per esempio, troviamo qui, invece, una netta contrapposizione tra autonomia individuale e comunità, le due sembrano “mutuamente escludersi”. Almeno così pensa Zuboff: “L’autodeterminazione e il giudizio morale autonomo, che si tenderebbe a considerare baluardi della civiltà, diventano nel suo metro di misura nemici del bene collettivo. La pressione sociale, ben nota agli psicologi per il suo ruolo pericoloso nella produzione di obbedienza e conformismo, è ora vista come il modo migliore per sedare le prevedibili influenze del pensiero autonomo e del giudizio morale» (Zuboff, p.590). Invece di un “nuovo collettivismo” [Zuboff, p.624], secondo Zuboff, sarebbe quindi necessario reinventare una terza modernità che dia il primo posto all’autodeterminazione, agli esseri umani, agli individui e alla vita privata. “Il futuro è digitale, sì, ma soprattutto è umano” [Zuboff, p.691]. A dir poco è un programma ingenuo.

Critica della critica

La favola del buono e del cattivo capitalismo

Il primo punto di disaccordo con Zuboff è sulla storia del capitalismo. Il suo racconto suggerisce che ci sarebbe stato un capitalismo relativamente onesto e sano, e questo sarebbe degenerato intorno all’anno 2000, a causa di alcuni geni del computer e dello stato di emergenza dopo gli attentati dell’11 settembre. Questo è ovviamente troppo semplicistico. Tutto il ventesimo secolo testimonia contro l’idea che esistano tecniche neutre di cui il capitalismo si impadronisce solo in un secondo tempo. Sappiamo bene che il macchinismo è soprattutto una sorta di prolungamento estensivo del capitalismo quando questo vuole aumentare la produttività e fare a meno di manodopera troppo costosa. Inoltre, sorveglianza e controllo, intese come grandi questioni politiche ed economiche, compaiono con gli inizi del capitalismo: già nel XVIII e XIX secolo era necessario contare e controllare le merci, ma anche individuare e formare la forza lavoro sfruttabile, come i vagabondi (NT : vedi fra l’altro l’opera di Foucault). Non c’è bisogno di approfondire tutto ciò, ma il silenzio di Zuboff su questi aspetti è sorprendente, forse perfino sospetto. Sembra infatti avere una certa deferenza verso il capitalismo industriale ‘alla Ford’ poiché, nel modello di quest’ultimo, si teneva a suo dire conto degli interessi dei lavoratori in quanto consumatori: parte degli incrementi di produttività ottenuti tagliando i tempi sulla catena di montaggio veniva riconosciuta e consentiva loro di comprare scontate le automobili che avevano prodotto. Tutto faceva sistema e sembrava che il beneficio fosse destinato all’intera collettività. Rispondendo ad una domanda sociale realmente esistente, ed esaudendola, Ford ha attuato uno scambio di buoni propositi, ha approfondito con la sua impresa un rapporto reciproco tra capitalismo e popolazioni. Le invenzioni di Google, invece, hanno distrutto il rapporto di reciprocità sancito dal suo contratto originario con gli utenti [Zuboff, p.127]. È perfino riduttivo segnalare che un simile approccio ci appare aberrante, se solo si pensa alla vita infernale degli operai della grande industria fordista (del resto Ford non nascose mai le sue simpatie per il fascismo italiano, nota del traduttore).

Anche l’opposizione tra capitalismo industriale e capitalismo della sorveglianza digitale è fuorviante perché l’industria non è mai scomparsa nel tempo del capitalismo della sorveglianza. Questo è ciò che gli studi universitari ostinatamente proposti come chiavi di lettura dell’epoca devono sempre nascondere: la persistenza attuale anche di vecchi modelli e vecchie forme. E questo in molti modi. Zuboff scrive, ad esempio: “Il capitalismo industriale era basato sullo sfruttamento e il controllo della natura – le conseguenze sono catastrofiche, ce ne rendiamo conto solo ora. Quanto al capitalismo di sorveglianza, è strutturato, come ho suggerito, sullo sfruttamento e il controllo della natura umana» [Zuboff, p.624]. Lo sfruttamento e il controllo della natura, infatti, non sono mai cessati per il semplice motivo che il capitalismo odierno, insieme a internet e al digitale, si basa anche sull’industria. Si basano sull’estrazione di materie prime relativamente scarse e su un enorme dispendio di energia. Le produzioni si sommano costantemente e noi continuiamo a devastare il mondo. Ma ciò che è vero per il mondo è vero anche per la natura umana. Un po’ di Marx non guasta: non c’è natura umana al di fuori di un rapporto con il mondo materiale. Se il capitalismo industriale stava distruggendo la “natura”, era perché in qualche modo saccheggiava anche gli umani che vivevano al suo interno, il loro tessuto etico e sociale. La distruzione delle comunità tradizionali, l’industrializzazione, le guerre mondiali, la bomba atomica, la società dei consumi, non contano tanto quanto una vasta distruzione del mondo per le persone colpite e i loro discendenti?

Il diritto e il confort borghese come zoccoli della ’critica’

Al di là dell’analisi del capitalismo, è nella visione più generale del mondo che la nostra posizione si discosta radicalmente da quella di Zuboff. Secondo lei, il capitalismo della sorveglianza mette in discussione, in 20 anni, ciò che ha richiesto molti decenni per formarsi: “questa nuova visione, attraverso le sue dinamiche, minaccia i sistemi – sociali e psicologici, questa volta, e fragili – che hanno impiegato molti anni per raggiungere una certa maturità, migliaia di anni di umana sofferenza e conflitto: rivendichiamo questi sistemi minacciati in una prospettiva democratica, per la realizzazione dell’individuo, quale come fonte di giudizio, morale e autonomo» [Zuboff, p.683]. Quindi è come se la civiltà fosse arrivata alla “fine della storia” intorno agli anni ‘90 e alcuni ingegneri di Google avessero rovinato tutto. Questa è ovviamente solo una caricatura del pensiero di Zuboff, ma fuor di polemica permane il disaccordo sull’idea di un “prodotto finito” di civiltà da salvaguardare. E a ragione, il ‘prodotto finito’ in questione non è altro che l’individuo autonomo che, per molti versi, è più un problema che altro, e ciò proprio a causa, e quale conseguenza, di un capitalismo distruttivo. È del tutto impossibile buttarlo a mare e bisognerebbe dedicargli un intero discorso, ma non riteniamo che sia una leva sufficiente o pertinente per contrastare le attuali logiche tecnologiche ed economiche poiché è in realtà il risultato del processo capitalistico stesso. Il singolo utente è tanto il prodotto (in quanto oggetto) del data mining personalizzato, quanto è prodotto (in quanto soggetto) da questo stesso processo. Né si tratta di brandire il suo opposto, il “collettivo” o la “comunità”; abbiamo visto con Zuboff che il capitalismo di sorveglianza li usa anche per proprio conto. Piuttosto, dovremmo dividere di nuovo queste entità, e l’opposizione binaria che costituiscono, per considerare attentamente ciò che vogliamo ereditare. Ma questa è un’altra storia.

La teleologia di Zuboff la spinge dunque a difendere una sorta di base etico-politica molto semplice, spoglia, borghese: l’individuo e la sua vita privata. Inoltre, uno dei ‘miti’, assunti come tali, che ritornano più e più volte come contrappunto critico nel libro di Zuboff, è la ‘casa’, il ‘santuario’, il ‘rifugio’ di cui ella dà un esempio concreto. Casa consapevole. È il nome di un progetto di ingegneri e scienziati informatici della Georgia Tech, nel 2000, che immaginavano una’ simbiosi uomo-casa, in cui molti processi animati e inanimati sarebbero stati captati da una complessa rete di sensori sensibili al contesto integrato nella casa e dagli oggetti connessi trasportati dai suoi occupanti. Il tutto con 3 ipotesi di lavoro: questo tipo di sistema apre un campo di conoscenza completamente nuovo; questa conoscenza e il potere che conferisce devono appartenere ed essere utilizzati dagli abitanti della casa; questa nuova casa digitale rimarrebbe una ‘casa’, un santuario privato per gli abitanti [Zuboff, p.22-23]. Questo modello di Aware Home, Zuboff lo userà di nuovo per mostrare il modello di ciò che desidera: una casa digitale i cui dati non trapelano. Ahimè, si passa poi al business attuale che rappresenta la “casa connessa”: circa 151 miliardi di dollari nel 2023!

A differenza di Zuboff, non vogliamo questa bolla digitale privata, indipendentemente dal fatto che i dati generati vengano sfruttati o meno dai grandi cattivi GAFAM (a tal proposito va notato che Zuboff si concentra principalmente su Google, Facebook, Microsoft e un po’ di Amazon, come se Apple, citata velocemente all’inizio, rappresentasse un futuro digitale più ‘umano’). Primo, perché aiuta ad alienare il mondo reale, sociale. In secondo luogo, perché continuerà a fare affidamento su tecnologie devastanti, abbastanza lontane dalla casa rassicurante. Infine, perché ci sembra che questa bolla non sia per niente privata nella particolarissima impotenza generata dal capitalismo digitale. Come tutto ciò che poggia sulla coscienza e sulla critica, la strategia politica di Zuboff riguarda fondamentalmente l’indignazione: si tratta di uscire dal torpore, recuperare la capacità di stupore, ecc. Non è un’impresa da poco, ma è anche probabile che il capitalismo digitale tolleri abbastanza questo tipo di discorso, soprattutto quando è scritto o letto dietro gli schermi. Del resto, la maggior parte dei meccanismi qui presentati sono già più o meno familiari e non è scontato riferirsi ad essi, soprattutto quando, come Zuboff, vengono attribuiti a poche grandi e lontane aziende. Zuboff fa quindi un po’ di chiarezza esponendo nei dettagli chiaramente strategie ‘nemiche’ che spesso preferiscono rimanere segrete, ma porta anche, a sua volta, la sua parte di impotenza, una sorta di indignazione silenziosa che difficilmente si converte in qualcosa altro.

NOTE

[1] Vedi anche: http://effimera.org/capitalismo-sorveglianza-geraldine-delacroix/; https://www.monde-diplomatique.fr/2019/01/ZUBOFF/59443

[2] ’The anatomy of a large-Scale Hypertextual Web Search Engine’, S. Brin et L. Page

[3] ’Gli investitori gridano all’assassinio. Gli anni di gioventù e d’inesperienza della Tech erano finiti, e non era certo che a sua volta Google evitasse di finire come una radice schiacciata’, Steven Lévy, storico di Google, citato da Zuboff p.107.

[4] Brevetto depositato da 3 ingeneri di Google nel 2003, citazione di Zuboff p.116.

[5] Richard Thaler e Cass Sunstein, economisti, citati da Zuboff, p.397

[6] A. Rouvroy e T. Berns, di cui Zuboff non parla altrove.

fCondividi

Whatsapp