Palantir: il controllo è invisibile e ti conosce già

La società del controllo, l’ombra di Palantir:

“Siamo in una crisi generalizzata di tutti gli ambienti di reclusione: prigione, scuola, ospedale, fabbrica, famiglia. Modulazioni che cambiano continuamente, che sono in continuo contatto con altre modulazioni, e che formano un sistema di comunicazione continuo. Il linguaggio non serve più a comunicare, ma a controllare.”

In questo passaggio che si trova all’inizio del “Post-scriptum sulle società del controllo”, saggio di Gilles Deleuze del 1990, il filosofo francese inquadra la crisi generalizzata delle vecchie istituzioni disciplinari, menzionando le “modulazioni che cambiano continuamente”, e ci fornisce una preziosa chiave di lettura su come le tecnologie di controllo contemporanee, come quelle sviluppate da Palantir, non operino più nei limiti dei vecchi modelli di sorveglianza descritti nella società disciplinare di Foucault e basati su un monitoraggio in ambienti chiusi e specifici (prigioni, scuole, caserme, fabbriche), (vedi Panopticon di Bentham). Non esistono più confini fisici, il controllo passa attraverso una rete fluida e invisibile fatta di dati che vigila, profila e influenza i nostri comportamenti. 

Palantir Technologies: L’azienda che sviluppa software per l’analisi e la gestione di dati su vasta scala; set di dati che riceve dalle fonti più svariate, principalmente governative, aziendali e finanziarie. Set di dati che vengono processati per individuare pattern, correlazioni e minacce.

I principali clienti di Palantir sono agenzie di intelligence e grandi multinazionali, a cui l’azienda fornisce un vero e proprio sistema nervoso centrale per la sorveglianza e la gestione di informazioni complesse: il software “Gotham”, che è la versione militare, e “Foundry”, quella per i clienti corporate. “Gotham” è utilizzato nel processo a dir poco controverso della “giustizia predittiva”, ossia l’intervento preventivo su un individuo basato sulla probabilità che commetta un crimine in futuro, esattamente come, per chi lo ricorda, in Minority Report.

I CEO della sorveglianza:

Peter Thiel, co-fondatore di Palantir e di Paypal, ci rassicura del fatto che la sorveglianza del globo è in buone mani, già nel 2014, quando alla domanda del giornalista David Gelles (NYT): “Preferiresti che la razza umana continuasse a esistere, giusto?”, Thiel rispose:”Se fosse un’opzione credo che sarebbe molto noiosa, un futuro più interessante sarebbe un futuro con un’IA superiore che controlla il mondo”; confortante, vero? Un’altra sconcertante affermazione arriva nel lontano 2009, quando affermò che “libertà e democrazia non sono compatibili”, poiché la democrazia, con le sue costrizioni burocratiche e la necessità di consenso (fondamento delle democrazie), ostacola il progresso tecnologico, Thiel arriva addirittura a sostenere il concetto della “tecnocrazia”, dove le decisioni sono prese da un’élite di esperti e non dal voto popolare.

Passiamo ora alle più famose citazioni di Alex Karp, altro co-fondatore di Palantir technologies. Tra le più sconcertanti: “Il metodo più efficace per il cambiamento sociale è umiliare il tuo nemico e impoverirlo”, “Non penso in termini di vittoria o sconfitta, penso in termini di dominio”, “Amerei l’idea di prendere un drone e dotarlo di cannoni spara-urina con fentanyl aggiunto, con cui ricoprire tutti gli analisti che tentano di fregarci”

I clienti della distopia:

Tra gli utilizzatori annoverati dei software targati Palantir troviamo la famosissima ICE, ufficio per l’immigrazione interno al Dipartimento della Sicurezza Nazionale USA, che ususfruiscono di Gotham per rintracciare e deportare gli “aliens” (termine utilizzato da Trump riferiscendosi all’Alien and Sedition Acts del 1798, che in tempi di guerra permette al Presidente di ordinare arresti e deportazioni dei cittadini della nazione nemica), creando vere e proprie “tabelle di calcolo” che collegavano tra loro le famiglie, accelerando così il processo di separazione dei nuclei familiari. Sappiamo inoltre, da Amnesty International e da un’indagine del Guardian su vari documenti del Dipartimento della Sicurezza Nazionale USA, che i software Palantir sono stati utilizzati per identificare, monitorare e tracciare manifestanti, in particolare gli studenti-attivisti per la Palestina nelle università di Harvard e Columbia. Tra gli altri clienti troviamo l’IRS, il Department of Treasury e il Department of Health and Human Services, tutte agenzie governative che hanno a disposizione i dati di milioni di persone, parliamo di dati bancari, quindi uscite e entrate dell’individuo, lo storico medico e tutti i dati del servizio sanitario nazionale, tutte informazioni che sottoposte ai software Palantir creano una rete di controllo invisibile, ma onnipresente, che ci conosce “meglio di noi stessi”. Un’ultima insight, ma non per importanza, Palantir esordisce nel 2003 con un finanziamento da parte della CIA, di 2 milioni di dollari.

Ovviamente, tra le fila del braccio armato del controllo troviamo anche il governo israeliano e l’IDF (Israeli Defence Force), che utilizza attivamente i software di Palantir nello sterminio della popolazione palestinese, tracciando famiglie, giornalisti, dottori e attivisti nella Striscia e in Cisgiordania. I sistemi Palantir sono inoltre integrati da anni nel regime di apartheid israeliano, con tecnologie di riconoscimento facciale ad ogni gate e checkpoint presente nei territori palestinesi occupati.

La dissoluzione degli ambienti chiusi:

I software di Palantir bypassano completamente i confini fisici, operando attraverso una rete globale di dati e collegando enormi set di informazioni, come registri bancari, dati dei social media e comunicazioni telefoniche, creando una sorveglianza che non è più confinata in un luogo specifico (prigioni, fabbriche ecc.), ma è in ogni luogo, in ogni momento, senza possibilità di percepirla.

Il monitoraggio continuo e le “modulazioni”:

Palantir non si limita ad osservare ciò che accade, ma utilizza i dati per prevedere comportamenti futuri e identificare potenziali minacce. Questo è il fulcro della “modulazione”: agire in anticipo per modellare e influenzare il comportamento degli individui.

Il controllo non è più visibile, né verificabile, ma una intrecciata rete invisibile di algoritmi, correlazioni e associazioni. Ma la vera domanda è, anche se sapessimo di essere controllati, come potremmo difenderci da un potere onnipresente basato su un codice numerico, e non più su una struttura architettonica?

Noi, i dati:

Palantir technologies non fornisce solo numeri, ma crea “storie” partendo da essi. Collega frammenti di informazioni per costruire un quadro narrativo, un vero e proprio storytelling su di noi. Tutto questo conferisce all’azienda un enorme potere nel definire la nostra realtà, e nel giustificare le azioni basate su questa “verità”, che in realtà è solo un costrutto artificiale.

Nel modello di Deleuze, non siamo più persone da correggere, ma “divisibili”, cioè un insieme di dati che può essere rintracciato e ridefinito in qualsiasi momento.

Palantir fa questo: analizza gli individui come entità definite dalle loro transazioni, i loro movimenti e le loro comunicazioni, creando così milioni di dossier virtuali e riducendo ad un ammasso di dati manipolabile.

La distopia che non si vede:

Il pericolo della società del controllo, incarnata in aziende come Palantir, sta nella sua invisibilità. Nessuna autorità visibile, solo un sistema di algoritmi che determina ciò che è permesso e ciò che non lo è.

Al cospetto di un nemico invisibile, qualsiasi forma di resistenza rischia di vanificarsi.

Palantir è IL nuovo modello di potere, in cui la prerogativa della sorveglianza passa dallo Stato, alle aziende private. Nell’era digitale, trasparenza e responsabilità sono due termini di cui rischiamo di dimenticare il significato, dato che la società del controllo descritta da Deleuze non è solo una teoria, ma una realtà operativa che si materializza negli algoritmi di Palantir. 

Chi ha accesso a questi sistemi oltre ai governi? Chi decide quali dati sono rilevanti? E quali sono le conseguenze per la libertà e la democrazia?.