CRITICA LIBRI

Il totalitarismo degli algoritmi

Punto uno: «Gli umani diventeranno sempre meno utili sia sotto il profilo economico che sotto quello militare, di conseguenza il sistema economico e politico cesserà di accordare loro così tanta importanza». Punto due: «Il sistema continuerà a considerare preziosi gli umani, ma non come singoli individui». Punto tre: «Il sistema continuerà a considerare preziosi alcuni singoli individui, ma questi costituiranno una nuova élite di superuomini potenziati, non la massa della popolazione».

Potrebbero essere i parametri di un universo distopico alla Philip Dick, un mondo dominato dalla tecnologia e dall’intelligenza artificiale nel quale sfumano anche le tre regole della robotica formulate da Asimov.

Invece sono i pilastri del nuovo paradigma economico e sociale nel quale, secondo lo storico e filosofo israeliano quarantenne Yuval Noah Harari ci apprestiamo a vivere nel XXI secolo. Il suo Homo Deus. Breve storia del futuro, (Bompiani) uscito in Italia nel 2017, best seller globale, dopo il successo di Sapiens, da animali a dei, corre per 400 pagine tra le trasformazione tecnologiche, sociali, economiche e culturali di 75mila anni di storia umana per arrivare a quella ontologicamente più sconvolgente, in corso adesso.

Una nuova religione si è imposta con il nostro entusiastico consenso inconsapevole: il datismo, per il quale tutto, dal genoma umano all’atmosfera di Marte, dai tempi di consegna di Amazon alle reazioni elettrobiochimiche nel nostro cervello, è traducibile in algoritmi, flussi di dati, condivisibili e modificabili, con la promessa dell’immortalità, della fine delle malattie, delle guerre tra umani ma anche del lavoro e persino delle emozioni, disfunzionali al sistema.

Il mondo che Harari vuole mostrarci assomiglia molto agli incubi di Black Mirror, la serie cult di Netflix in cui biodispositivi, social network invasivi e bioingegneri senza freni determinano la vita di esseri umani mutanti.

La realtà, rispetto a quando è uscito il libro a fine 2016, sembra correre persino più veloce: in fondo abbiamo passato un 2017 caratterizzato dal dibattito etico e dal pentitismo dei tycoon dei big Data, e già ci stiamo abituando all’idea di pecore-uomo usate come serbatoi di organi umani e di robot che alle Olimpiadi coreane sciano meglio di noi.

Ma proprio per questo la lettura di Homo Deus in questo momento ci permette di collegare i puntini tra singoli eventi e toglierci ogni illusione sul nostro potere di controllare quello che sta succedendo. Il linguaggio divulgativo e ironico dell’autore intreccia una mole incredibile di studi e analisi, per restituirceli in un ordine coerente che disegna un mondo dove forse solo agli estremi della piramide (tra i superuomini che dalla Silicon Valley e simili controllano centri di elaborazione dati e laboratori genetici e i nuovi proletari che sentono l’alito sul collo del concorrente non umano, drone o robot) si vede chiaramente, come una Matrix disvelata, dove stiamo andando.

Schematicamente per Harari l’umanità è passata dall’essere dominata dalla fede cieca nelle divinità, alla fede altrettanto cieca nell’uomo ed ora a quella dei dati, che si dimostra un’ideologia potente, pari a quella del capitalismo nel libero mercato e nei suoi taumaturgici poteri di autoregolamentazione. Anche al libero flusso dei dati e alle intelligenze artificiali che le gestiscono non vanno frapposti ostacoli, perché alla fine il sistema si riassesta per il meglio, vaticinano i sacerdoti datisti.

Ma poi si scende nel dettaglio. Rivelatore è l’esempio in cui Harari invita a visitare un laboratorio di robo-ratti per vedere la nuova filosofia in azione. I robo-ratti sono topi veri telecomandati grazie ad elettrodi impiantati nel cervello, per mezzo dei quali gli scienziati riescono a far fare loro cose che normalmente non vorrebbero fare, tipo saltare da grandi altezze se utile allo scopo del committente, per esempio per scovare mine. Di fronte alle obiezioni che gli animali soffrirebbero, gli scienziati hanno spiegato che in realtà i topi sono felici, perché vengono stimolati i centri del piacere. Non solo, non sono “costretti” a saltare perché semplicemente attraverso la stimolazione di determinati punti il topo telecomandato “vuole” saltare.

Poche righe più avanti un altro esperimento ci mette di fronte al dato di fatto che certi confini non “stiano” per essere superati, ma lo sono già da un pezzo. Si parla dell’addestramento dei tiratori scelti Usa attraverso uno stimolatore transcranico, cioè un casco che funziona come gli elettrodi dei robo-ratti ma più soft e temporaneo. Una giornalista del “New Scientist”, Sally Adler, che ha partecipato all’addestramento descrive l’esperienza in un simulatore di combattimento (realtà virtuale con nemici che ti attaccano) senza il casco: panico, confusione, inadeguatezza della risposta, morte. E poi con il casco, che stimola determinate capacità cognitive: freddezza, precisione, concentrazione, massimo risultato, ossia tutti i nemici uccisi. Sconvolgente il commento successivo di Adler: «Il mio cervello privo di incertezze è stato una rivelazione. Spero possiate capirmi se dico che nelle settimane successive non ho desiderato altro che tornare là e attaccarmi alla testa quegli elettrodi». Del resto dispositivi analoghi vengono utilizzati con successo per curare la sindrome post traumatica dei soldati. Altro che paradisi artificiali.

Tutto questo pone a breve, medio e lungo termine interrogativi inquietanti sui processi deliberativi, sul concetto stesso di libero arbitrio, di democrazia e su cosa fare di masse di esseri umani “useless” al sistema produttivo. Harari porta il ragionamento al massimo livello di radicalità, spiegando che in un mondo dove i dati sono il bene più importante, vince chi riesce ad elaborarne di più, più in fretta e in modo più efficiente. Questo non è più appannaggio della mente umana e dal punto di vista di un mondo ipertecnologizzato e “datizzato” anche la democrazia si rivela poco conveniente, al pari di altri sistemi politici.

Politica e scienze sociali rispetto a questo cataclisma sono del tutto impreparate e soprattutto troppo lente: nessun politico, nessun governo, nemmeno nessun dittatore è in grado di avere una visione perché a questa velocità di trasformazione, nessuno è in grado di dire come sarà il mondo tra vent’anni, forse nemmeno tra dieci. In questo mondo, intelligenza e consapevolezza vanno su strade divergenti, il monopolio dell’intelligenza non ce l’abbiamo più noi, dal momento che i nostri neuroni non possono competere con intelligenze artificiali le quali sempre più saranno capaci di imparare e, quindi, di un pensiero “creativo”. Ci resta la coscienza, forse, anche se l’esperimento dei robo-topi pone qualche dubbio.

Harari sceglie immagini suggestive per definire in modo concreto il futuro: «I datisti spiegano a coloro che ancora adorano i mortali in carne ed ossa che sono eccessivamente attaccati a tecnologie sorpassate. Homo sapiens è un algoritmo obsoleto». Obiettivo della religione datista è collegare ogni cosa: esseri umani, automobili, frigoriferi, polli nei pollai, tutto connesso nell’«Internet di tutte le cose». Il frigorifero controlla il numero di uova nel portauova e informa l’allevamento di polli delle uova necessarie, calcolato anche sulla base del mio tasso di colesterolo nel sangue.

La scala di valore dei diritti cambia. Nel mondo datista all’ideale della libertà su cui si è basata la rivoluzione del 1789 si è sostituita quella della libertà di informazione, ossia il diritto delle informazioni, a circolare liberamente, come diritto più forte del bit su quello degli umani a tutelare i loro dati. Una visione controintuitiva dei mali dell’open source. Ma anche una visione più potente della ricchezza promessa dal libero mercato, perché qui in gioco c’è, appunto, l’eternità promessa dalla bioingegneria.

La conclusione di Harari non è una ricetta, ma un piano di lavoro: «Un esame critico del dogma datista è forse non soltanto la più grande sfida scientifica del XXI secolo ma anche il progetto politico e economico più urgente». La domanda è: «Che cosa accadrà alla società, alla politica e alla vita quotidiana quando algoritmi non coscienti ma dotati di grande intelligenza ci conosceranno più a fondo di quanto noi conosciamo noi stessi?» Lo sappiamo, succede già, tutti i giorni, quando Facebook o Google ci fanno proposte allettanti sulla base dei nostri gusti più reconditi.

Una lettura decisamente ansiogena e forse non a caso Harari da anni è un cultore della meditazione vipassana.

Tags