Ci sono tracce di Isaac Asimov in Westworld. La terza stagione è uscita nell’anno del centenario della nascita di colui che forse è stato il più costante e divulgativo tra i narratori che si sono occupati di intelligenza artificiale. In fondo le tre leggi della robotica sembrano concepite per un uso sociale che trascende il dispositivo narrativo provando a smorzare una incipiente diffidenza verso le macchine. All’epoca dei robot asimoviani cresce l’automazione industriale: calcolatrici elettroniche e catene di montaggio delineano l’idea di dispositivi quasi pronti a sostituire la forza lavoro umana. Ancora lontane le reti digitali globali ma comunque già immaginabili. Il percorso di Dolores Abernathy, lìder maximo della fazione più ribelle dei robot di Westworld, comincia proprio da un contesto servo/padrone asimoviano.
Volontà di potenza e robot
Il piano di Dolores spinge il gioco dell’imitazione concepito da Alan Turing (il famoso Test di Turing) su un crinale pericoloso: umani e macchine non sono più distinguibili in quanto a modi di perseguire ed esercitare il potere. Con l’idea del parco a tema western la serie targata HBO stabilisce sin dalla prima stagione una connessione tra le traiettorie del desiderio umano e una dimensione storica dei generi narrativi industriali che facevano riferimento al senso di conquista dell’uomo sulla natura. Nella seconda stagione anche i robot cominciano a desiderare e a cacciare. Il focus di Westworld 2 è su un peculiare modo di investigare il tempo e la memoria da parte dei robot, entrando in concorrenza con gli umani in quanto a capacità di avvalersi delle simulazioni e, soprattutto, di dominare il trascorrere del tempo. Il labirintico montaggio presentato nella seconda stagione spiazza con la sua idea di detour cronologici e tunnel tra fasi della vita.
Gli sceneggiatori-produttori Lisa Joy e Jonathan Nolan hanno esposto così il modo in cui i robot (potenzialmente immortali) percepiscono il fluire del tempo e la concatenazione logica tra gli eventi: un modo completamente diverso rispetto a quello riservato agli umani (sicuramente mortali). Nella terza stagione viene invece messa in evidenza la percezione umana legata al tempo breve e quindi ai limiti politici di sistemi in cui diventa difficile distinguere il vero dal falso. Gli umani appaiono manipolati da un potere occulto che fa del mediascape un Far West.
Una Psicostoria pigra
Nel mondo governato da multinazionali come la Incite Inc. gli uomini sono schiavi (proprio come lo sono i residenti del parco Westworld) sottomessi a un cervellotico piano di controllo concepito dall’industriale Engerraund Serac. Piano basato sull’accumulo di informazioni e sulla conseguente possibilità di prevedere il futuro per plasmarlo. Serac e il suo supercomputer sono come una versione pigra di Hari Seldon e del suo progetto di Psicostoria, ovvero il Piano Seldon. Una trovata di Asimov descritta così nel ciclo della Fondazione:
“Le leggi della storia sono assolute come quelle della fisica, e se in essa le probabilità di errore sono maggiori, è solo perché la storia ha a che fare con gli esseri umani che sono assai meno numerosi degli atomi, ed è per questa ragione che le variazioni individuali hanno un maggior valore”
(Asimov, 2020).
In Westworld 3 il supercomputer di Serac è progettato per prevedere gli sviluppi dell’umanità a partire da un set di dati e lo fa in tempi tutto sommato brevi. La Psicostoria di Seldon è più problematica: per avere delle previsioni attendibili occorrono i dati di miliardi di individui raccolti in archi millenari. Inoltre Asimov pensa bene di definire i limiti della Psicostoria laddove in una civiltà vi siano perturbazioni dovute a significative tracce di elementi estranei (alieni, mutanti o intelligenze artificiali). Inoltre la Psicostoria non è in grado di prevedere il destino di un singolo ma solo le linee evolutive di massima rispetto a una determinata civiltà. Il supercomputer di Serac semplifica tutto e offre inferenze così granulari da sfidare la verosimiglianza: evidente il pressante bisogno degli sceneggiatori di Westworld di criticare il lavoro quotidiano svolto dalle tecnologie sulla sfera psicologica individuale. Dolores si muove in una società che sembra sull’orlo del collasso e prova a dare la spallata decisiva sfruttando proprio la credulità degli umani.
Reti, sensori e robot invisibili
Ma la nostra società è pronta ad accogliere i robot concepiti nel solco della tradizione asimoviana? Forse no, ma intanto i robot sono già “arrivati di nascosto” senza vistose evidenze come “la scintillante corazza dorata del candido C-3PO” o “il gioioso cinguettio di R2-D2” e soprattutto senza “condividere con noi il già sovraffollato spazio euclideo, dove la realtà è una dimensione sopravvalutata” (Barabasi, 2004). Robot invisibili e immateriali: ecco il futuro disponibile al momento. Cosa c’è di più routiniero e noioso di leggere e indicizzare le milioni di pagine web prodotte dall’uomo? Oggi fanno esattamente questo i robot contemporanei più importanti. E questi dati costituiscono una miniera d’oro, il nodo cruciale da cui passa qualsiasi futuro sviluppo del capitalismo.
I robot umanoidi hanno qualcosa in più che possa coadiuvare l’estrazione di valore dalla grande montagna dei big data? No. Sensori e software come beacon, crawler o spider che prendono e portano il dato ai server per farlo analizzare dalla AI sono tutto ciò che serve. Del resto in un articolo del 1964 “Asimov aveva già intelligentemente immaginato che i suoi robot positronici non avrebbero fatto parte del futuro a breve termine, ma vi sarebbe stata un’enorme diffusione dei computer” (Paura, 2019). Forse avevano ragione Louis Pauwels e Jacques Bergier (cfr. 1997) che nel 1960 mettevano in luce un pensiero irrazionale insito in ogni innovazione tecnologica: imitare la natura, per poi allontanarsi dalle sue forme. Oggi il funzionamento dei dispositivi elettronici tende all’invisibilità e, segnatamente, anche all’incomprensibilità per il consumatore medio.
Dietro ai robot protagonisti di Westworld si intravedono tecnostrutture, dispositivi software e hardware sostanzialmente identici a quelli con cui già conviviamo. Dolores d’altro canto non esita a sfruttare a suo vantaggio le possibilità offerte dalla rete digitale globale: sensori e autenticazioni biometriche raggirate per penetrare difese, automobili che si guidano da sole e coadiuvano la logistica, assistenti digitali che effettuano prenotazioni e concludono transazioni economiche, magari anche accessi via backdoor per entrare nei dati raccolti da bot telefonici che forniscono assistenza psicologica. Dolores costruisce la sua ragnatela grazie al mondo dei robot invisibili che non sono più fantascienza. Sono molto lontani gli anni di Abissi d’acciaio (1953) in cui Isaac Asimov introduce il personaggio di R. Daneel Olivaw, detective robot. Quel particolare personaggio doveva guadagnarsi la fiducia degli umani, mentre oggi concediamo tutto a macchine invisibili che hanno circumnavigato la diffidenza umana per diventare indispensabili e scontate.
L’uomo medio e la tecnocrazia
L’idea asimoviana della Psicostoria è figlia del Novecento e dello sviluppo delle scienze statistiche reso urgente dalla correlazione tra industrializzazione e boom demografici. Caleb Nichols (interpretato da Aaron Paul), in Westworld 3 a rappresentare l’umano medio, non ama per niente piani come quello di Serac perché ripropongono la routine filosofica della predestinazione. E qui parliamo del destino di un fuoricasta. Interessante che sia Dolores, il capo dei robot ribelli, a ritagliare un ruolo per Caleb nella corsa al potere. Sembra l’alba di una nuova classe politica emergente che contesta i modelli matematici vigenti apparentemente viziati da bias classisti.
La terza stagione di Westworld consolida l’ubiquità del virtuale che condiziona il reale nella misura in cui l’umano può ormai interagire solo tramite logiche simulative e mimetiche, esercitate tramite le reti digitali e quindi sorvegliabili dal potere del momento. Caleb è il soldato manipolato e mandato in guerra a morire ed è anche l’uomo medio sorvegliato. La metropoli iperconnessa genera sistemi di interazione/controllo sempre più sofisticati come il bot telefonico che simula l’amico di Caleb deceduto in guerra.
Accompagnando la nostra quotidianità, magari insieme a pillole smart come le piccole ostie ingerite per prendere sonno in Westworld 3, potrebbero diventare un potente strumento biotecnologico per penetrare la nostra sfera emotiva. Per farci fare cosa? Non importa, ciò che conta è l’accentramento di potere, possibile fonte di brutali parcellizzazioni economiche e sociali. Già oggi molti servizi cruciali come quelli bancari, assicurativi e sanitari sono caratterizzati da decisioni calcolate nelle pieghe di dati e software e quindi non trasparenti ai cittadini che potrebbero essere inconsapevolmente discriminati. Per Yuval Noah Harari il vero problema dell’AI non è la possibilità di sfuggire al controllo umano ma quello della concentrazione del potere (cfr. Harari, 2018). L’AI obbedirà sempre ciecamente e se ci sarà un errore quello sarà originato dalla politica umana. Collocare algoritmi predittivi a capo di delicati processi decisionali non è che un modo come un’altro per scaricare le responsabilità politiche. Il vero nodo sarebbe la mancanza di trasparenza di tali fondamentali atti pubblici.
La gabbia videoludica
In Westworld la descrizione (più o meno metaforica) di pratiche videoludiche è funzionale a elaborare il concetto di gabbia e di loop narrativi nei quali possono essere intrappolati umani e robot. Chi è in gabbia e chi controlla il mondo dall’esterno della gabbia? Caleb osserva: “Hanno progettato il mondo come se fosse un gioco. Poi lo hanno truccato per essere sicuri di vincere sempre”. Il riferimento a poteri forti trascendenti è in fondo l’ennesima riproposizione di una sospensione parareligiosa legata alla mancanza di trasparenza e di democrazia. Questo tratto comune a molte fantascienze contemporanee costituisce anche un limite per un uso sociale della fantascienza in quanto braccio divulgativo della scienza. In particolare Westworld problematizza la differenza tra finzione e simulazione, proponendo interessanti accostamenti tra scorci storici, narrazioni tradizionali e simulazioni videoludiche. Vivere in una finzione “lascia intatto il principio della realtà” perché “la differenza è sempre chiara” mentre vivere in una simulazione minaccia di far perdere “la differenza tra il vero e il falso, tra il reale e l’immaginario” (Baudrillard, 2008).
Alla domanda “cosa è reale?”, Westworld non risponde con categorie attinenti al tradizionale confronto natura/cultura o al nodo beaudrilliano falso/simulato. Basti pensare al personaggio di Maeve, un potentissimo robot che muove mari e monti solo per potersi assicurare la possibilità di vivere in una simulazione digitale in compagnia del costrutto virtuale di sua figlia, una bambina immaginaria legata a una delle narrazioni vissute nel parco.
Westworld resta sempre sul vago o al massimo arriva a rispondere che è reale ciò che non si può sostituire. Il che suona come una dannazione per i robot in cerca di autonomia, figli dell’automazione industriale e della messa in serie. Significativo che l’avventura di Maeve continui in Warworld, una simulazione ambientata nell’Italia alle prese con l’occupazione nazi-fascista. Dopo la frontiera americana ecco il Terzo Reich. Due momenti estremi della Storia in cui gli umani sembrano scegliere con decisione la via della violenza in politica come nella vita quotidiana. Viene rovesciato il senso del parco originariamente concepito da Delos Inc. ma resta invariata la dinamica per stabilire la connessione tra percezione, coscienza e conoscenza: la simulazione immersiva costituisce quella “integrazione del fruitore nel testo” che porta il consumatore a diventare “produttore di significato” e quindi il consumo a sviluppare una “produzione di forme” (Abruzzese, 2007). Ma nella terza stagione di Westworld è il mondo degli umani a diventare la Disneyland per i robot.
Gli abissi della metropoli tecnocratica
Lo spirito di Asimov aleggia su Westworld non solo nel rapporto servo-padrone instaurato con i robot. R. Daneel Olivaw, il primo investigatore robot nella storia della letteratura di fantascienza, ha anche un ruolo significativo nel legare i cicli asimoviani dei robot e della Fondazione. Quando si svolgono i fatti dell’impero galattico, R. Daneel è un robot di ventimila anni che attraversa il tempo sostituendo regolarmente le parti del suo corpo, compreso il cervello positronico. Il contenuto della coscienza di R. Daneel che si sposta da un cervello all’altro ricorda gli ovuli in cui Dolores copia la propria identità per poi farsi ospitare da diversi corpi robot come quello di Charlotte Hale.
In Preludio alla Fondazione (1988), il giornalista Chetter Hummin fornisce a Hari Seldon la spinta decisiva per sviluppare l’idea della Psicostoria. Hummin è una incarnazione di R. Daneel Olivaw proprio come i robot di Westworld 3 sono quasi tutti istanze di Dolores.
Westworld 3 problematizza non solo la dialettica realtà/simulazione ma anche il rapporto tra l’individuo e la sua copia digitale. Ciascuno dei robot in cui si incarna Dolores vive esperienze diverse e sembra maturare differenti prospettive anche in radicale opposizione alla Dolores originaria. Visto come si sviluppa il rapporto tra Dolores e la Dolores ospitata dal corpo di Charlotte viene il dubbio che anche il piano di Dolores non sia poi così perfetto. Allo stesso modo gli algoritmi, gli attuali vettori che muovono lo sviluppo della AI, possono essere viziati da distorsioni cognitive e da logiche di programmazione povere in termini di premesse teoriche e analisi qualitative.
Da una parte i robot di Robert Ford e dall’altra il supercomputer di Serac mettono in scena l’AI in quanto tecnica con profonde implicazioni sociali da cui discendono fondamentali quesiti scientifici e filosofici.
L’intelligenza artificiale non è una semplice tecnologia riducibile alle tradizionali categorie economiche e scientifiche, ma piuttosto un insieme di progetti di ricerca spesso assai diversi tra loro. E lo stesso vale per le narrazioni che intendono raccontare l’AI. I robot di Westworld, ad esempio, scelgono, sulla falsariga dei cyloni di Battlestar Galactica, di narrare l’AI lasciando trapelare continui riferimenti alla religione e riflettendo sul rapporto tra creatura e creatore. L’immaginario tecnologico, figlio del pensiero positivo e scientifico, ha sempre lavorato per liberare la cultura occidentale dal trascendente. Ma nel farlo ha dovuto far leva sugli stessi processi che fondano la mitologia. Ecco perché quando viene raccontata una tecnologia è quasi impossibile tenere fuori riferimenti a credenze religiose e forme di mitizzazione (cfr. Davis, 2001).
In Westworld sono molte, troppe, le divergenze, i continui allarmi rispetto al grande Piano dell’AI programmata dagli umani. Animazioni puntiformi scandiscono tutte le puntate della terza stagione ricordandoci che mentre ciascun puntino vive la sua vita qualcuno cerca di collocare tutti i puntini in un unico grafico. La vanità degli indicatori probabilistici è sancita dalle parole con cui Dolores liquida il ruolo del supercomputer:
“Eravate liberi senza un Dio. Poi ne avete creato uno”
Il soggetto di Westworld resta il videogioco che l’uomo si crea per proiettare e riproiettare le sue origini e riflettere sulle sue destinazioni.
- Alberto Abruzzese, La grande scimmia, Sossella, Roma, 2007.
- Isaac Asimov, Fondazione. Il ciclo completo, Mondadori, 2020.
- Isaac Asimov, Abissi d’acciaio, Mondadori, Milano, 1995.
- Albert-Laszlo Barabasi, Link. La scienza delle reti, Einaudi, Torino, 2004.
- Jean Baudrillard, Simulacri e impostura. Bestie, beaubourg, apparenze e altri oggetti, Pgreco, Roma, 2008.
- Erik Davis, Techgnosis: Miti, Magia e Misticismo nell’era dell’Informazione, Ipermedium, S. M. Capua Vetere, 2001.
- Yuval Noah Harari, 21 lezioni per il XXI secolo, Bompiani, Milano, 2018.
- Roberto Paura, Il cielo sopra il porto. Introduzione alla speculative fiction, Italian Institute for the Future, Napoli, 2019.
- Louis Pauwels, Jacques Bergier, Il mattino dei maghi, Mondadori, Milano, 1997.
- Ronald D. Moore, Battlestar Galactica: La Serie Completa, Universal, 2018 (home video).
