Una macchina che pensa e sente: questo è il centro di gravità dei racconti di robot scritti da Isaac Asimov. Certo in un protagonista della Golden Age of Science Fiction (l’età dell’oro della fantascienza americana), è impossibile non rilevare tracce di sense of wonder e in particolare una profonda ammirazione per le conquiste scientifiche. La narrativa di Asimov, però, è anche pervasa da un senso di sfiducia e una buona dose di sarcasmo. In fondo lo scrittore di origini russe ed ebraiche ha sempre drammatizzato le sue storie di robot erigendo intorno ai cervelli positronici un muro di ignoranza e pregiudizio da parte degli umani. È stato tra i primi a sistematizzare una sorta di fantapolitica segregazione razziale giocando con gli istinti luddisti che serpeggiano lungo tutta la civilizzazione tecnologica, dalla Spinning Jenny fino allo scenario odierno che si prepara ad accogliere la rivoluzione delle auto a guida autonoma. Come nota Asimov stesso nell’introdurre l’antologia Visioni di robot riproposta da il Saggiatore, prima della fantascienza proposta da riviste come Astounding Science Fiction di John W. Campbell, vi era sempre “una certa preoccupazione quando gli esseri umani cercavano di appropriarsi di conoscenze che erano appannaggio degli dèi o dei demoni”. Così, sotto un’importante crosta di poderosi rimandi scientifici (spesso caratterizzati da mai troppo nascoste ambizioni divulgative), la hard science fiction di Asimov si colloca all’alba di un immaginario tecnologico che perlustra senza allarmismi le conseguenze sociali dei processi di automazione.
Cittadinanza e piena automazione
I robot di Asimov sono esseri senzienti che cercano un posto nella società degli umani. Riflessione di notevole attualità man mano che si afferma il concetto di robo-sourcing (cfr. Gore, 2013), ovvero la sostituzione di lavoratori umani con macchine. Moratorie, tasse, leggi: questo è il massimo che finora la classe dirigente mondiale è riuscita a concepire. In pratica l’idea è quella di finanziare l’assistenzialismo statale arrendendosi in partenza al fatto di dover compensare la disoccupazione tecnologica.
Prima Legge della Robotica: “Un robot non può recar danno a un essere umano né può permettere che a causa del proprio mancato intervento un essere umano riceva danno”.
La recente serie tv Humans cerca di canalizzare proprio lo spirito sociologico dell’immaginario asimoviano mettendo in parallelo l’affermazione dei robot nell’elettronica di consumo e le reazioni della gente comune. Comincia a insinuarsi il dubbio che la presenza degli umani di origine biologica nel ciclo produttivo non sia davvero necessaria.
La serie tv Philip K. Dick’s Electric Dreams insiste molto su questo punto, in particolare nell’episodio Autofac: in un futuro post-apocalittico l’apparato produttivo totalmente automatizzato continua a fabbricare non solo la merce ma anche i suoi consumatori, per continuare ad avere uno scopo. Ci prepariamo dunque a una società post-lavoro?
In Asimov, trovate ingegneristiche e paradossi della logica si alternano a improvvisi e sorprendenti labirinti di psicologia, etica, talvolta addirittura teologia. Non a caso oggi imprenditori, scienziati e filosofi insistono su un patto tra discipline scientifiche e umanistiche per rendere meno dirompente e brusca l’entrata delle intelligenze artificiali nei processi decisionali e nella vita di tutti i giorni. Proprio la fantascienza americana degli anni Quaranta e i robot di Asimov hanno mostrato al mondo la necessità di un ponte tra le culture. In una lettera del 1944 Albert Einstein scriveva:
“La conoscenza del retroterra storico e filosofico [delle teorie scientifiche] consente di raggiungere l’indipendenza dai pregiudizi della propria generazione […]. Questa indipendenza frutto dell’intuizione filosofica è ‒ a mio avviso ‒ ciò che distingue il semplice artigiano o specialista dal vero ricercatore” (Einstein, 2011).
L’alterità asimoviana nasce dall’uomo stesso, da suo figlio, e non dalla Natura (alterità da domare) o da Dio (alterità da temere). Insomma, proprio nella fase più propulsiva della fabbrica fordista e dell’industrializzazione della produzione culturale i robot asimoviani sono tra i primi a mettere in discussione l’antropocentrismo moderno esaltato dal capitalismo e dal progresso tecnologico.
Asimov va ben oltre le tre leggi della robotica di Asimov.
Eppure, vista da lontano, ancora oggi la narrativa asimoviana sembra travolta dal successo dell’idea delle leggi della robotica. Tanto che, sempre nell’introduzione, Asimov deve sommessamente constatare:
“Siccome avevo ventun anni quando le scrissi [le leggi della robotica], spesso mi domando se da allora ho più fatto qualcosa che possa dare un senso alla mia esistenza”.
Sostituzione o sottomissione?
Con o senza leggi, affidare mansioni e decisioni sempre più importanti alle intelligenze artificiali introduce il sospetto di un ritorno a una fase premoderna del rapporto tra l’uomo e ciò che è esterno all’uomo stesso ovvero a una condizione di sudditanza rispetto al divino. Le caratteristiche sovrumane del robot non sono più semplicemente confinate al regno delle forze fisiche: un cavallo o un’automobile o una catena di montaggio hanno forza sovrumana ma non soprannaturale.
Seconda Legge della Robotica: “Un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge”.
L’uomo è in grado di capire e quindi in qualche modo di controllare. Ma un cervello artificiale potrebbe cominciare a prendere decisioni ruminando immense banche dati sotto l’egida di sofisticati algoritmi. Algoritmi che, un giorno, i computer stessi potrebbero scriversi da soli sottraendoli alla nostra comprensione. Qui siamo in una zona che, con Erik Davis (cfr. Davis, 2001), potremmo definire popolata da intuizioni trascendenti che si smarcano dal controllo tecno-logico.
Nel racconto Essere razionale, Cutie è un robot talmente sofisticato da far dubitare che la sua intelligenza sia stata progettata dall’uomo. Il robot finisce col crearsi una sua religione assumendo come divinità un’altra macchina contestando l’atto creativo umano. Qui si anticipa la religione dei cylon che si svilupperà nella serie tv Battlestar Galactica. Cutie diventa un messia per le altre macchine e finisce con l’escludere gli umani dalle attività. Le tre leggi della robotica di Asimov cominciano a prendere forma ma sono subito complicate da una violazione. Scopriamo però che questa disobbedienza è in realtà motivata dal fatto che Cutie dimostra di poter leggere più in profondità degli umani il panorama delle opzioni disponibili prevedendo il minor danno possibile per gli umani stessi. Forse è davvero un’intelligenza alternativa a quella umana, visto che riesce a inquadrare l’umanità come framework di civilizzazione e non come banale ammasso demografico o gruppi di individui.
Terza Legge della Robotica: “Un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge”.
Tra le fantasie di sostituzione uomo-robot, il racconto che conferisce il nome all’antologia è un piccolo gioiello di scoperta progressiva di un nostro possibile futuro.
In Visioni di robot il narratore è un viaggiatore nel tempo e segue le vicende di Archie, robot che all’alba dell’era dei viaggi nel tempo è il primo essere spedito nel futuro per verificare la fattibilità del viaggio. Dopo una passeggiata nel futuro, Archie torna indietro dagli umani portando notizie rassicuranti. Inquinamento, sovrappopolazione e malattie sono state superate da una popolazione finalmente equilibrata e in sintonia con le risorse del pianeta. Ma ci sarà una dura crisi da superare. Archie omette di precisare che quel periodo di crisi segnerà la fine dell’umanità e gli umanoidi del futuro osservati dal robot non sono altro che robot più sofisticati. Il narratore stesso è un robot umanoide e anch’egli manterrà segreta la notizia dell’estinzione del genere umano così che tutti i pezzi si incastreranno per consentire ai futuri robot di ereditare la Terra. Come nota Roberto Paura, passando in rassegna le considerazioni del filosofo Nick Bostrom nel libro Superintelligenza (cfr. Bostrom, 2018), “l’idea che l’unico significato della vita di un essere umano stia nel suo lavoro diventa a questo punto molto pericolosa” e, una volta affermata la piena automazione del lavoro “la nostra vita cesserà di avere significato e diventeremo inutili, sostituibili” (Paura, 2018).
Legge Zero della Robotica: “Un robot non può recar danno all’umanità e non può permettere che, a causa di un suo mancato intervento, l’umanità riceva danno”.
In un certo senso l’ottica lavoristica che ci ha condotti fino a questo punto potrebbe essere inadeguata e farsi cogliere in contropiede dall’evenienza di sottomettere le nostre decisioni allo scrutinio di una superintelligenza che, indipendentemente dall’indirizzo etico, potrebbe sviluppare interessi e fini non totalmente coincidenti con i nostri (cfr. Tegmark, 2018). Isaac Asimov ci ammonisce proprio sull’imperscrutabilità dei fini di esseri artificiali senzienti.
Il miglior amico dell’uomo
Il robot come badante dell’uomo nel corso di un tratto della storia dell’umanità. In Bugiardo! Herbie è un robot difettato che riesce a captare i pensieri umani. Anche qui Asimov finisce con il forzare le leggi da lui create per esplorarne le implicazioni psicosociali. In particolare Herbie mente agli umani per non ferirne l’orgoglio. Nonostante le buone intenzioni, il robot finisce con il danneggiare psicologicamente gli scienziati che lo stanno analizzando. Il conflitto, causato dalla mancanza di autostima degli umani, finisce con il causare un blocco al povero cervello positronico. Introdurre il concetto di danno psicologico oltre a quello fisico è una mossa che consente di approcciare l’affascinante dominio dell’interpretazione e delle dissonanze cognitive. In un altro racconto, Circolo vizioso, due astronauti cercano di salvare il robot Speedy da una crisi psichica causata da un conflitto tra due leggi della robotica. Inviato su Mercurio, l’automa vorrebbe eseguire gli ordini (seconda legge) ma dovrebbe anche salvaguardare la propria esistenza (terza legge). Ecco perché entra in un girotondo potenzialmente infinito. Uno degli astronauti intende sfruttare la prima legge per sbloccare Speedy: mette a repentaglio la propria vita costringendo l’automa a uscire dal loop per soccorrerlo. Da notare che negli ultimi due racconti citati le debolezze dei robot nel nome dell’empatia e quindi di una maggiore umanità finiscono con il creare rischi e pericoli per gli umani stessi. Umani e robot dovrebbero interagire imparando qualcosa gli uni dagli altri.
I robot nella vita quotidiana: l’intervista del TG2 a iCub
La fine delle guerre e dell’apartheid
In fondo Asimov è un grande utopista: anche in caso di sottomissione o sostituzione dell’uomo vede sempre il lato positivo. E lo scrittore mostra anche un ulteriore percorso per l’uomo e per i suoi robot: una (forse più realistica) fusione, come suggerisce il racconto L’uomo bicentenario. Robot costruiti con parti che emulano la biologia e umani che sostituiscono gradualmente i propri organi con i più efficienti innesti biotecnologici sviluppati dai e per i robot. Il fondatore della “protesiologia” è uno strano robot chiamato Andrew. Sin dai primi anni della sua esistenza bicentenaria il robot si distingue per doti artistiche e curiosità estranee alla sua programmazione originaria. Andrew prende atto della sua individualità e la coltiva, anche grazie al sostegno degli umani che lo accolgono in casa. Ma vuole anche integrarsi.
“Per quanto fosse libero, Andrew aveva nel cervello un programma dettagliato di comportamento verso gli uomini, per cui era molto ricettivo alle reazioni degli altri e avanzava nei suoi scopi a piccoli passi. Un chiaro segno di disapprovazione poteva farlo regredire. Non tutti accettavano il fatto che Andrew fosse libero.”
Inventando organi che funzionano sia per robot che per umani, Andrew punta a diventare un umano a tutti gli effetti. Anche nell’aspetto fisico. Il film del 1999 di Chris Columbus sfrutta la magia degli effetti speciali hollywoodiani per consentire allo spettatore di visualizzare in maniera efficace i vari passaggi di stato del corpo di Andrew: dalle parti meccaniche fino a una figura umanoide indistinguibile dagli altri uomini. Le straordinarie protesi di Andrew cambiano il mondo, sia quello dei robot, sia quello di coloro che sguazzano nel bacino genetico umano. A questo punto l’androide pretende di essere ufficialmente riconosciuto come “essere umano”.
Isaac Asimov, futurologia, cibernetica, robot, lavoro, identità: il trailer di L’uomo bicentenario.
Lo psicologo William James, tra i pionieri della sociologia dell’identità, indica il “sé sociale di un uomo” come un “riconoscimento che egli riceve da chi gli sta intorno” (James, 1999). Ma per arrivare a tanto, e senza ombre di paure o pregiudizi “razziale”, il geniale robot dovrà piegarsi verso il basso e applicare su sé stesso un ultimo upgrade: rendersi mortale. Come un umano nato in un corpo di robot. Forse, con le sue metafore, Asimov è il primo scrittore ad anticipare il concetto di uomo post-umano, entità inseparabile dalla sua cerchia sociale, dai suoi oggetti, dalla sua tecnologia, dalla sua cultura.
Oppure questa nuova umanità abbozzata da Asimov sta solo ripercorrendo lo stesso percorso di individualizzazione seguito dagli umani all’epoca dell’uscita dall’orizzonte antropologico dominato dal divino (cfr. Gauchet, 1992). Soli e senza più creatori-padroni, i robot dovranno affrontare le ansie e i dilemmi dell’autodeterminazione. Nel frattempo, cosa sta facendo l’uomo? Forse davvero sta lavorando per sottomettersi ai computer oppure per cedere il posto. La narrativa di Asimov è lì a ricordarci che ancora oggi la società è troppo lenta e pigra quando si tratta di pianificare politicamente e culturalmente l’impatto con realtà ineluttabili come la piena automazione, le migrazioni causate dall’esiguità delle risorse, il cambiamento continuo di arti e mestieri.
Vivo oggi, Asimov vagherebbe atterrito nel suo peggiore incubo: tra le rovine di un’umanità credulona e ignorante. Incapaci di distinguere tra fake news e reali minacce come quella dell’inquinamento, siamo destinati a combattere guerre tra poveri diventando sempre più poveri con l’assottigliarsi delle risorse planetarie. Tornando al racconto Visioni di robot, per Asimov il futuro è un transito “tragico‑felice” il cui punto fermo dovrebbe essere “diffondere i sogni e le aspirazioni umane in tutto l’Universo” anche a costo di lasciare il compito a delle macchine.
“Se gli esseri umani erano morti per colpa del loro odio e della loro stupidità, perlomeno avevano lasciato un successore degno; un essere intelligente che aveva dato valore al passato, lo aveva conservato e si era spinto nel futuro. (…) Quanti esseri intelligenti nell’universo si erano estinti senza lasciare successori? Forse eravamo i primi a lasciare una tale eredità.”
- Nick Bostrom, Superintelligenza. Tendenze, pericoli, strategie, Bollati Boringhieri, Torino, 2018.
- Erik Davis, Techgnosis: Miti, Magia e Misticismo nell’era dell’Informazione, Ipermedium, Napoli, 2001.
- Albert Einstein, The Ultimate Quotable Einstein, a cura di Alice Calaprice, Princetown University Press, Princeton, 2011.
- Marcel Gauchet, Il disincanto del mondo, Einaudi, Torino, 1992.
- Al Gore, Il mondo che viene, Rizzoli, Milano, 2013.
- William James, in L’uomo come esperienza, a cura di Giovanni Starace, L’Ancora del Mediterraneo, Napoli, 1999.
- Roberto Paura, Ci sarà ancora posto per l’Uomo nella società post-lavoro?, Futuri, 3 febbraio 2018.
- Max Tegmark, Vita 3.0. Essere umani nell’era dell’intelligenza artificiale, Raffaello Cortina Editore, Milano, 2018.
- Chris Columbus, L’uomo bicentenario, Universal, 2002 (home video).
- Ronald D. Moore, Battlestar Galactica: La Serie Completa, Universal, 2018 (home video).
- Ronald D. Moore, Michael Dinner, Philip K. Dick’s Electric Dreams, Channel 4 / Sony Pictures Television, 2018 (streaming Amazon Video).
- Sam Vincent, Jonathan Brackley, Humans, Channel 4, 2015 (home video).
