Disoccupazione e altri spettri tecnologici

L’umanità è sotto attacco. Nella serie britannica Humans (due stagioni e una terza all’orizzonte), ideata da Sam Vincent e Jonathan Brackley, c’è un gruppo di robot atipici che cerca un’esistenza piena al di fuori degli schemi imposti dai creatori; Humans è stata tratta una precedente serie tv svedese, Real Humans (2012-2014), ideata da Lars Lundström. Il contesto è una società in cui la disponibilità di forza-lavoro androide (i synth) diventa un dato di fatto con notevoli conseguenze. L’attualità della serie deriva dalla vicinanza al mondo dei consumi reali, ai settori trainanti del mercato tecnologico odierno: domotica, assistenti a interfacce vocali, software e servizi basati su algoritmi predittivi, smartphone sempre più smart, sensori ovunque e l’internet delle cose che parlano tra loro senza disturbare gli umani. Ma l’incontro tra robot e umani oggi sembra davvero dietro l’angolo e non è più solo uno scenario narrativo. L’immaginario collettivo influenza il marketing così come il marketing influenza il design degli artefatti industriali. Tecnica e narrazione finiscono con l’associarsi non solo per rappresentare ma anche per creare. Si prenda ad esempio quella clamorosa convergenza tra fantascienza ed elettronica di consumo che è l’automobile a guida autonoma (cfr. Wikipedia): di “automobili fantasma” (cfr. Lafrance, 2016) si comincia a parlare negli anni Venti del secolo scorso; oggi appare evidente come la nostra percezione in materia si stia spostando lentamente ma inesorabilmente dalla finzione alla realtà. Categorie tecnico-economiche che diventano forme dell’immaginario. E viceversa. Allora se, con Erik Davis, possiamo dire che tecnologia e immaginario si riflettono e alimentano reciprocamente (cfr. Davis, 2001) la convivenza conflittuale tra synth e umani è l’ennesima mappa fantascientifica utile a mostrarci i punti in cui il mostro di Frankenstein potrebbe liberarsi generando una nuova umanità con nuovi patti sociali e nuove forme di convivenza civile. Bene patrimoniale da preservare o minaccia per la forza lavoro umana? E, ancora più in profondità sul versante antropologico, cosa implica il fatto di affidare mansioni sempre più importanti alle intelligenze artificiali?
A ben vedere i personaggi più interessanti di Humans sono proprio i cari vecchi noiosi e normalissimi umani: individui comuni come gli Hawkins, famiglia di classe media, in qualche modo tipica perché disfunzionale ma non troppo; o il vedovo George Millican (interpretato da William Hurt) che deve fare i conti con gli acciacchi, la nostalgia e la solitudine. Tutti in qualche modo soli e chiusi nei rispettivi spazi mentali a riflettere sui propri desideri e sulle gelide risposte del mondo esterno. Tutti finiscono col cercare aiuto interpellando le macchine. Humans non si sofferma sul miracolo tecnologico dell’androide senziente e sulle origini della sua autocoscienza. Si concentra sugli umani e sulle loro reazioni all’invasione (più o meno) pacifica di quella che si presenta come una nuova forma di homo sapiens. In questa fantascienza c’è meno sense of wonder e più sociologia e antropologia.

Perché costruire androidi?
Agli occhi delle generazioni precedenti risulterebbe forse incomprensibile la contemporaneità post-umana che ci vede assorti in un abbraccio appassionato e definitivamente inestricabile con le tecnologie. Una nuova generazione di brillanti programmatori e imprenditori smania per trasformare in funzioni o servizi gesti ripetitivi, mansioni domestiche, lavori usuranti. La grande fortuna e l’intuito di Steve Jobs hanno mostrato all’umanità una nuova visione della volontà di potenza umana: tutto sembra digitalizzabile e riconducibile alla pressione di un dito su un’icona. Nuove opportunità economiche sono insite in vecchi problemi o nelle curve di apprendimento delle novità tecnologiche. Su questo si basa già in buona parte l’economia di oggi e, sempre di più, l’economia del futuro. Eppure oggi appare a molti incomprensibile la propensione a creare macchine antropomorfe e intelligenti, forse un giorno in grado di sostituirci in tutto, anche nel governarci e nel decidere le prossime ondate tecnologiche. In Humans il capitalista che produce synth spiega così il suo business:

“La ragione più importante del rendere le macchine più simili alle persone è quella di rendere le persone meno simili alle macchine. La donna in Cina che lavora 11 ore al giorno cucendo palloni da calcio. Il ragazzo in Bangladesh che respira veleni mentre smonta il relitto di una nave o il minatore in Bolivia che rischia la vita ogni volta che va al lavoro […] Gli androidi liberano le persone. Abbiamo trattato le persone come macchine per troppo tempo.”

Ma l’inquietudine nasce quando gli avanzamenti della società automatizzata e dei servizi basati su intelligenze artificiali si associano alla sensazione di auto-riflessività o di creatività nei robot. Questa specifica sensazione è il cuore di Humans: inquietudini fino a oggi alimentate solo dalla narrativa e che ora cominciano a essere rilanciate anche dall’elettronica di consumo smart. L’industria comincia a mettere in discussione l’esclusività di caratteristiche finora considerate inarrivabili dalle macchine e comincia a farlo a una tale velocità da far presagire un futuro in cui verranno cancellate figure professionali più velocemente di quante se ne creino. Urgono nuove categorie giuridiche e nuove politiche economiche. Cresce l’attenzione sulle tematiche inerenti l’intelligenza artificiale anche da parte delle Nazioni Unite che, con l’agenzia International Telecommunication Union (ITU), promuove summit e linee guida per: mettere in connessione governi, imprese e istituzioni accademiche; costruire una comune base di conoscenza delle possibilità e dei rischi; focalizzare standardizzazioni tecniche e principi per le redazioni di policy. Studiosi come Nick Bostrom auspicano che scienza e filosofia possano trovare un modo per rendere l’esplosione della “Superintelligenza” (ovvero l’emergere dell’intelligenza artificiale in importanti processi decisionali) una detonazione controllata (cfr. Bostrom, 2014). In Humans sin dall’episodio pilota viene fornita una definizione del concetto di singolarità:

“Un matematico che si chiamava John von Neumann ha coniato questo termine negli anni Cinquanta per descrivere quell’inevitabile momento nel futuro in cui la tecnologia ci avrebbe superati. Quello in cui sarebbe stata in grado di migliorarsi e riprodursi senza il nostro aiuto. Sarà il momento in cui diventeremo inferiori alle macchine. La nostra società è a un passo dal diventare dipendente dal lavoro dei synth.”

Non importa se le macchine siano in grado di pensare come o meglio di noi. Il punto è il concetto di auto-miglioramento delle macchine (cfr. von Neumann, 1999) e la possibilità di un’esistenza del tutto autonoma rispetto agli umani di origine biologica.

E la donna creò l’uomo artificialmente intelligente
All’origine dell’uomo artificiale ci sono due fuochi, uno narrativo e uno scientifico-economico. E all’origine di questi fuochi c’è la creatività di due donne coeve: Mary Shelley (1797-1851) che scrisse il romanzo Frankenstein e Ada Lovelace (1815-1852) che programmò un prototipo meccanico di quello che potremmo considerare uno dei primi computer della storia. C’è una notevole produttività narrativa nel mettere in parallelo la ricerca dell’identità femminile in fuga dagli stereotipi e il bisogno di dare un senso o di cercare un fattore umano nel progresso tecnologico. Come in Westworld seguiamo due robot femminili (una prostituta e una giovane donna pronta ad accasarsi) in marcia verso l’autonomia intellettuale, così anche in Humans gli automi più carismatici sono di genere femminile o comunque caratterizzati da forme femminili. Anita, la perfetta governante robot, e Niska (anche qui) una prostituta. Ma entrambi i personaggi passano in secondo piano rispetto a Laura Hawkins, la madre di famiglia attraverso la quale ci rendiamo conto di quanto il genere umano sia dipendente dagli automi e quindi già in parte robotizzato. Insomma al centro di Humans c’è soprattutto la grande fatica di una società degli umani che non riesce a definirsi senza scadere in stereotipi e senza millantare una esclusiva superiorità morale rispetto a qualsiasi altra forma di vita.
I synth vogliono semplicemente vivere come gli umani (che è l’unico stile di vita che conoscono), ma gli umani vedono nei synth emancipati una rivalità se non una minaccia sia sul mercato del lavoro sia su quello degli affetti. Impietoso il confronto tra Anita e Laura Hawkins, la madre umana che non riesce a tenere il ritmo tra lavoro e figli. Laura soffre molto la presenza della tata sintetica Anita che diventata in poco tempo il fulcro della famiglia. Anita osserva e apprende come funziona la vita degli Hawkins con zelante metodicità digitale. Mette a disagio Laura che le chiede (e si chiede): “Sei solo una stupida macchina non è vero?” Curioso come la donna ponga domande al robot per sciogliere nodi riguardanti il robot stesso, testimoniando così l’abitudine ormai cara a tutti noi post-umani di utilizzare dispositivi per risolvere qualsiasi problema, materiale o immateriale. Gli automi domestici dovrebbero essere più umani degli umani e accompagnare la famiglia a tutto campo? Oppure restare confinati al loro ruolo di elettrodomestici? A proposito dell’idea di riprodurre l’intelligenza umana e dei rischi dell’effetto uncanny valley in Humans il programmatore si smarca così:

“Come potremmo riprodurre qualcosa che neanche noi comprendiamo del tutto? Come capiremmo di esserci riusciti? Pensi a quante questioni dovremmo risolvere prima. Cosa sono le emozioni umane. Per esempio cos’è l’amore? È qualcosa di innato o può essere appreso? E i nostri sentimenti più oscuri? La coscienza umana sarebbe incompleta senza. E la memoria? La nostra è soggettiva, fallibile. Ma come si può insegnare a un computer a dimenticare o a sognare? Un synth cosciente dovrebbe essere in grado di sognare o avere degli incubi? Naturalmente no. Sono solo macchine.”

Da un punto di vista socio-economico umanizzare e affezionarsi a macchine come Anita significa consegnare i nostri pattern comportamentali al silenzioso e instancabile scrutinio dei sistemi digitali. Humans suggerisce che sul piano individuale potrebbe significare conoscere meglio se stessi perché rispetto alla nostra labile memoria le macchine ci aiuterebbero (già lo fanno) a costruire impalcature identitarie ben più solide.

Nuovi androidi per nuove sociologie dell’identità
Per dirla con Michel Foucault, i dispositivi hanno raggiunto un tale grado di maturità da essere in grado di produrre il soggetto che li usa (cfr. Foucault, 1994). Una volta accertata la nostra dipendenza dalle macchine, una volta conquistata la nostra fiducia, non sembra che sia più possibile tornare indietro. L’orizzonte delle nostre scelte sembra appiattirsi sulle funzioni operative proposte dai dispositivi o dal sistema economico e sociale basato sui dispositivi. Così George Millican deve accettare la terribile badante nazista offerta dai servizi sociali mentre nasconde il modello precedente la cui detenzione è considerata illegale. Il vecchio synth danneggiato forse irrimediabilmente è amato come un figlio anche perché è l’ultima relazione che lega George al ricordo della moglie. Ma i synth hanno un tempo di obsolescenza programmata oltre il quale vengono ritirati e riciclati.
Eccezione di memoria, errore fatale, errori multipli all’avvio del sistema operativo: George, oltre ai suoi problemi fisici, deve anche affrontare l’equivalente synth delle malattie degenerative del cervello umano.L’intelligenza artificiale implica l’obsolescenza anche perché reti neurali sempre più sofisticate e performanti possono migliorare il trattamento dei big data e delle memorie accumulate che nel frattempo diventano sempre più importanti. Questo accumulo è vitale per il machine learning e si cerca continuamente di espanderlo raffinando le tecnologie per comunicare e raccogliere dati. Nel mondo dei synth viene mostrato quanto sia importante il fluire delle informazioni: le macchine antropomorfe passano il loro tempo libero a fare rete ovvero collegandosi wireless e scambiandosi informazioni ed esperienze. Resta per ora invariato il concetto del computer come calcolatrice evoluta che colleziona dati per poi elaborare risposte.Parallelamente ai primi passi dell’informatica, le prime significative riflessioni audiovisive sul computer risalgono forse alla Hollywood anni Cinquanta.
Nel cartoon To hare is human del 1956 Willy Coyote consulta il cervello elettronico Univac per avere consigli strategici su come catturare il coniglio Bugs Bunny. Nel 1957 esce al cinema La segretaria quasi privata di Walter Lang, che mostra le prime paure e perturbazioni sociali legate all’introduzione dei computer “che rubano il lavoro”. L’intelligente e volitiva segretaria (interpretata da Katharine Hepburn) dovrà dimostrare tutte le sue doti per spuntarla sul temuto Emerac, il nuovo dipendente meccanico voluto dal capo (interpretato da Spencer Tracy) per rendere più efficienti le routine lavorative. Poi, dagli anni Sessanta in poi, con lo sviluppo effettivo dei computer si è cominciato a fantasticare sulle interfacce. Diventano famose le voci dell’astronave Enterprise nel serial Star Trek e quella di Hal 9000 in 2001 Odissea nello spazio. Computer invisibili grazie allo stratagemma dell’interfaccia vocale, entità immateriali distribuite in ambienti chiusi che, al netto di malfunzionamenti o ribellioni, si limitano ad assistere gli umani nelle loro azioni consigliando sulla base dei dati accumulati in precedenza.

Riflessioni sul doppio e sull’identità
I computer crescono ma il dubbio resta: possiamo fidarci delle loro risposte se vengono da una intelligenza artificiale che non conosce il valore dell’individualità e che si basa solo su serie storiche o diagrammi? Un’intelligenza artificiale deve necessariamente essere una coscienza individualizzata in grado di giudicare i dati facendo riferimento a più livelli di significato? Dalla fine dell’Ottocento con William James (tra i pionieri della sociologia dell’identità) consideriamo “il sé sociale di un uomo” come un “riconoscimento che egli riceve da chi gli sta intorno” (James, 1999). Ecco perché i synth che fanno rete e condividono tutte le informazioni non sembrano avere un’identità in senso stretto. Essi sono dei terminali o al massimo un insieme di nodi e di informazioni. I synth ribelli che non condividono le loro esperienze nel “social network dei robot” si distinguono proprio per il fatto di coltivare una forma di individualità.
A ben vedere tutto ciò farebbe di loro nient’altro che degli umani casualmente nati nei corpi di robot. Ancora una volta Humans ritorna al punto di partenza: gli umani, appunto, sono i veri protagonisti con la loro ricerca identitaria e i loro tentativi di fuga da regimi sociali distopici e omologanti. I nuovi umani, lasciati soli dai loro creatori, dovranno allora affrontare tutte le ansie dell’autodeterminazione ovvero pagare il prezzo per vivere in un mondo senza divinità, senza creatori identificabili, insomma in un universo sociale post-religioso (cfr. Gauchet, 1992). D’altronde nelle pagine più interessanti della lunga mitologia proliferata sul mostro di Frankenstein e sulla Maria di Metropolis, l’alterità, lo sdoppiamento non è un dato culturale imposto dalla Natura (l’alterità da domare) o da Dio (l’alterità da temere). L’alterità robotica non è qualcosa da combattere per affermare la propria identità: riflettere sul doppio tecnologico è qualcosa che serve all’umanità per riflettere su cosa sia l’umanità. L’assistente vocale libera le mani ma nello stesso tempo mette in gabbia il cervello. Se e quanto sia dorata questa gabbia dipende dalla nostra percezione del valore.