Quando si trattò di immaginare il primo uso di un robot domestico, Isaac Asimov scrisse Robbie, una melensa storia di fedeltà di un robot antropomorfo alla sua padrona, la piccola Gloria. I genitori di Gloria, vittime di quella che Asimov chiamava il “complesso di Frankenstein”, ossia la paura irrazionale per le creature artificiali, cercano di sostituire il robot Robbie con un cane. Gloria apprezza il cane, ma preferisce Robbie.
Nell’ottica della storia, il robot dotato di coscienza artificiale e il cane (dotato di una seppur rudimentale coscienza naturale) sono appaiati agli occhi dell’essere umano: fedeli compagni dell’Uomo. È in quest’ottica che abbiamo definito, nel corso dell’ultimo mezzo secolo o giù di lì, la nostra convivenza con i robot; una convivenza perlopiù immaginata, non ancora attualizzata, ma che negli ultimi anni inizia ad assumere contorni più reali. L’utente appassionato di assistenti artificiali ha salutato con entusiasmo l’arrivo di Alexa e di altri modelli simili che realizzano il sogno di Star Trek: entrare in casa e trovare una voce sintetica pronta ad accoglierci, salutarci, segnalarci cosa ci attende in serata, cos’è che non va a casa, cosa vogliamo vedere in televisione e altro ancora.
NAO, robot umanoide sviluppato da Aldebaran Robotics.
Una voce a cui chiedere informazioni, esattamente come quella del computer di bordo a cui si rivolgeva il capitano Kirk, e che ci infonde quel ritrovato senso di dominio sulla vita e sulle cose di cui una parte dell’umanità ha goduto per secoli ai tempi del servaggio.
Verso la robotica sociale
Perché, d’altronde, è a questo che servono i robot, come l’etimologia della parola suggerisce: lavorare al posto nostro. Inizialmente lo hanno fatto nelle fabbriche, oggi iniziano a farlo nelle case. Assistiamo così all’avvento della robotica sociale, che a differenza di quella industriale richiede nuovi modelli di convivenza tra l’umano e l’artificiale. Problema nuovo per l’ingegnere, vecchio per lo scrittore di fantascienza, come emerge dalle pagine di Vivere con i robot, il denso e rigoroso studio sulla robotica sociale dei filosofi Paul Dumouchel e Luisa Damiano, che già dal sottotitolo, Saggio sull’empatia artificiale, pone la natura del problema da affrontare, quello della possibilità di dotare le nuove generazioni di robot di un’empatia “umana”.
Si tratta di riscoprire quello che la fantascienza ha avuto modo di elaborare in oltre mezzo secolo di produzione: come rendere il robot autonomo nelle sue capacità, ma sicuro nei confronti dell’essere umano (le famose Tre Leggi della Robotica, santo Graal degli esperti di automazione contemporanea); come renderlo spontaneo e imprevedibile nel comportamento, ma senza perdere di vista il suo codice di programmazione originario; come evitare, è uno dei temi di maggiore attualità, che il robot autocosciente diventi una minaccia esistenziale per la nostra specie.
Paro, robot da compagnia che simula un cucciolo di foca.
Più che di “robot”, gli autori preferiscono parlare di “sostituti”. Non più la mera sostituzione del lavoro meccanico, ma anche di altre componenti dell’attività umana, a partire dal soccorso a persone in difficoltà fino alla possibilità, attraverso i famigerati “robot-killer”, di uccidere target umani in teatri di guerra.
In entrambi i casi, il problema diventa quello di dotare i sostituti di un’etica, perché nel momento in cui l’interazione tra il robot e l’umano diventa appena più complessa del Roomba aspirapolvere e penetra nella sfera dell’emotività, nascono i problemi.
Se vogliano un autentico sostituto artificiale, dobbiamo renderlo il più possibile autonomo: un robot teleguidato da un operatore umano, per esempio, non è un sostituto, non possiede alcuna capacità di scelta autonoma. Un automa che compie una serie di azioni esclusivamente sulla base della sua programmazione è già un robot autonomo. Un vero sostituto dovrebbe però essere in grado, e qui risiede la difficoltà, di fare anche cose non previste dalla programmazione originaria, per evitare che il mero rispetto degli algoritmi provochi disastri. Il robot sociale, scrivono gli autori, “non serve a niente di particolare e può fare qualsiasi cosa”, esattamente come i robot positronici sfornati dalla U.S. Robots della narrativa asimoviana.
Macchine al nostro servizio
Paro, un robot con le fattezze di un cucciolo di foca della Groenlandia, viene utilizzato con finalità terapeutiche in pazienti anziani o bambini che hanno bisogno di un supporto emotivo (pet therapy). Paro si comporta come un perfetto animale domestico, produce versi, è contento se lo si accarezza e uggiola sorpreso se lo si tratta male, fa delle espressioni buffe, è morbido, risponde se lo si chiama.
A differenza di un animale domestico, tuttavia, non scappa via, non bisogna rincorrerlo o cercarlo per casa, non ha bisogno di mangiare, non fa bisogni, non si ammala, ha un pelo antisettico. I test mostrano che i pazienti traggono beneficio dalla sua presenza. Eppure, Paro non può superare la sua programmazione, non può sorprenderci o fare qualcosa di imprevedibile. Manca del tutto della componente primaria che noi attribuiamo agli altri esseri viventi, vale a dire un’autocoscienza con una volontà propria che sfugge alla nostra comprensione.
Un gatto che, anziché giocare col padrone, preferisce leccarsi il pelo, pur rappresentando fonte di frustrazione, dimostra in quel momento di essere un pari rispetto all’essere umano, vale a dire, analogamente all’umano, un essere vivente dotato di volontà propria.
Kismet, sviluppato negli anni Novanta al MIT per il riconoscimento e la simulazione delle emozioni.
Il “robot badante”, progetto a cui si stanno dedicando numerosi laboratori di ricerca e industrie in vista del progressivo invecchiamento della popolazione e dei cambiamenti dei modelli famigliari (sempre più mononucleari e isolati rispetto a un tempo), si trova a confrontarsi con questo dilemma. Da un lato, il robot badante dev’essere un infermiere zelante e preciso, che dia sicurezza al paziente e lo assista nelle attività di routine; dall’altro, a differenza del badante umano, ha emozioni puramente artificiali, simulate, inautentiche. Alcuni di questi robot hanno riscontrato un certo successo quando si è trattato di usarli in terapie di gruppo, perché sembra che alla lunga gli esseri umani li considerino quasi come propri simili. D’altro canto, il bambino che antropomorfizza il suo peluche effettua un’operazione analoga, sebbene destinata a durare poco.
Nel suo libro Sex robot. L’amore al tempo delle macchine, il bioeticista Maurizio Balistreri indaga le più moderne applicazioni della robotica alla sfera sessuale. Evoluzione della bambola gonfiabile e del sex toy, il sex robot promette un’esperienza molto simile a quella che si ha con un essere umano, sebbene le applicazioni pratiche siano ancora lontane dal pieno soddisfacimento.
L’introduzione dei sex robot ha prodotto un vivace dibattito, di cui Balistreri riporta le diverse posizioni, tra chi grida alla disumanizzazione dell’affettività e della sessualità e chi scorge invece interessanti applicazioni terapeutiche, per esempio per diversi tipi di disabili che spesso sono costretti a ricorrere alla prostituzione o per i pedofili che potrebbero così sublimare le loro devastanti pulsioni.
Emozioni sintetiche
Il quesito più interessante, per la riflessione che riempie le pagine di Vivere con i robot, è tuttavia se sia o meno il caso di “umanizzare” ulteriormente i sex robot. Tra i bizzarri personaggi di Essere una macchina, reportage narrativo sul transumanesimo americano firmato da Mark O’Connell, c’è Roen, adolescente complessato il cui sogno è quello di poter fare sesso con i robot per superare i suoi problemi di relazione con l’altro sesso.
Accettando il punto di vista di Roen, umanizzare i robot sarebbe un errore: al posto di avere automi servizievoli pronti a soddisfare le nostre voglie, potremmo ritrovarci con le stesse scuse di indisposizione che il nostro partner usa per non copulare, con discussioni, litigi e chissà cos’altro. L’imprevedibilità di un robot rispetto alla programmazione aggiungerebbe insomma sicuramente più di un pizzico di interesse al rapporto, ma potremmo anche finire strangolati tra due gambe d’acciaio a causa di un gioco erotico sfuggito al controllo. La riflessione sollecitata da Dumouchel e Damiano riguarda dunque i limiti dell’empatia artificiale.
Lo sforzo per una robotica sociale è oggi al centro degli sviluppi nel settore dell’intelligenza artificiale, in ragione di una visione del futuro in cui le macchine diverranno sostituti insostituibili, costringendoci a una convivenza di cui dobbiamo anticipare fin da ora i potenziali problemi. E tuttavia, fornire ai robot un’intenzionalità, oltre a essere un problema ingegneristico, è anche un problema filosofico.
Rendere i robot dotati di intenzioni significa renderli anche in grado di mentirci, di imbrogliarci, di circuirci, come Asimov ha dimostrato in tante storie, per esempio nella magistrale Bugiardo!, dove il protagonista robotico, interpretando in modo troppo esteso la prima legge che impone di non ferire un essere umano, preferisce mentire alla robopsicologa Susan Calvin piuttosto che lasciare che affronti un’amara verità.
Ava, l”androide del film Ex Machina.
Nel film Ex Machina, la capacità della macchina di imbrogliare i suoi padroni umani, in particolare attraverso l’arma della seduzione, è funzionale al suo desiderio di sfuggire al controllo e invadere il mondo, scenario che non fa dormire la notte filosofi come Nick Bostrom e fisici come Max Tegmark, noti per i loro allarmi sui rischi di una superintelligenza.
Una nuova dialettica servo-padrone
Se dunque oggi i robot sociali simulano le loro emozioni, fingono per programmazione, domani potrebbero avere emozioni autentiche e fingere per davvero, senza farcene accorgere. Gli androidi di Asimov e quelli di Blade Runner sono così sofisticati da farsi passare per esseri umani, benché i primi non nascondano la loro natura laddove i secondi cercano di sfuggire ai “cacciatori di androidi”, il cui compito è distruggerli per impedirgli che diventino liberi. Nel momento in cui una macchina diventa in grado di superare il test di Turing, diventa anche in grado di barare. Ragionano Dumouchel e Damiano:
“Se decidiamo di dotare questi robot di un «modulo etico» che ne vincoli le capacità di azione, i sostituti potranno essere autentici partner sociali solo se riserveremo loro un certo margine di manovra – di «libertà». Questo è indispensabile alla loro società, dato che è necessario per sviluppare forme di coordinazione affettiva differenti con diversi agenti umani. Ne consegue che tale modulo etico non possa limitarsi a un insieme di regole morali a cui essi non potranno contravvenire in alcuna circostanza”.
Perché allora rischiare? Abbiamo davvero bisogno di un’etica sintetica, come suggeriscono gli autori di Vivere con i robot? Torniamo agli assistenti virtuali di cui parlavamo in apertura. L’uomo del secondo decennio del XXI secolo trova soddisfazione nel rientrare a casa ed essere accolto da una voce servile che gli dà il benvenuto, cosa che né i figli né il partner probabilmente farebbero.
Si sente realizzato ascoltando la voce sintetica che sciorina gli appuntamenti del giorno, lo intrattiene con informazioni di dubbia utilità (il meteo, il traffico, i compleanni) e si affretta a rispondergli a ogni domanda, spesso fraintendendo il discorso, ma non più di una colf srilankese con problemi di adattamento linguistico.
iCub, il robot-bambino sviluppato dall’Istituto Italiano di Tecnologia.
Nei robot non cerchiamo né compagni né amici, ma servi. L’uomo borghese del terzo millennio, depauperato per via dell’egalitarismo sociale della servitù domestica che una volta non si negava nemmeno a una famiglia del ceto medio-basso, trova nella robotica l’atteso surrogato attraverso cui appagare il suo desiderio di essere dominus, perlomeno all’interno della sua domus. Non a caso Asimov immaginava, in particolare in uno dei suoi capolavori, Il sole nudo (1957), una società, quella solariana, dove i robot convivono con gli esseri umani con un rapporto di diecimila a uno, dove i latifondi gestiti da robot-braccianti sono restaurati e dove, di contro, i rapporti tra umani avvengono esclusivamente attraverso la mediazione del mezzo sintetico (l’ologramma, lo schermo).
Vivere con i robot, quindi, certo, è sempre più il futuro che ci attende; vivere come i robot, anziché rendere i robot più simili a noi, sembra però essere la soluzione più probabile al dilemma di come gestire questa convivenza.
- Isaac Asimov, Tutti i miei robot, Mondadori, Milano, 1989.
- Isaac Asimov, Il sole nudo, Mondadori, Milano, 1995.
- Maurizio Balistreri, Sex robot. L’amore al tempo delle macchine, Fandango, Roma, 2018.
- Mark O’Connell, Essere una macchina, Adelphi, Milano, 2018.
- Alex Garland, Ex Machina, Universal Pictures, 2015 (home video).
- Ridley Scott, Blade Runner. The Final Cut, Warner Home Video, 2016 (home video).
