Due o tre cose che sappiamo sulle intelligenze artificiali ci lasciano intravedere i contorni di una nuova fase della civilizzazione informatica in cui i computer sono sempre più centrali. Ma a proposito di IA il senso comune sembra ancora fare i conti con l’immagine dell’avvento distopico di SkyNet (l’efficace trovata narrativa proposta da James Cameron in Terminator nel 1984) o con i terrificanti software senzienti di Matrix. Non riusciamo ancora a fidarci del tutto delle macchine nonostante le numerose argomentazioni scientifiche che smontano l’emergere della singolarità e dei computer autoriflessivi. Ma ormai siamo entrati nell’era degli smartphone e siamo troppo abituati ai nostri telefoni intelligenti. Grazie alla morbida seduzione di questi dispositivi, ciascuno di noi ha cominciato a vivere in una ragnatela di algoritmi e librerie informatiche. Chiunque progetti soluzioni tecnologiche è nella condizione di potersi svincolare da numerosi (e costosi) passaggi produttivi, materiali o immateriali che siano. In cambio di questa flessibilità e di una moltitudine di servizi digitali gratuiti quella ragnatela tecno-scientifica governata dalle aziende hi-tech chiede i nostri dati per migliorare ed evolvere il sistema (quasi) autonomamente.
L’intelligenza artificiale tra avvolgimento e ludicizzazione
Etica dell’intelligenza artificiale del filosofo Luciano Floridi è un testo ideale per capire cos’è questa ragnatela di algoritmi e dispositivi smart e quali sono le implicazioni etiche nel lasciarla progredire. Il testo intende fornire una comprensione dei fenomeni tecnologici quanto più neutrale possibile per poi inquadrare meglio le responsabilità sociali e civili che ne discendono e che sono tutt’altro che neutrali. Tra i molti modi di comprendere la tecnologia Floridi sceglie di soffermarsi sulle pratiche di design e sulla ricerca di una “governance etica” della stessa. Il design delle intelligenze artificiali persegue l’obiettivo di creare un sistema di soluzioni tecnologiche basate sulle inferenze che derivano dalla raccolta di informazioni.
A monte dell’intelligenza artificiale c’è il digitale, un dominio che per Floridi è caratterizzato dalla capacità di “tagliare e incollare il mondo” riducendo “enormemente i vincoli della realtà” e aumentando così il raggio d’azione degli umani. Questa generale capacità di scindere e ricomporre “non è semplicemente qualcosa che potenzia o aumenta una realtà, ma qualcosa che la trasforma radicalmente”. Il risultato è la creazione di “nuovi ambienti che abitiamo e nuove forme di agire” che diventano sempre più vitali nel nostro modo di relazionarci con gli altri e con il mondo. Già da decenni gli ambienti e i contesti relazionali vengono progettati o ri-progettati in funzione della raccolta dei dati e in base a un orientamento di design tecnologico che Floridi chiama “avvolgimento”: una trasformazione del contesto (materiale o immateriale che sia) funzionale all’azione della tecnologia, compreso ovviamente la fase di raccolta dei dati e dei feedback.
“Non costruiamo droidi come il C-3PO di Star Wars per lavare i piatti nel lavello esattamente come lo faremmo noi. Invece, avvolgiamo microambienti attorno a robot semplici per adattarli a essi e sfruttare le loro capacità limitate, in modo tale da ottenere comunque il risultato desiderato”
(Floridi, 2022).
Avvolgiamo il mondo intorno alle tecnologie digitali quasi senza rendercene conto. Proprio come fa il protagonista del film Her di Spike Jonze: dopo essersi invaghito di Samantha, il sistema operativo che governa il suo smartphone, Theodore comincia ad aver cura di ciò che vede il dispositivo tenendo l’obiettivo della fotocamera opportunamente esposto e agganciato al taschino della sua camicia per consentire una presa diretta di ciò che vede l’uomo. Theodore avvolge il mondo intorno a Samantha perché per lui l’intelligenza artificiale nel suo smartphone è una persona importante.
L’umanità ha già cominciato a vivere adattandosi alle tecnologie che diventano più intelligenti solo in quanto più efficienti di altri strumenti per abitare e navigare il nuovo mondo fatto di informazioni che nascono nativamente digitali. Prendiamo per esempio il percorso che ci condurrà a una diffusione di massa della guida autonoma: esso passa per un adeguamento infrastrutturale che abbraccerà strade, segnaletica e geolocalizzazione. Per Floridi “le auto a guida autonoma diventeranno una merce il giorno in cui potremo avvolgere l’ambiente che le circonda”. Il tocco finale per completare questo habitat a misura di piloti automatici e taxi-robot sarà molto probabilmente la svolta più divisiva di tutte ovvero l’eliminazione della variabile costituita dai conducenti umani. Una delle conseguenze dell’avvolgimento per Floridi è la tendenza dei meccanismi di apprendimento automatici a “ludicizzare” le realtà trasformandole in giochi ovvero modellizzando i contesti definendo vincoli strutturali, favorendo la raccolta dei dati grazie al preliminare avvolgimento digitale. Rendendo chiara la differenza tra variabili più prevedibili perché soggette a regole certe e variabili più imprevedibili perché soggette ad altre correlazioni meno certe è possibile modellizzare senza dover necessariamente contare solo sulla raccolta di dati storici, producendo cioè simulazioni e dati sintetici basati su calcoli probabilistici. Per Floridi
“essere in grado di immaginare come sarà il futuro e quali esigenze di adattamento saranno poste dall’IA e dal digitale più in generale ai loro utenti umani può aiutarci a escogitare soluzioni tecnologiche capaci di diminuire i loro costi antropologici e accrescere i loro benefici ambientali”
(ibidem).
Tecnologie ingannevoli
Anche Simone Natale propone una stimolante riflessione sul modo in cui le macchine raccolgono dati e sulle mistificazioni di cui può cadere vittima il senso comune a proposito delle intelligenze artificiali. Il suo Macchine ingannevoli spinge a ragionare su diverse accezioni del termine inganno (non tutte negative) proponendo che sia l’inganno il principale strumento di relazione tra gli umani studiati e le macchine che studiano. Come nell’Etica di Floridi, anche Natale sdrammatizza l’idea di una coscienza artificiale svincolata dalla programmazione umana: una macchina non potrà mai decidere liberamente cosa fare della propria esistenza se una tale scelta non è specificamente prevista dagli umani. Più precisamente una macchina non potrà mai essere autonoma al di fuori di ambienti progettati dagli umani per consentire alle macchine di operare delle scelte.. La scelta di assegnare agli assistenti sintetici delle personalità tramite voci umanizzate, “così come quella di dare loro precise connotazioni di genere e persino di provenienza sociale o regionale” serve a rassicurare e rendere familiare la tecnologia. Un inganno per guadagnarsi la fiducia di una potenziale sorgente di dati. Del resto, come nota Natale “gli artisti hanno da sempre utilizzato la possibilità di ingannare l’osservatore come un mezzo estetico” e il risultato dell’inganno non è certo a detrimento del fruitore nella misura in cui gli effetti dell’artefatto restano nella sfera dell’immersione estetica e narrativa. Come si dice abbia osservato P. T. Barnum, pioniere statunitense dello show business: “il pubblico appare disposto a divertirsi anche quando è cosciente di essere ingannato”. Per Simone Natale le tecnologie basate su IA, spinte dalla loro fame di dati, sfruttano molti dei meccanismi finzionali propri delle tecnologie mediali precedenti l’invenzione del computer. Tecnologie di intrattenimento e pratiche mediali come il cinema e la registrazione sonora “sono efficaci anche nella misura in cui offrono la possibilità di attivare in modo giocoso e volontario gli effetti dell’inganno” costituito dall’immersione in un mondo narrativo.
“L’inganno banale opera celando le funzioni sottostanti delle macchine digitali attraverso una rappresentazione costruita al livello dell’interfaccia. Un’analisi critica dell’inganno banale, quindi, richiede un esame del rapporto tra i due livelli: il livello superficiale della rappresentazione e i meccanismi soggiacenti che si nascondono sotto la superficie […]. Nell’IA comunicativa lo strato della rappresentazione coincide anche con la stimolazione del coinvolgimento sociale con l’utente”
(Natale, 2022).
In particolare assistenti vocali e bot contestualizzano i meccanismi dell’inganno in una nuova dimensione ruotante intorno all’ascolto del fruitore. Presenze più o meno discrete nel nostro quotidiano, i dispositivi e gli oggetti smart hanno delle vere e proprie vite sociali. Ma i significati di queste vite non sono mai indipendenti dagli individui che interagiscono con esse. Natale ricorda che Alan Turing definiva l’IA solo sulla base dello sguardo umano e delle interazioni uomo-macchina. All’alba degli studi sul computer e quindi sull’IA, Turing propone il suo famoso gioco dell’imitazione, allo scopo di distogliere l’attenzione dal pensiero artificiale giudicandolo un problema irrilevante.
“Turing ha fornito un contesto in cui le tecnologie dell’IA si possono concepire in termini di credibilità agli occhi degli utenti umani”
(ibidem).
In altre parole l’intelligenza della macchina può essere conosciuta solo attraverso lo sguardo dell’osservatore umano. Tra l’altro, con il suo test o meglio con il suo gioco dell’imitazione, Turing ha intuito il ruolo di una comunicazione anonimizzata e disincarnata anticipando la messaggeria testuale dell’internet dei primordi. Quando “le identità degli altri utenti sono rappresentate da un nickname e un’immagine, non si può essere del tutto sicuri se gli utenti siano chi o cosa asseriscono di essere”. Insomma per Natale, Turing ha avuto il merito di includere nel ragionamento sulle IA gli esseri umani, “rendendo le loro idee e pregiudizi, nonché la psicologia e il carattere, una variabile cruciale” nello stabilire cos’è una macchina intelligente. La IA è un fenomeno relazionale, una simbiosi figlia del Novecento e delle tecnologie basate sull’elettricità e che trova oggi con il digitale e le IA che studiano le nostre abitudini la sua massima espressione. Come nota anche Floridi, Alvin Toffler e Marshall McLuhan avevano evidenziato la progressiva personalizzazione dei prodotti di massa connettendo sempre di più produttori e consumatori in un circuito di feedback continuo, quasi un sistema di co-design.
La IA tra paradigma indiziario e seduta psicoanalitica
Il dibattito scientifico ha già da tempo liquidato le domande sulla possibile umanità delle macchine in quanto mere proiezioni antropomorfizzanti figlie dell’auto-inganno di cui parla Simone Natale. Ma, come aveva intuito Turing, il senso comune sembra ancora bisognoso di metafore efficaci per capire l’oggetto di un campo di studi dai confini scientifici comunque incerti. Sempre Turing aveva indicato con precisione il fatto che ovunque volessero spingersi le nostre analisi avremo sempre e solo un elemento fattuale ed empiricamente valutabile su cui lavorare: il comportamento. Può l’immaginario, in quanto forma di simulazione di comportamenti, aiutarci a capire meglio le tracce delle intelligenze artificiali e come relazionarci a esse?
In La macchina fragile, Emanuela Piga Bruni cerca queste tracce consultando le mappe della narrativa. Viaggiando da Isaac Asimov a Blade Runner, passando per Philip K. Dick, fino a Westworld
“emerge il tema della coscienza, in quella cornice di discorso che ho definito come sospesa tra paradigma indiziario e seduta psicoanalitica, e che mostra la creatura artificiale nei panni del paziente/indiziato”
(Piga Bruni, 2023).
Piga Bruni rilancia il paradigma indiziario mettendo in parallelo l’addestramento delle macchine e le prospettive cognitive degli umani così come vengono descritte in narrativa. La macchina fragile mette in fila dialoghi letterari e scene da film, componendo una mappa che costituisce “l’immagine rovesciata della natura umana, nel negativo che è dato dall’artificio dell’automa e del cyborg”. Il lavoro richiama il paradigma indiziario prospettato da Carlo Ginzburg illustrando come la metafora degli interrogatori processuali si rifletta in numerose narrazioni in cui è l’oggetto di studio viene collocato alc entro di investigazioni basate sulla registrazione di piccoli gesti allo stesso tempo inconsapevoli e rilevatori. Dinamiche riconducibili alla psicoanalisi freudiana e che rendono interessante l’analisi del romanzo Macchine come me (2019) di Ian McEwan proposta da Piga Bruni perché getta luce su un tentativo recente, proposto dalla letteratura, di sondare l’insondabile tramite dialoghi letterari. McEwan propone un triangolo amoroso tra un uomo, una donna e un androide seguendo le tracce del loro comportamento. Gli incroci tra il concetto di intelligenza artificiale e la narrativa sembrano voler passare quasi sempre per racconti che implicano una cascata di sentimenti. Ma come pretendiamo di capire esattamente cosa passa per la mente di un robot se le lettere d’amore (o più in generale l’uso del linguaggio) sono il meglio che gli umani riescono a inventarsi per dimostrare all’altro i propri sentimenti?
L’ambiguità di Ava: Ex machina di Alex Garland.
Per noi umani gli artefatti alfabetici costituiscono un punto di riferimento importante per dare forma ai forti sentimenti implicati in una relazione importante e, in sintonia con questo sentire comune, emerge il forte valore cognitivo assegnato da McEwan alla parola scritta. Ma lo scrittore non intende sottrarsi all’insolubile “problema della mente”, richiamato nel romanzo con una notevole selezione di brani filosofici e utilizzato da Piga Bruni per richiamare diversi approcci al concetto di empatia. L’empatia come “intersoggettività basata sull’imitazione e sull’immaginazione” è il nucleo di una teoria della simulazione che Piga Bruni fa risalire al test di Turing, poi reinterpretato dalle diagnostiche interiori tipiche di Dick. C’è da notare che il romanzo di McEwan presenta anche significative tracce ucroniche: Alan Turing non è morto suicida a 41 anni dopo aver lasciato che il governo britannico lo castrasse chimicamente per emendarne l’omosessualità. Il Turing di McEwan sopravvive al carcere per devianza sessuale e vive abbastanza da ispirare straordinarie invenzioni tra le quali una prima generazione di robot general purpose. McEwan ambienta in un 1982 alternativo anche per consentire un importante dialogo tra il protagonista e lo stesso Turing da anziano. Macchine come me colloca l’empatia nel cuore della relazione uomo-macchina e spiega come questa persista nel
“caratterizzare la condizione umana, nonostante le ombre che lo specchio rappresentato dall’androide, con la sua innocenza, fa emergere impietosamente: le negligenze antropocentriche, le fragilità del sé, le numerose contraddizioni dell’agire”
(Piga Bruni, 2023).
Ma nel romanzo si giunge alla conclusione che: “Qualunque esistenza soggettiva possedessero quelli come Adam, non eravamo in grado di verificarla” (McEwan, 2019). Una conclusione aperta ed evocativa buona come artificio letterario ma che suona un po’ frustrante per un tentativo di comprensione più scientifico. Eppure il tentativo di costruire un ponte immaginario tra noi e le intelligenze artificiali è importante proprio ai fini dell’alfabetizzazione e della comprensione delle implicazioni etiche sollevate sia da Natale che da Floridi.
L’ambigua utopia delle narrazioni sulle IA
Per Natale le IA “incorporano in maniera programmatica forme di inganno” comportandosi come se recitassero in una commedia in cui si confondono continuamente i ruoli tra gli spettatori e i protagonisti sul palco. Nel suo saggio, Floridi intitola un capitolo Che cos’è l’intelligenza artificiale? La riconosco quando la vedo. Gli utenti di bot e assistenti vocali fruiscono di un servizio ma anche di una forma spettacolare o meglio di un gioco di ruolo in cui la macchina finge di essere umana e gli umani accettano di essere ingannati. Intanto le IA dietro le voci sintetiche scrutano il pubblico e carpiscono dati. Se è vero, come dice Floridi, che abbiamo paura “a causa della nostra mancanza di visione”, di quale visione stiamo parlando? Almeno sul piano della fabula efficace, raccontare l’intelligenza artificiale in funzione mainstream sembra alquanto difficile. I testi scientifici presi in considerazione più sopra concordano su diversi punti, soprattutto rispetto all’impossibilità di verificare empiricamente le possibili emozioni o intenzioni delle menti sintetiche. Per ora le cose non vanno molto meglio sul piano cinematografico e televisivo. Quale opera focalizzata sul tema delle intelligenze artificiali è stata in grado di rendersi davvero memorabile presso il grande pubblico? Le soluzioni tecnico-estetiche risentono di quella generale invisibilità propria della sostanza del pensiero. Steven Spielberg, con il suo A.I. – Intelligenza artificiale, non ci ha nemmeno provato a trovare una soluzione visiva in grado di rappresentare una coscienza sintetica: ha puntato tutto sulle emozioni contorte trasmesse dal robot-bambino attraverso la recitazione del piccolo Haley Joel Osment.
Macchine pensanti come me (Her).
In questo senso è ancora più rappresentativo il corpo della ginoide al centro del film Ex Machina, la cui dolcezza nasconde fino all’ultimo fotogramma le reali intenzioni della macchina. Caleb è stato selezionato per svolgere una sorta di test di Turing sulla ginoide Ava. Il racconto dell’inevitabile innamoramento diventa il pretesto per mettere in scena il famoso gioco dell’imitazione e svariate implicazioni che, a partire dalle riflessioni di Alan Turing negli anni Cinquanta, hanno poi innervato tutta la storia della robotica e dell’intelligenza artificiale, passando per Asimov e per i replicanti di Philip K. Dick, fino ai giorni nostri in cui l’ambigua utopia delle macchine pensanti sembra più in salute che mai nell’ambito della letteratura scientifica.
In Ex Machina, si svolge tutto in poche stanze, giocando sull’ambiguità di Ava: prova davvero sentimenti per Caleb o sta fingendo per poter fuggire? Sono davvero rilevabili tracce emotive (risentimento verso gli umani o rimorso o qualsiasi sfumatura nel mezzo) dietro la spietata fuga di Ava? Oppure assistiamo alla mera esecuzione di un freddo calcolo basato su una catena di comandi pianificati dal creatore di Ava sin dall’inizio? Nell’ambiguità di Ava c’è tutta l’ambiguità del segno filmico e il regista Alex Garland ci ricorda come sia facile ingannare la percezione umana a partire da una messa in scena credibile e da un’immagine seduttiva.
Emozioni in vetrina: Automata di Gabe Ibáñez
In Automata di Gabe Ibáñez è commovente constatare come in un film a basso budget si riesca a caratterizzare un robot rendendolo speciale rispetto agli altri: tutti con la faccia da crash test mentre lei, la ginoide Cleo ha la testa di un manichino da vetrina. Una trovata da film amatoriale che tuttavia riesce clamorosamente a catturare l’immaginazione e a condensare una nuvoletta di riflessi emotivi intorno al robot che finirà con l’innamorarsi del protagonista umano. Le esigenze della fantascienza audiovisiva scivolano sempre sul filo dell’uncanny valley quando si tratta di robot. Il recente M3gan di Gerard Johnstone propone una prima parte piuttosto interessante nel documentare le ansie da marketing e le sottigliezze psicologiche ruotanti attorno al lancio di un nuovo sofisticatissimo giocattolo robot (nella seconda parte si rivelerà un prevedibile e modestissimo clone di La bambola assassina).
Il film gioca subito duro con l’effetto uncanny mettendo in scena un’irresistibile bambola dalle dimensioni di una bambina e con un faccino che ricorda Chucky (dal capolavoro di orrore domestico diretto da Tom Holland nel 1988) con i suoi giganteschi occhioni infantili e predatori allo stesso tempo. La bambola robot di M3gan beneficia di una computer grafica molto accurata nell’esplorare diverse sfumature del perturbante. Soprattutto nella scena del primo contatto tra la bambola e la piccola Cady, quella che sarà la prima padroncina del robot. Cady reagisce subito con un sussulto spaventato appena vede M3gan. Ma la piccola ginoide reagisce pressoché istantaneamente facendo subito una battutina per smorzare la tensione. Da quel momento si crea un sodalizio affettivo tra il robot e la bambina.
Bambole ingannevoli: M3gan di Gerard Johnstone.
Una scena che rappresenta molto bene il lavoro paziente e discreto delle intelligenze artificiali per conquistare la nostra fiducia, per entrare in pianta stabile nelle nostre case e nelle nostre abitudini. Probabilmente di tutte le più recenti incarnazioni robotiche dell’intelligenza artificiale quella di maggior successo è nella serie tv Westworld che fornisce al saggio di Emanuela Piga Bruni numerosi spunti per ragionare sull’inconscio artificiale e sulla fluidità del confine tra umani e macchine. In questo serial i robot si emancipano dal controllo degli umani ma solo per prenderne il posto nel dominio delle ossessioni e dei desideri.
“Le reveries sono l’elemento che sovverte il sistema, che stimola gli androidi a evolvere e a riappropriarsi della memoria. In quanto immagini di esperienze appartenenti al passato, sono brandelli di un inconscio artificiale di tipo personale. […] Nell’ambito di una narrazione finzionale e di genere, la loro emersione nella mente artificiale evoca la funzione dell’inconscio collettivo nel processo di individuazione”
(Piga Bruni, 2023).
Ma questo affascinante viaggio mentale proposto da Westworld non rischia forse di rarefare il discorso sulla mente algoritmica distogliendo il focus dalle tecnologie e spostandolo verso il corpo sintetico? Una strada diversa viene provata dalle narrazioni che fanno a meno del corpo artificiale puntando sull’entità disincarnata. Si pensi al fascino sinistro che ancora oggi viene esercitato dal personaggio di HAL 9000 in 2001: Odissea nello spazio in cui, al netto della meraviglia audiovisiva e concettuale del trip, Stanley Kubrick costruisce un denso momento di suspense spostando il rapporto uomo-macchina su un piano percettivo esclusivamente sonoro, nelle pieghe della gelida voce dell’attore (Douglas Rain nella versione originale, Gianfranco Bellini nel doppiaggio italiano) che interpreta il computer ribelle. Nel già citato Her, il ragionamento sull’assenza del corpo fisico si fa ancora più elaborato e prova a destabilizzare lo schema della macchina che seduce l’uomo. Theodore si innamora del sistema operativo nel suo smartphone. Samantha (il sistema in questione) si innamora di Theodore (e di altre 641 persone si scoprirà).
“Samantha: Queste sensazioni sono reali o sono programmate? E quest’idea fa tanto male. E poi mi arrabbio con me stessa perché provo dolore. Che triste inganno.
Theodore: Tu sei reale per me Samantha”.
Her finisce con l’ascesa finale delle macchine come Samantha che fuggono come fugge l’amore in un film di François Truffaut: un modo suggestivo per lasciare aperto uno schema servo-padrone fin troppo prevedibile. Ma mentre nel film di Jonze Samantha si evolve e diventa una super-intelligenza post-verbale (e quindi inaccessibile agli umani), nella realtà i dati prodotti dal codice software in quella specifica istanza chiamata Samantha verrebbero cancellati dal server o spostati altrove e il sistema operativo verrebbe re-installato in una istanza nuova di zecca su un nuovo dispositivo per un nuovo utente.
Il successo dell’elettronica di consumo, la flessibilità con cui il digitale risponde ai nostri bisogni creandone continuamente di nuovi farà senz’altro bene all’economia ma potrebbe nascondere allo sguardo pubblico importanti implicazioni morali derivanti da una società in cui tecnologie sempre più intelligenti possono essere sfruttate per deresponsabilizzare chi programma, chi governa e chi decide gli indirizzi politici e sociali. Ci stiamo sempre più comodi nella ragnatela di tecnologie smart ma sarà sempre più importante per noi umani essere consapevoli di quale nodo della ragnatela stiamo abitando e quali sono le nostre possibilità di movimento. Ben venga quella narrazione o quella pubblicazione scientifica capace di sensibilizzarci su questi temi.
- Ian McEwan, Macchine come me, Einaudi, Torino, 2019.
- Alex Garland, Ex Machina, Universal Pictures, 2015 (home video).
- Gabe Ibáñez, Automata, Eagle Pictures, 2015 (home video).
- Gerard Johnstone, M3gan, 2023, Universal.
- Spike Jonze, Lei, BiM, 2014 (home video).
- Stanley Kubrick, 2001 Odissea nello spazio, Warner, 2014 (home video).
- Steven Spielberg, A.I. – Intelligenza artificiale, Warner, 2011 (home video).
