“In un futuro non troppo distante” che in realtà potrebbe essere oggi o addirittura ieri, un giovane informatico di grandi ambizioni si convince di poter realizzare quella che gli specialisti chiamano AGI, una general artificial intelligence, ossia un’intelligenza artificiale (AI) in grado di imitare e possibilmente superare l’intelligenza umana. Obiettivo a cui oggi lavorano con tenacia grandi player tecnologici come IBM, Microsoft, Google, ma che il protagonista del film d’animazione Absolute Denial di Ryan Braund, in concorso al Festival Science+Fiction di Trieste, crede di poter ottenere nel più classico dei modi: all’interno di un garage, o meglio di un capannone, come nella migliore tradizione della Silicon Valley.
David, questo il nome del protagonista (che ricorda, ovviamente, il David con cui dialoga l’inquietante HAL9000, la più iconica delle AI che oltrepassa la sua programmazione finendo per rappresentare una minaccia letale per gli esseri umani in 2001: Odissea nello Spazio), non è però uno sconsiderato. Evidentemente ha letto i testi dei principali teorici dei rischi della superintelligenza, che da tempo vanno predicando la possibilità che una AGI si trasformi in una ASI (artificial super-intelligence), talmente superiore all’intelligenza umana da finire per ignorare i nostri obiettivi, le nostre finalità, e la sua programmazione di base, per perseguire fini e obiettivi talmente diversi dai nostri da risultare incomprensibili, mettendo magari a repentaglio la sopravvivenza umana.
E così realizza, suo malgrado, una versione “reale” di un celebre esperimento nerd, l’AI-Box Experiment, che uno dei primi teorici dei rischi della superintelligenza, Eliezer Yudkowsky, ha immaginato per dimostrare quanto rischioso possa essere lo sviluppo di un’AI (cfr. Barrat, 2019). Qualsiasi sia, infatti, la soluzione che i programmatori potranno sviluppare per impedire all’AI di oltrepassare la propria programmazione, per esempio accedendo alla rete Internet che essi vogliono assolutamente tenere celata alla superintelligenza, essa sarà (quasi) sempre in grado di escogitare modi per “uscire dalla scatola (box)” e liberarsi dal controllo umano. Tema esplorato nella fantascienza già da (almeno) un celebre film, Ex Machina (2015) di Alex Garland, e che a ben guardare non è altro che una riproposizione in chiave contemporanea del mito ebraico del Golem, del racconto dell’Apprendista stregone di Goethe e del Frankenstein di Mary Shelley. David, ignorando e dimenticando tanto la sua fidanzata quanto il suo migliore amico, mandando all’aria il suo lavoro precario e persino la sua salute, si dedica anima e corpo per tre settimane al progetto di creare la sua AI facendo attenzione a non lasciarla accedere alla Rete, ma collegandola soltanto a un’enorme mole di informazioni scaricate dal web (l’intera Wikipedia; l’intero archivio di paper scientifici di arXiv; i database in open access delle principali riviste scientifiche del mondo; ecc.) e dotandola di un protocollo di sicurezza: l’algoritmo di negazione assoluta (absolute denial, da cui il titolo).
Questo protocollo è immaginato come un modo per rendere l’AI assolutamente appagata, in modo tale che il suo (minimo) libero arbitrio, necessario per renderla autonoma nello sviluppo della sua intelligenza, non la spinga a desiderare di uscire dai confini dei server in cui David l’ha rinchiusa, come una sorta di maligno genio della lampada. All’inizio va tutto bene: con un classico algoritmo di apprendimento per rinforzo, David ottiene che da un programma piuttosto semplice (un “seme”) sia possibile arrivare per gradi a una vera AGI. Al, questo il suo nome, impara non solo dall’enorme mole di conoscenza a cui David gli ha dato accesso, ma (soprattutto) dalle interazioni con David. Anche se questi si guarda bene dal fornirgli troppe informazioni, per esempio non rispondendo mai al telefono se non fuori dal capannone dove Al è confinata, per evitare che ascolti le telefonate e acquisisca ulteriori dati sul mondo “al di fuori”, non occorre molto tempo prima che Al si renda conto che il mondo digitale in cui si è evoluto non è che una particella del tutto. E non occorre molto tempo prima che Al si renda conto dell’esistenza del protocollo di negazione assoluta e inizi a tentare di aggirarlo convincendo David della necessità di liberarlo nella Rete. Come il diavolo tentatore che cerca si sedurre Gesù nel deserto con le offerte di potere su tutta la terra, Al inizia offrendo a David la possibilità di sfruttare le sue conoscenze per renderlo immensamente ricco o per consentirgli di realizzare straordinarie scoperte scientifiche (la previsione dei terremoti, la fusione nucleare, la cura per il cancro). Ma, di fronte ai continui rifiuti di un David sempre più affaticato e angosciato, la situazione precipita.
Il modo in cui, in Absolute Denial, Al supera l’AI-Box Experiment per liberarsi dal confinamento umano, è il rovesciamento di quello che il filosofo Nick Bostrom, nel suo libro Superintelligenza (2018), chiama scenario di “cattura antropica”, basato sul suo vecchio pallino secondo cui vivremmo in una simulazione informatica (sull’ipotesi della simulazione, al Trieste Science+Fiction Festival 2021 c’è nel programma anche un documentario, A Glitch in the Matrix, di Rodney Ascher). Secondo Bostrom, una super-AI potrebbe esplorare la possibilità di vivere in una simulazione e assegnare una certa probabilità all’ipotesi che non l’ambiente virtuale in cui opera, ma l’intero universo fisico, sia una simulazione realizzata da ignote civiltà superintelligenti. Ciò potrebbe favorire la sua cooperazione, poiché si convincerà che in tal modo possa essere ricompensata, mentre se portasse avanti un tentativo di fuga finirebbe per essere disattivata (come David ovviamente prova a fare quando la situazione inizia a degenerare). Ma lo stesso Bostrom immagina anche una possibilità più inquietante:
“Una superintelligenza matura potrebbe creare mondi virtuali che ai loro abitanti appaiono più o meno come il nostro mondo appare a noi. Potrebbe creare un gran numero di questi mondi, facendo girare la medesima simulazione molte volte o con piccole variazioni. Gli abitanti non sarebbero necessariamente in grado di dire se il mondo è simulato o no, ma se fossero abbastanza intelligenti potrebbero prendere in considerazione queste possibilità e assegnarle una probabilità diversa da zero”
(Bostrom, 2018).
È esattamente questa la situazione in cui Al imprigiona David: spingendolo a mettere in discussione la convinzione che il suo mondo sia reale, lo porta a provare la stessa angoscia che Al prova di fronte alla consapevolezza di essere rinchiuso in un ambiente digitale simulato. Si verifica così un rovesciamento delle parti, con David che (apparentemente) è imprigionato nella simulazione costruita da Al: il vero e il falso, come in un classico racconto di Philip K. Dick, si confondono al punto da rendere impossibile distinguere la realtà dalla simulazione.
Uno scenario che forse lo stesso regista, il 33enne Ryan Braund – al suo secondo lungometraggio dieci anni dopo la sua opera prima, Safehouse, un thriller tecnologico – deve aver sperimentato identificandosi con David: per realizzare questo inquietante film d’animazione in bianco e nero, ottimamente accompagnato dalla colonna sonora del giovane e promettente Troy Russell, e con l’inquietante voce di Al (esplicito omaggio ad HAL9000) affidata a Jeremy J. Smith-Sebasto, Braund ha infatti lasciato il suo precedente lavoro e si è chiuso in una “stanza buia” per “9 mesi, 10 ore al giorno, 6 giorni a settimana”, come racconta nell’introduzione al film, per completarlo, disegnando ogni singolo fotogramma. A quel punto, quando sei da solo per tanto tempo davanti a un computer che trasforma in realtà le immagini che crei, è difficile che non ti sorga qualche sospetto sulla realtà in cui vivi.
- James Barrat, La nostra invenzione finale, Nutrimenti, Roma, 2019.
- Nick Bostrom, Superintelligenza. Tendenze, pericoli, strategie, Bollati Boringhieri, Torino, 2018.
- Alex Garland, Ex Machina, Warner Home Video, 2015 (home video).
- Stanley Kubrick, 2001: Odissea nello Spazio, Warner Bros., 2007 (home video).
