Macchine a venire:
spirituali e immortali

L’anno di svolta della storia universale sarà il 2029. Questa, perlomeno, è la previsione di Raymond Kurzweil, forse il più audace tra i futurologi. Secondo i suoi calcoli, tra dodici anni, l’intelligenza artificiale riuscirà a trascendere i limiti del cervello umano, fermo a una capacità computazionale di soli cento trilioni di connessioni, tra l’altro piuttosto lente. Da quel momento in avanti, tutto cambierà in modi e tempi estremamente rapidi. Sedici anni più tardi, nel 2045, avverrà la cosiddetta Singolarità tecnologica, evento che consentirà all’uomo, ormai ibridatosi con le proprie macchine, di superare problemi che lo assillano da sempre: limiti cognitivi, deficit morali, scarsità di beni, invecchiamento, malattie, morte. Un’utopia ci attenderebbe, dunque, proprio dietro l’angolo.
Porterà il futuro nuovi problemi, data l’enorme potenza sprigionata dagli ibridi uomo-macchina? Kurzweil non dice che non ve ne saranno, ma resta fondamentalmente un ottimista. È convinto che la Singolarità amplificherà anche la nostra abilità di arginare le “inclinazioni distruttive” dell’umanità. E non è finita qui. Dopo l’epoca della Singolarità, la quinta del suo schema evolutivo, si aprirebbe una sesta epoca in cui la nuova intelligenza ibrida, derivata in parte da quella biologica dei cervelli e in parte da quella tecnologica dei calcolatori elettronici, comincerà a saturare la materia e l’energia dell’universo. Agendo nel cuore delle cose, l’essere post-umano si aprirà finalmente la strada del suo reale destino cosmico. Riorganizzerà una quantità crescente di materia ed energia, fornirà ad esse un livello di computazione ottimale, consentendo all’intelligenza, alla coscienza, di espandersi oltre le sue origini terrestri. Così, “che la nostra civiltà effonda la sua creatività e la sua intelligenza sul resto dell’universo rapidamente o lentamente dipende della sua immutabilità. In ogni caso, la materia «stupida» e i meccanismi dell’universo saranno trasformati in forme di intelligenza squisitamente sublimi” (Kurzweil, 2005).

Un testo visionario
Queste e altre sorprendenti previsioni sono elaborate e motivate da Kurzweil nel best-seller The Singularity is Near: When Humans Transcend Biology, apparso nel 2005 e subito tradotto nelle principali lingue europee e asiatiche. Per far comprendere la portata del cambiamento, Kurzweil offre metafore molto suggestive. Ricorda che prima di essere applicata all’analisi di scenario dello sviluppo socio-tecnico, l’idea di Singolarità si trova in matematica e in astrofisica. Possiamo quindi farci un’idea del cambiamento all’orizzonte, pensando alla semplice funzione matematica y = l/x. Quando il valore di x si avvicina allo zero, il valore della funzione (y) “esplode” e raggiunge valori sempre più alti, tendendo all’infinito. Ma la metafora più intrigante, sotto il profilo sociologico, è quella astrofisica. Kurzweil riassume brevemente il processo di collasso gravitazionale di un corpo massivo, sotto l’influenza della sua stessa forza di gravità.
Nei casi in cui si verifica la catastrofica fusione del nucleo, la stella esplode, trasformandosi in supernova. A quel punto, i suoi resti collassano verso il centro, tendendo a valori di volume zero e densità infinita. Per tale ragione, si parla di Singolarità. Com’è noto, poiché nemmeno la luce riesce a sfuggire all’attrazione gravitazionale di un simile corpo, esso viene comunemente indicato con il termine “buco nero”. La Singolarità è circondata da un orizzonte degli eventi, ovvero da un limite oltre il quale non arrivano più segnali osservabili dal corpo celeste ed entro il quale le leggi della fisica perdono significato. Dobbiamo allora pensare alla Singolarità tecnologica come a un buco nero.
Noi osservatori umani, dotati di intelligenza finita, non possiamo comprendere esattamente che cosa accadrà nel momento in cui l’intelligenza artificiale, raggiunta una dimensione cosmica e continuando a crescere esponenzialmente, tenderà all’infinito. Possiamo però osservare ciò che accade al di qua dell’orizzonte degli eventi socio-tecnici. Ciò che vediamo è una società che cambia a ritmi sempre più rapidi. Stili di vita che in passato duravano secoli o millenni, ora cambiano nel giro di pochi anni. Anche questo è un “effetto” della Singolarità. Così come un buco nero deforma lo spazio-tempo, agendo anche su corpi lontani dal suo centro, allo stesso modo “questa singolarità imminente nel nostro futuro sta sempre più trasformando ogni istituzione e ogni aspetto della vita umana, dalla sessualità alla spiritualità”.
L’attuale sgretolamento dei valori tradizionali e dei dogmi religiosi sarebbe, dunque, un esito della trasformazione tecnologica in atto. In definitiva – per dirla con le parole dell’autore – la Singolarità è “un periodo futuro in cui il ritmo del cambiamento tecnologico sarà così rapido e il suo impatto così profondo, che la vita umana ne sarà trasformata in modo irreversibile. Pur essendo né utopica né distopica, questa epoca trasformerà i concetti su cui ci basiamo per dare un significato alle nostre vite, dai nostri modelli di business al ciclo della vita umana, inclusa la stessa morte”.

Plausibilità della previsione e credibilità del previsore
Una simile ardita previsione si offre a molti spunti di riflessione. Innanzitutto, si pone la questione della sua plausibilità. C’è ampio consenso intorno all’idea che un sistema sociale sia troppo complesso per consentire previsioni certe sui suoi stati futuri. Anche in relazione a previsioni sugli stati futuri di sistemi semplici, dobbiamo comunque ipotizzare l’invarianza di certe condizioni iniziali o la non interferenza di eventi esterni, per poi procedere alla previsione. Ciò significa che qualsiasi previsione scientifica ha un carattere irriducibilmente ipotetico. Ma se così stanno le cose, non esiste un criterio oggettivo nemmeno per “pesare” ex ante la plausibilità di una previsione. Non può che sollevare perplessità, allora, non solo chi mostra un atteggiamento fideistico nei confronti della Singolarità, ma anche chi irride i singolaritariani sulla base di una altrettanto fideistica negazione della teoria.
Ogni giudizio ex ante, non può che essere soggettivo. Come già Karl Mannheim aveva rilevato nei suoi scritti fondativi della sociologia della conoscenza, se una certa descrizione della realtà è una distorsione ideologica dei fatti, una proiezione utopica, o una sua rappresentazione oggettiva, potremo saperlo con certezza soltanto ex post facto. Il giudice inappellabile sarà la Storia (cfr. Mannheim, 1999).
Per decidere se valga o meno la pena di leggere The Singularity is Near, dobbiamo allora spostare la questione dalla plausibilità della previsione alla credibilità del previsore. Finora, Kurzweil si è dimostrato attendibile. È lui stesso a monitorare meticolosamente la correttezza delle sue anticipazioni. In un documento di centoquarantasei pagine, scritto per sfatare il mito che “non si può predire il futuro”, il futurologo americano mostra come la maggior parte delle previsioni per l’anno 2009, elaborate in libri apparsi in precedenza, come The Age of Intelligent Machines (1990) e The Age of Spiritual Machines (1999), si sono quasi tutte verificate (cfr. Kurzweil, 2010). Secondo questo computo, “ben l’86% delle sue 147 profezie si è dimostrato corretto, il 12% solo parzialmente corretto e il 2% errato” (Signorelli, 2017).
Kurzweil si distingue, tra gli analisti di scenario, perché riesce a unire una vivida immaginazione a uno spiccato senso pratico. Non bisogna infatti dimenticare che l’autore del libro è anche un imprenditore di successo. I musicisti lo conoscono perché ha impresso il suo nome su pianoforti digitali e sintetizzatori di notevole qualità. I non vedenti lo conoscono perché ha dato loro una macchina per leggere i libri, invenzione per la quale è stato premiato da Bill Clinton con la Medaglia d’oro per la tecnologia, il Nobel americano per gli ingegneri.
Gli internauti lo conoscono perché è stato recentemente nominato direttore scientifico di Google. Kurzweil afferma che è stata proprio la pratica industriale a insegnargli il valore delle previsioni. Quando si inizia a progettare un nuovo oggetto tecnologico, non bisogna semplicemente assemblare ciò che si ha tra le mani. La fase di progettazione può durare anni, perciò si devono inserire nel progetto dispositivi che ancora non esistono, ma che probabilmente saranno disponibili quando dal blueprint si passerà alla costruzione. È in questo contesto che i modelli predittivi, in particolare la Legge di Moore, acquistano un significato pratico.

Dalla Legge di Moore alla Legge dei ritorni accelerati
Un ingegnere informatico o robotico non può ignorare la Legge di Moore, pena la non competitività dei suoi prodotti sul mercato. È proprio partendo da questa legge che Kurzweil è arrivato a formulare la teoria della Singolarità. Se si considerano tutti i meccanismi computazionali della storia, a prescindere dal fatto che siano organici o inorganici, cervelli o computer, prodotti dalla natura o dall’uomo, si comprende che la legge di Moore è solo un caso particolare di una legge più generale, che Kurzweil ha denominato “Legge dei ritorni accelerati” (Law of accelerating returns). Secondo la Legge di Moore, le capacità computazionali dei computer raddoppiano ogni due anni circa, seguendo una curva dello sviluppo che è, dunque, esponenziale. Ma la Legge dei ritorni accelerati mostra che, su scala universale, la curva di sviluppo è doppiamente esponenziale. La stessa curva dello sviluppo esponenziale starebbe, a sua volta, accelerando esponenzialmente.
La ragione per cui le previsioni di Kurzweil, di primo acchito, sembrano implausibili ai neofiti, è che essi non ragionano né in termini di sviluppo esponenziale, né tantomeno in termini di sviluppo doppiamente esponenziale. Da una parte, c’è ancora chi ritiene valido l’assunto nihil novum sub sole. Cambiano i gadget tecnologici, ma alla fine rimangono stabili “le cose che contano”: il lavoro, la casa, il cibo, la sfera sessuale, il matrimonio, i figli, la salute. Dall’altra, invece, c’è chi si rende conto che le stesse necessità basilari degli esseri umani cambiano. Chi avrebbe detto, qualche anno fa, che il matrimonio può anche essere tra due persone dello stesso sesso e i figli si possono fare in provetta?
Tuttavia, anche chi riconosce il profondo cambiamento delle società umane, resta perlopiù legato a uno schema di sviluppo lineare. La convinzione più diffusa è che, in questo secolo, si progredirà tanto quanto si è progrediti nel secolo precedente. Ed è questo modo di ragionare che Kurzweil principalmente contesta. I cento anni di progresso del XXI secolo non equivarranno, in termini di risultati, ai cento anni di progresso del XX secolo. In virtù della Legge dei ritorni acceleranti, osserveremo nel XXI secolo un equivalente di ventimila anni di progresso tecnico e sociale (al tasso di sviluppo corrente). È questa prospettiva che autorizza una visione quasi “mistica” del futuro, come la presa di coscienza dell’intero universo a seguito degli esperimenti degli ingegneri della Silicon Valley.

Eterodossia di un uomo di scienza
Kurzweil ha una formazione scientifica, cita lavori scientifici e utilizza un linguaggio scientifico. È indubbiamente un uomo di scienza. Ma chi non è addentro alle cose accademiche, forse, non coglie il fatto che The Singularity is Near non è una pubblicazione scientifica senso strictu.
Il tipico scienziato contemporaneo è iperspecializzato. Si occupa per tutta la vita di un micro-problema, si chiude nei confini di una sub-disciplina, si esprime con estrema cautela sulle questioni che tratta. Tra l’altro, non scrive libri, ma articoli che appaiono a firma multipla in riviste specializzate con revisione dei pari a doppio cieco e leggono solo gli addetti ai lavori.
Kurzweil ci parla del mondo del XXI secolo, ma paradossalmente lo vede con gli occhi di un uomo del XIX secolo. E si badi che non è necessariamente un male indossare lenti diverse rispetto a quelle degli scienziati mainstream, perché ogni modo di vedere è un modo di non vedere. Il futurologo americano spazia tra diversi campi del sapere, proprio come gli eruditi del passato. Nulla sfugge al suo sguardo olistico. Astronomia, fisica, biologia, medicina, elettronica, nanotecnologia, ma anche filosofia e scienze sociali, offrono spunti per ragionamenti che si intrecciano di continuo nella trama del libro.
All’inizio, per esempio, l’autore traccia una breve storia dell’idea di Singolarità, dividendo la storia universale in sei epoche:
1. Epoca della fisica e della chimica;
2. Epoca della biologia e del DNA;
3. Epoca dei cervelli;
4. Epoca della tecnologia;
5. Epoca della fusione della tecnologia umana con l’intelligenza umana;
6. Epoca del risveglio dell’universo.
Anche questo modo di leggere la storia come successione di epoche via via migliori, più complesse, più evolute, è tipico del pensiero sociale ottocentesco. Se il capostipite dei “pensatori progressivi” è Nicolas de Condorcet, che divise la storia in nove epoche e profetizzò una decima epoca in cui l’uomo avrebbe raggiunto la semi-immortalità, nella sua scia si sono poi posti Henri de Saint Simon, August Comte, Georg Hegel, Herbert Spencer, Karl Marx, e molti altri.
Degno di nota è anche il fatto che Kurzweil vìola il principio della freccia del tempo, stabilendo una relazione causale inversa tra un evento futuro, la Singolarità, ed eventi presenti come le trasformazioni delle strutture sociali. Certe frasi del futurologo potrebbero fare sobbalzare gli scienziati contemporanei, considerando che ogni ragionamento teleologico, tipico della fisica aristotelica e delle religioni, è stato bandito dal discorso scientifico da secoli. Non bisogna però dimenticare che The Singularity is Near è anche un’opera letteraria e certe frasi potrebbero avere una valenza retorica. Potrebbe trattarsi di una metafora che riprende la simmetria rispetto al tempo degli eventi microscopici della fisica, applicando però il frasario a oggetti macroscopici.
Se oggi gli scienziati sono troppo occupati a risolvere micro-problemi che capiscono soltanto i pari della loro cerchia, gli umanisti, dal canto loro, sono troppo impegnati a raccontarsi l’un l’altro che la vita non ha senso e la verità non esiste, per vedere un qualsiasi progresso nella storia universale. Kurzweil canta fuori dal coro e, forse, può farlo proprio perché è un outsider. Ciononostante, nelle pubblicazioni scientifiche, è molto citato. Per considerare solo due opere, ad oggi, si contano 2.492 citazioni per The Age of Spiritual Machines e 3.881 citazioni per The Singularity is Near. Paradossalmente, chi si sottomette alle rigide regole della burocrazia universitaria e delle riviste scientifiche, poi, non di rado, va a nutrirsi di idee nate al di fuori delle mura accademiche.
In un frammento del libro, Kurzweil denuncia apertamente l’atteggiamento di quegli scienziati che, di tanto in tanto, lo accusano di essere un sognatore (per dirla con un eufemismo). Si lamenta per il fatto che molti ricercatori hanno quello che lui chiama “il pessimismo dello scienziato”. In sostanza, “sono così immersi nelle difficoltà e nella complessità dei dettagli di un problema che li affligge oggi che non riescono a valutare le conseguenze ultime di lungo termine del loro lavoro, e il campo più ampio al cui interno lavorano”. E propone una serie di esempi di scarsa lungimiranza degli scienziati, incapaci di prevedere la decodifica del genoma umano in pochi anni o la diffusione di Internet, pur lavorando proprio nel campo di queste scoperte o invenzioni. Hanno gli occhi troppo vicini alla griglia dei fatti e, soprattutto, l’ambiente accademico impone loro uno scetticismo che non ha più ragione di essere. La cautela poteva avere senso quando si pensava che la scienza e la tecnica producevano risultati definitivi. Ora che il campo delle scoperte e delle invenzioni è rivoluzionato di continuo, forse sarebbe il caso di guardare più lontano, mettere le ali, spiccare il volo.

Come gli uomini evolveranno in macchine inorganiche
Tra i tanti temi trattati in The Singularity is Near, quello che ha suscitato maggiori controversie è il superamento dell’uomo, inteso come essere biologico, ovvero il tema del transumanesimo (cfr. Campa 2010, 2013). Kurzweil propone tre possibili scenari che comportano la nascita di macchine capaci di avere esperienze emotive e spirituali.
Il primo scenario è dry, ovvero legato all’evoluzione dei computer. “Verso la fine degli anni Venti avremo completato la retroingegnerizzazione del cervello umano, e questo ci permetterà di creare sistemi non biologici in grado di eguagliare e superare la complessità e raffinatezza degli esseri umani, intelligenza emotiva compresa”. Come faremo a sapere se queste macchine avranno davvero acquisito una coscienza? Saranno loro stesse a convincerci. In fondo, non sappiamo nemmeno se gli esseri umani che ci circondano sono coscienti come noi. Questa è una nostra assunzione indimostrabile. Kurzweil ricorda agli scienziati che non tutti i problemi hanno una soluzione scientifica. “Proprio perché non possiamo risolvere interamente la questione della coscienza attraverso misurazioni oggettive e analisi (scienza), esiste un ruolo critico per la filosofia. La coscienza è la questione ontologica più importante”.
Il secondo scenario che potrebbe condurre all’avvento del postumano è il caricamento dei pattern di un essere umano reale in un opportuno substrato pensante di tipo non biologico. Il pattern, ovvero lo schema che tiene insieme la materia che compone un corpo umano, è ciò che davvero conta e definisce l’identità dell’essere. La materia, infatti, cambia continuamente. Basta pensare al fatto che il cervello umano è composto per l’85% d’acqua e che il ricambio delle molecole d’acqua è incessante, per comprendere che la nostra identità non è legata alla materia. Gli atomi che compongono il nostro corpo, dopo qualche anno, sono tutti diversi. Eppure, la nostra convinzione di essere la stessa persona persiste. Gli atomi, invece di essere di carbonio, potrebbero anche essere di silicio ed essere combinati in modo tale da supportare ugualmente la coscienza, ma col vantaggio di una maggiore longevità dell’organismo e potenza di calcolo dell’organo pensante.
Il terzo scenario contemplato da Kurzweil è wet, ovvero basato sulla sostituzione graduale delle parti biologiche con parti non biologiche. Questo processo ha già avuto inizio “con l’introduzione di dispositivi come gli impianti neurali per ovviare a disabilità e malattie. Proseguirà con l’introduzione di nanobot nel flusso sanguigno, inizialmente per applicazioni mediche ed anti-invecchiamento. Poi nanobot più perfezionati si interfacceranno con i nostri neuroni biologici per potenziare i sensi, darci una realtà virtuale e potenziata dall’interno del sistema nervoso, collaborare ai nostri ricordi e svolgere altri compiti cognitivi di routine. A quel punto saremo cyborg, e da quella pedana nei nostri cervelli la parte non biologica comincerà a espandere la sua potenza in modo esponenziale”.
Lo scenario cyborg torna, comunque, a convergere sulla prospettiva dry. Nel 2045, quando la parte non biologica della nostra intelligenza sarà milioni di volte più potente di quella biologica, la nostra coscienza sentirà ancora la necessità di affidarsi ai neuroni superstiti? Quando cesserà di farlo, la nostra trasformazione in macchine spirituali immortali sarà completata. Pensare che tutto questo dovrebbe accadere tra meno di trent’anni potrebbe farci venire le vertigini o, al contrario, fare affiorare sul nostro volto un sorriso incredulo. Ma, come abbiamo avvertito sopra, alle analisi di scenario non chiediamo di svelarci il futuro con matematica certezza, chiediamo solo di aprire le nostre menti ai mondi possibili. E questo è un compito che The Singulary is Near svolge egregiamente.

––  Riccardo Campa, La specie artificiale. Saggio di bioetica evolutiva, Deleyva Editore, Monza, 2013.
––  Riccardo Campa, Mutare o perire. La sfida del transumanesimo, Sestante Edizioni, Bergamo, 2010.
––  Raymond Kurzweil, The Age of Intelligent Machines, MIT Press, Cambridge (MA), 1990.
––  Raymond Kurzweil, The Age of Spiritual Machines: When Computers Exceeds Human Intelligence, Penguin Books, New York, 1999.
––  Raymond Kurzweil, How my Predictions are Faring, ottobre 2010.
––  Karl Mannheim, Ideologia e utopia, Il Mulino, Bologna, 1999.
––  Andrea Signorelli, Cos’è la singolarità tecnologica, la profezia sull’intelligenza artificiale in La Stampa, 28 marzo 2017.