Summa Technologiae:
Miti scientifici

Di tutti i discorsi eccentrici che nascono sulla Rete tra le comunità dei nerd, uno dei più assurdi e inquietanti è quello noto come “il basilisco di Roko”. Roko è lo username di un utente di un forum online che a un certo punto se ne viene fuori con quest’idea: se un giorno emergerà una superintelligenza artificiale cosciente di sé, più simile a Dio che all’Uomo, potrebbe decidere di ricompensare coloro che hanno favorito la sua nascita con i doni della società dell’abbondanza, vale a dire vita eterna, ricchezza e tutto quello che ci verrebbe in mente di chiedere; ma tutti coloro che invece hanno rallentato le attività di ricerca e sviluppo necessarie per creare la super-AI, o che semplicemente si sono disinteressati al problema (praticamente la quasi unanimità della nostra specie), potrebbe subire terribili punizioni. Poco male, direte voi, per allora saremo forse tutti morti e il problema sarà dei nostri figli e nipoti. Non così in fretta: la nostra super-AI potrebbe essere dotata della capacità di simulare in un ambiente virtuale le nostre coscienze, anche dopo la nostra morte, per cui di fatto potremmo ritrovarci resuscitati virtualmente in un inferno simulato, espiando per l’eternità la nostra ignavia nei confronti del Dio di silicio.
Quel che meraviglia è che qualcuno si sia convinto della bontà del ragionamento a tal punto da aver iniziato a cancellare le proprie tracce sulla Rete nella speranza di risultare irrintracciabile al futuro basilisco artificiale. Ebbene, Roko ignorava il fatto che un’idea molto simile era già venuta in mente a Stanislaw Lem nel lontano 1964.
A leggere la sua Summa Technologiae, pubblicata per la prima volta integralmente in inglese solo nel 2013 (chissà se la vedremo mai tradotta anche in italiano), c’è da mettersi letteralmente le mani nei capelli. Lem era talmente in anticipo sui tempi che alcune delle speculazioni di questo suo libro stanno ritornando solo oggi nei discorsi più avanzati dei tech-titani della Silicon Valley: il tema della realtà simulata (la “fantomatica”, come la chiama Lem, ossia la scienza della virtualità), quello della possibilità di creare la vita artificiale, il problema del rapporto tra esseri umani e AI, la possibilità che la nostra specie, anziché espandersi tra le stelle, decida di trascorrere il resto dell’eternità in un computer, i limiti che queste ipotesi pongono alla ricerca di intelligenze extraterrestri nell’universo e molto, molto altro sono tra le idee in cui il lettore si imbatte in questa avveniristica e allucinata carrellata.

L’idea di Lem consiste infatti nella possibilità che in futuro la nostra civiltà inizierà a realizzare simulazioni non identiche alla realtà in cui viviamo, ma migliorate: in queste realtà virtuali la vita post-scarsità apparirà simile a un paradiso e alla fine, di fronte alla prospettiva delle difficoltà dei viaggi interstellari, troveremo probabilmente più interessante tradurre il nostro codice genetico in codice informatico e vivere per sempre nella simulazione. In un futuro ancora più lontano, le civiltà simulate costruiranno poi altre simulazioni ulteriormente migliorate e così via, in un effetto matrioska. Alcune di queste potranno essere realizzate appositamente per “punire” i malvagi, un inferno virtuale nel quale rinchiudere gli esseri simulati che violano le norme sociali. In questo futuro tratteggiato da Lem, come nella Singolarità, potremmo convivere con intelligenze artificiali senzienti. Ma, come svela il breve estratto che proponiamo, le cose andranno molto diversamente da quanto immaginano oggi i transumanisti. Non accadrà una fusione tra Uomo e Macchina, un’ibridazione tra esseri umani ed esseri artificiali, perché la vita artificiale che riusciremo a creare in futuro non avrà nulla a che fare con quella umana. Similmente a quanto sostenuto nei suoi romanzi sul “primo contatto” con civiltà extraterrestri (dal fondamentale Solaris ai meno conosciuti La voce del padrone e Eden), ossia l’impossibilità di stabilire un dialogo con intelligenze radicalmente diverse dalle nostre, Lem immagina che questa stessa condizione si verificherà nel momento in cui riusciremo a creare creature artificiali senzienti. In tal caso, probabilmente, avremo soddisfatto la nostra ricerca di intelligenze extraterrestri: le avremo costruite noi stessi qui sulla Terra.

La cibernetica ha compiuto vent’anni; benché la si possa dire una disciplina giovane, progredisce a una velocità impressionante. Ha le sue scuole e i suoi indirizzi, ha entusiasti e scettici. I primi hanno fede nella sua universalità, i secondi ne vogliono indagare i limiti applicativi. Linguisti e filosofi, fisici e medici, tecnici delle comunicazioni e sociologi, non c’è chi non abbia detto la sua al proposito. Non è più una disciplina uniforme, perché si è diversificata in parecchi rami e continua a specializzarsi, come del resto avviene con ogni scienza. E come avviene per ogni altra scienza, anche i cibernetici creano una mitologia loro propria. “Mitologia della scienza”: suona una contraddizione in termini, come dire “irrazionalismo empirico”. Invece tutte le discipline, anche le più scientifiche, si sviluppano non solo grazie a nuove teorie e nuovi fatti, ma anche grazie alle ipotesi e alle speranze degli scienziati. Di quelle ipotesi, solo alcune superano il test dello sviluppo, mentre tutte le altre si svelano come illusioni e per questo assumono l’aspetto dei miti. Il mito della meccanica classica ha trovato personificazione nel demone di Laplace, quell’intelletto che, conoscendo momento e posizione di tutti gli atomi dell’universo a un determinato istante, sarebbe in grado di prevedere, dell’universo, l’intero futuro. Naturalmente la scienza si libera di queste convinzioni erronee che ne accompagnano il progresso, ma è solo post factum, cioè in prospettiva storica, che possiamo capire quali congetture fossero corrette e quali il frutto di presupposti mal formulati. Nel corso di queste trasformazioni, quello che era impossibile diventa possibile; soprattutto, a cambiare nel corso di questo processo sono gli obiettivi stessi. Alla domanda se la trasmutazione del mercurio in oro, sogno degli alchimisti, fosse possibile, uno scienziato dell’Ottocento avrebbe risposto con un categorico “no”. Uno scienziato del Novecento sa invece che è possibile trasformare atomi di mercurio in atomi d’oro. Che cosa vuol dire questo, che avevano ragione gli alchimisti e torto gli scienziati? No, per niente, dal momento che quanto era considerato un obiettivo per se, cioè l’oro cucinato in provetta, per i fisici dell’atomo non è più rilevante. L’energia nucleare non solo è infinitamente più preziosa dell’oro, ma, soprattutto, è nuovissima e diversissima dai sogni degli alchimisti, anche dei più sfrenati. Alla sua scoperta si è arrivati tramite il metodo adoperato dagli scienziati, non per i procedimenti alchemici dei loro rivali.

Dove voglio arrivare con questo discorso? Oggi, la cibernetica è ossessionata dal mito medioevale dell’homunculus, un essere intelligente artificiale. La disputa sulla possibilità di creare un cervello artificiale, dotato delle caratteristiche della mente umana, ha spesso appassionato filosofi e cibernetici; ma è una disputa senza senso. “Si può trasformare il mercurio in oro?”, domandiamo a un fisico nucleonico. “Sì”, risponde lui, “ma noi non ci mettiamo mano. Per noi non è importante, non influenza le nostre direttive di ricerca”.
Occorre insomma distinguere le possibilità dagli obiettivi realistici. Nelle scienze, le possibilità hanno sempre avuto i loro “profeti negativi”. A momenti il loro grande numero mi ha meravigliato, così come la loro passione nel cercare di dimostrare futile ogni tentativo di costruire macchine volanti, atomiche, pensanti. La cosa sensata da fare con questi vaticinatori dell’impossibile è non discutere nemmeno: non perché sia obbligatorio credere che un giorno o l’altro qualsiasi cosa si avvererà, ma perché in queste discussioni accalorate è facile perdere di vista i problemi reali. Gli “anti-homunculisti” pensano che, negando la possibilità di una mente sintetica, si difenda la superiorità dell’uomo sulle sue creazioni, creazioni che, a loro giudizio, non dovrebbero mai sopraffare il genio dell’uomo. È un argomento che avrebbe pregio solo qualora ci fosse davvero chi cerca di sostituire l’uomo con una macchina, e non in un determinato luogo di lavoro, bensì nella civiltà nel suo complesso. Ma nessuno intende farlo. L’idea non è di costruire un’umanità sintetica, quanto di aprire un capitolo nuovo nel Libro della Tecnologia, un capitolo che contenga sistemi di qualsivoglia grado di complessità. Dal momento che l’uomo stesso, il suo corpo e il suo cervello, appartiene a una tale classe di sistemi, questa nuova tecnologia rappresenterà un tipo di controllo del tutto nuovo dell’uomo su se stesso, cioè sul suo organismo. A sua volta, questo controllo permetterà la realizzazione di sogni ancestrali come il desiderio d’immortalità, forse perfino l’inversione di processi che oggi sono considerati irreversibili (in particolare processi biologici, come l’invecchiamento). Questi obiettivi, tuttavia, potrebbero rivelarsi fantasticherie, come è avvenuto per l’oro degli alchimisti. Ammettiamo pure che l’uomo sia in grado di fare tutto: di certo non potrà farlo in qualsiasi modo. Potrà essere in grado, volendolo, di raggiungere ogni obiettivo, ma prima dovrà capire che il prezzo da pagare ridurrebbe molti di quegli scopi stessi all’insignificanza o all’assurdità.
E la ragione ne è che noi possiamo scegliere la nostra destinazione, ma il percorso tramite il quale vi arriveremo lo sceglie la Natura. Possiamo volare, ma non lo facciamo sbattendo le braccia. Possiamo camminare sull’acqua, ma non come avviene nella Bibbia. Può darsi che un giorno raggiungeremo una longevità tale da potersi paragonare all’immortalità, ma per farlo dovremmo rinunciare alla forma corporea fornitaci dalla natura. Forse, grazie all’ibernazione, potremo attraversare indenni periodi di milioni di anni, ma a costo di risvegliarci dai nostri sogni glaciali in un mondo estraneo, dal momento che il mondo e la cultura che ci avevano informati saranno scomparsi durante il tempo della nostra morte reversibile. Per questo, quando realizziamo i nostri sogni, il mondo fisico ci obbliga ad atti la cui realizzazione può sortire a ugual titolo a una vittoria come a una sconfitta.
Il nostro dominio sull’ambiente si fonda sul feedback con i processi naturali, grazie al quale il carbone esce dalle miniere, oggetti pesantissimi possono essere trasportati lungo enormi distanze e le catene di montaggio rilasciano automobili nuove fiammanti. Tutto questo è possibile perché la Natura si ripete in un certo numero di semplici leggi, oggetto di studio da parte della fisica, della termodinamica e della chimica.
I sistemi complessi, come il cervello o la società, non si possono descrivere usando il linguaggio di queste leggi semplici. In questo senso, la teoria della relatività e la sua meccanica sono ancora semplici, ma la meccanica dei processi di pensiero non lo è più. La cibernetica concentra la sua attenzione su questi ultimi processi, perché si è data per scopo di comprendere e di padroneggiare la complessità. Fra tutti i sistemi materiali a noi noti, il più complesso è il cervello. Probabilmente, ma potrei dire certamente, è possibile sviluppare sistemi perfino più complessi del cervello. Li conosceremo una volta che avremo imparato come costruirli. La cibernetica è quindi, prima di tutto, la scienza di raggiungere degli obiettivi che non si possono raggiungere direttamente.
“Abbiamo visto un modello di dispositivo che consiste di ottomila miliardi di elementi”, diciamo a un tecnico. “Ha il proprio nucleo di energia, sistemi di locomozione, una gerarchia di regolatori e una cinghia di distribuzione fatta di quindici miliardi di parti. Esegue così tante funzioni che a elencarle tutte non basterebbe una vita. Eppure, la formula che non solo ne ha reso possibile la costruzione ma che l’ha effettivamente costruito si contiene tutta nel volume di otto millesimi di millimetro cubico”. Impossibile, risponde il tecnico. Ma si sbaglia, perché gli abbiamo descritto la testa di uno spermatozoo umano, che contiene tutte le informazioni necessarie a produrre un esemplare di Homo sapiens.

La cibernetica contempla queste “formule” non già perché nutra l’ambizione di creare l’homunculus, ma perché vorrebbe risolvere problemi analoghi di progettazione. È lontanissima, in realtà, dal riuscirci, ma si consideri che ha solo vent’anni. L’evoluzione ha trovato le sue soluzioni a questi problemi nel corso di più di due miliardi di anni. Diciamo che alla cibernetica servano ancora cento, mille anni per pareggiare l’evoluzione: la differenza di scala temporale è sempre a nostro vantaggio.
Quanto a “homunculisti” e “anti-homunculisti”, il loro contrasto ricorda quello, accanito, fra epigenetisti e preformisti nell’ambito della biologia. Si tratta di discussioni tipiche degli stadi iniziali di una scienza nuova. Come quella scienza progredisce, di queste controversie non rimane traccia. Non esisteranno mai uomini artificiali, perché non servono. Al nucleo di quest’ultima credenza c’è un altro mito antico, un mito satanico, ma nessun Amplificatore d’intelligenza si trasformerà mai in un Anticristo elettronico. Questi miti hanno tutti un comun denominatore antropomorfico, a cui si vorrebbero vedere ridotte le attività pensanti delle macchine. Grave fraintendimento! Sì, è vero, non possiamo sapere se, al di là di una certa “soglia di complicazione”, le macchine non cominceranno a dare segno di una “personalità” propria. Se questo dovesse succedere, quella personalità sarà tanto diversa da una personalità umana quando un corpo umano è diverso da una cella a microfusione. Incontreremo sorprese, problemi, rischi che oggi non riusciamo neanche a immaginare, ma non dobbiamo temere il ritorno di demoni e mostri medievali travestiti da fantasmi tecnologici. No, la maggior parte dei problemi che ci aspettano non possiamo proprio immaginarceli […].