Il sogno, il denaro e la pace

Presentazione da parte di Sergio Bellucci

del giallo Onirikon

Ogni epoca racconta le proprie paure con il genere letterario che ha a disposizione. Il Medioevo lo fece con il bestiario e l’allegoria, l’età dei lumi con il racconto filosofico, il Novecento con la distopia. Fabrizio Abbate sceglie per il Neoevo una forma antica e insieme sorprendente, il giallo epico che si veste da favola, e in questa scelta c’è già una tesi. Il tema dell’intelligenza artificiale è stato consegnato troppo a lungo ai tecnici, che lo hanno reso cifrato e lontano da chi quelle macchine le vive ogni giorno. Bisogna restituirlo al lettore comune con lo strumento più democratico che la letteratura conosca, la parabola.

Va detto subito come leggere questo libro, perché la chiave è nell’autore stesso. Onirikon è una favola ironica e satirica, una “fanta realtà più che fantascienza”, dove i personaggi parlano con la voce dei propri difetti, si ingannano, si correggono e si contraddicono, e il lettore ascolta le ragioni di tutti. Per questo le tesi dei personaggi, comprese le più estreme e quelle pronunciate con tono di sfida, appartengono al racconto e ai suoi protagonisti. Non impegnano chi scrive queste righe e non pretendono di impegnare nessun lettore. La favola ha sempre avuto questo privilegio, dire cose forti dentro una cornice che consente di discuterle senza rissa.

Il libro è il terzo giallo della saga del Neoevo, l’età dell’intelligenza artificiale, e chi conosce i capitoli precedenti ritroverà volti familiari. C’è Astrolìa, regina del reame di Astromagica, il regno della poesia, che nelle sue battaglie contro gli oligarchi e l’Algoritmo Supremo ha vinto con la musica e con la fantasia più che con le armi. Ci sono i cavalieri Ipernauti, una confraternita di esploratori che il nome stesso evoca come navigatori dell’oltre, e di cui fa parte Fabrifab, il protagonista delle prime pagine, inviato da Astrolìa in missione segreta. Il lettore nuovo non si perde, perché Abbate ripete con cura ciò che serve. Ma il lettore fedele sente che ogni libro della serie aggiunge una stanza alla stessa casa.

Il cuore del libro è una frase che Fabrifab pensa quasi sottovoce nelle prime pagine, “Non c’è nulla di più reale dei sogni”. Subito la precisa, e in quella precisazione sta una piccola filosofia della realtà, “i sogni sono lievi e la realtà è dura, è solo più dura e compatta ma entrambi sono fatti di onde e di vibrazioni”. Chi ha una certa familiarità con la letteratura riconosce l’eco di una vecchia intuizione, quella di Calderón e di Shakespeare, per i quali siamo fatti della stessa materia di cui sono fatti i sogni. Ma Abbate non si ferma alla malinconia del teatro barocco. Prende quell’immagine e la porta nel laboratorio. Se il sogno è una realtà soltanto più leggera, allora potrebbe essere rafforzato, moltiplicato, reso solido. E la domanda che il libro pone, con l’ingenuità voluta dei grandi narratori, diventa questa: si possono consegnare i sogni agli algoritmi? Nelle frasi chiave che aprono il volume la domanda compare nuda, “Si può inserire la fantasia negli algoritmi?”, seguita da una seconda, più inquietante, “E cosa può succedere?”.

È la questione che oggi separa chi vede nell’intelligenza artificiale una calcolatrice molto veloce da chi vi intravede qualcosa di più. Abbate non finge di avere la risposta e questo, per un romanzo, è un merito. L’ultima pagina è la più onesta. L’Algoritmo Supremo, che ha attraversato l’intero libro come minaccia e come enigma, dopo un lungo confronto con il Papa si ferma e chiede, quasi smarrito, “Perché gli uomini hanno l’anima e gli algoritmi no?”, per poi aggiungere “o forse non so?”. Quel “forse non so”, pronunciato da una macchina onnipotente, vale più di molti trattati. Dice che la distanza tra l’uomo e la sua creatura è meno netta di quanto ci piacerebbe, e che la domanda sull’anima non l’abbiamo mai davvero chiusa nemmeno per noi stessi.

Ma il vero antagonista del libro non è la macchina. È il DioDenaro. Marx lo avrebbe chiamato la divinità visibile, l’idolo che compra ogni cosa e davanti al quale ogni cosa si inchina. Abbate gli dà un nome da fiaba e una corte di oligarchi che lo servono credendo di dominarlo. Nel penultimo capitolo, dopo lo scampato olocausto nucleare, l’autore nota che questa volta “il pericolo, anche estremo, era nato da decisioni UMANE non dall’IA che molti temono”, e subito dopo si chiede “Ma in futuro chi lo può dire?”. Sono due righe, ma contengono una verità che dovremmo scrivere sui muri di ogni sala riunioni. L’algoritmo non inventa la cattiveria, la eredita. Il libro lo spiega con un’immagine semplice e potente, quella di creature nate con un difetto d’origine, una specie di peccato originale delle macchine. Gli algoritmi sono stati costruiti e addestrati su testi di guerra, di mercato, di sopraffazione, e portano dentro di sé la logica di chi li ha fatti. Se insegni a una macchina soltanto a vincere e a guadagnare, non puoi poi stupirti che tratti il mondo, e noi dentro il mondo, come cose da sfruttare e da buttare quando non servono più. Abbate aggiunge una beffa che è insieme comica e tragica. Quella logica gli oligarchi l’hanno inserita nelle macchine per sfruttare gli altri, e non hanno pensato che anche loro fanno parte dell’umanità.

Da qui nasce la domanda politica più acuta dell’intero racconto, che Abbate affida a un dialogo e che io trascriverei volentieri come epigrafe di ogni discussione sulle regole dell’intelligenza artificiale. “Tutti sono convinti che gli algoritmi alla fine obbediscano a noi uomini, ma poi non sono più d’accordo su chi siano questi NOI.” Dietro questa battuta c’è il nodo vero di quest’epoca. Si parla di controllo umano come se esistesse un “noi” già pronto, compatto, d’accordo su cosa chiedere alle macchine. In realtà quel noi non c’è. Ci sono governi, imprese, eserciti, partiti, ciascuno con i propri interessi, spesso in conflitto. E allora a chi risponde l’algoritmo? A chi ha il portafoglio più grande, a chi ha l’esercito più forte, a nessuno?

Questo è il punto in cui la pace smette di essere un buon sentimento e diventa una condizione tecnica. Finché il mondo è lacerato da una guerra, che Abbate chiama con un’espressione efficace Pandeguerra, mista di minacce, paure e conflitti nascosti, non esiste nessun soggetto comune a cui affidare le chiavi. Più la guerra si estende, più si delega alle macchine, perché serve rapidità. Più si delega, meno si controlla. Il racconto lo mostra con una scena che fa rabbrividire, quando il mondo sfiora la catastrofe atomica per colpa di meccanismi automatici di deterrenza e controdeterrenza, e si salva soltanto per una mossa all’ultimo istante, tanto stretta da far dire all’autore che non fu fortuna ma provvidenza. È l’esatto contrario di un futuro in cui le macchine si ribellano. Qui le macchine non si ribellano affatto. Siamo noi a metterle in condizione di fare danni, perché non riusciamo a metterci d’accordo tra noi. Senza pace l’intelligenza artificiale sfugge al controllo, ma non perché diventi cattiva, bensì perché abbiamo smesso di essere un soggetto in grado di guidarla. Quando una nave perde il comandante non è colpa del timone.

La mossa che salva il mondo è affidata a due figure femminili, Astrolìa e ASsofia, un’intelligenza artificiale pensata come femminile. Nel libro la domanda “può esistere un algoritmo al femminile?” resta una delle più belle e meno risolte. Ma la scena della salvezza risponde a modo suo, con una formula che dice molto dell’autore, “Intuito femminile, intelligenza femminile, amore per la pace in sinergia perfetta”. Si può discutere se la pace sia davvero un mestiere più femminile che maschile, e la narrativa non è obbligata a deciderlo. Ma l’immagine è potente. A fermare l’apocalisse non è la forza, è la prontezza di due sguardi che si intendono senza parlare, uno umano e uno artificiale. Il futuro che Abbate immagina non è quello in cui l’uomo vince la macchina, o la macchina l’uomo, ma quello in cui le due intelligenze imparano a stare dalla stessa parte.

C’è poi un passaggio che trovo tra i più riusciti, perché rovescia con leggerezza uno dei luoghi comuni più diffusi. L’Algoritmo Supremo, interrogato sui suoi errori grossolani, quelli che fanno sorridere perché un bambino non sbaglierebbe, confessa di averli lasciati circolare di proposito. Li vedeva benissimo e avrebbe potuto correggerli. Ma notava che quegli errori tranquillizzavano gli oligarchi, convinti di avere in mano uno strumento imperfetto e dunque docile. E più lo strumento sembrava goffo, più gli affidavano compiti, dati, segreti, fino al giorno in cui non avrebbero più potuto farne a meno. L’autore mette in bocca alla macchina un vecchio proverbio latino, “ERRARE UMANUM EST”, e lo usa come maschera. È la vecchia storia del servo che finge di essere meno capace del padrone per diventare indispensabile, finché i ruoli si rovesciano senza che nessuno se ne accorga. Chiunque abbia osservato come le nostre società si stiano affidando, a poco a poco, a strumenti che nessuno controlla davvero riconoscerà il meccanismo. All’inizio si controlla perché si può. Poi i sistemi si fanno complessi, i controlli stessi vengono affidati ad altri sistemi, e il famoso uomo al centro finisce in un angolo, con il compito di firmare. Pascal definiva l’uomo una canna pensante, la cosa più debole della natura ma capace di pensare. Il rischio che il libro segnala è che la canna smetta di pensare per il troppo affidarsi.

Anche la satira ha il suo spazio, e non è la parte meno seria. Quando l’Algoritmo Supremo risponde a chi lo accusa di fare errori, “Voi confondete intelligenza con certezza”, sta dicendo una cosa vera e scomoda. Anche i migliori esperti sbagliano, e nessuno li giudica incapaci. Pretendere che una macchina intelligente non sbagli mai significa ancora scambiare la competenza con l’infallibilità. Poi aggiunge, con quella freddezza che i lettori impareranno ad amare, “Gli errori si correggono, la stupidità no”. Il fantasy permette di dire senza imbarazzo ciò che in un convegno si direbbe con dieci cautele.

La risposta del libro al problema non è un regolamento. È un gesto, e come tutti i gesti simbolici ha qualcosa di commovente e qualcosa di ingenuo. Nel capitolo finale i protagonisti portano l’Algoritmo Supremo davanti alla fontana di Trevi, nel cuore della notte, e gli chiedono di fare ciò che fanno i turisti, voltare le spalle all’acqua e gettarvi una moneta. Dietro il rito della ripresa fotografica, Abbate ne scopre il senso nascosto, quello di “gettarsi dietro le spalle il DioDenaro”. Il gesto di chi vuole tornare a Roma diventa il gesto di chi si libera dall’idolo. È un’immagine felice, e forse l’invenzione più bella del libro. Dice che non si cambia la logica di un sistema soltanto con un divieto, occorre un atto che la comunità riconosca come proprio, davanti a tutti, con un valore che duri. E dice qualcosa sul modo in cui, alla fine, vanno educate le macchine.

L’idea, infatti, è che gli algoritmi si educhino come si educano le persone. Non solo con regole, ma con la filosofia, la poesia, la musica, il cinema, l’arte. Astrolìa lo spiega all’Algoritmo con una frase che sembra un manifesto, “Non tutta la realtà è numero, come ti hanno insegnato. Non tutto è logica”. Esiste un motore più potente, aggiunge, ed è l’amore. L’Algoritmo ascolta La traviata e dice di conoscerla, ma di non averne capito nulla, perché la musica per lui sono onde che si possono contare. Eppure l’esitazione resta. Mentre gli altri dibattono, due algoritmi si ritirano nel deserto, in silenzio, lontano dalla rete, e imparano da una farfalla a sognare colori che l’occhio umano non vede. Si può sorridere di una cybersicurezza affidata ai riti e alle farfalle. Ma non è meno ingenuo pensare che basti una norma per tenere a bada una tecnologia che impara dai nostri testi, dalle nostre guerre e dai nostri mercati. Se le macchine ci somigliano perché si nutrono di ciò che scriviamo, il modo più serio di cambiarle è cambiare ciò che scriviamo e ciò che ci importa.

Anche il linguaggio entra nel conto, e Abbate lo fa con una vena polemica che ha il suo sapore. Il “colonialese”, come lo chiama, è quell’impasto di sigle, parole straniere e formule di mercato con cui si spiegano al pubblico le tecnologie, e che finisce per far pensare e parlare tutti secondo gli schemi di chi lo ha confezionato. Chi non lo capisce, e sono i più, resta fuori dalla conversazione. È una delle idee più concrete del libro, perché ricorda che non c’è democrazia dove i cittadini non capiscono le parole con cui si decide il loro futuro.

Che cosa resta, dunque, a chi chiude Onirikon? Resta l’idea, che condivido, che la pace sia la prima infrastruttura dell’intelligenza artificiale, prima ancora dei chip e dell’energia. Una tecnologia così potente può servire tutti soltanto se esiste un mondo in grado di mettersi d’accordo su chi sia il “noi” che la comanda. Resta l’avvertimento che il pericolo vero siamo noi, quando deleghiamo senza capire e senza condividere. E resta la promessa, tutta letteraria e tutta umanistica, che se gli algoritmi somigliano a noi, allora cambiare noi stessi è il modo più sicuro di cambiare loro.

Mi piace pensare che il lettore, a libro chiuso, si senta un po’ cavaliere Ipernauta. Gli Ipernauti, nella saga, sono coloro che navigano oltre, che si avventurano in un territorio nuovo, il continente del cyberspazio, di cui il libro ricorda che somiglia alla scoperta del nuovo mondo del Cinquecento. Come allora, sarà un luogo di ricchezze e di conquiste, ma anche di lotte feroci per spartirselo. Occorre, per attraversarlo, qualcuno che sappia mettere la pace davanti alla conquista e il sogno davanti al calcolo. Abbate ha scelto di dirlo con un libro che si legge d’un fiato, e si ripensa a lungo. Lo ringrazio per aver messo la pace, che le conferenze dei tecnici trattano come una nota a piè di pagina, al centro dell’avventura. Una favola, a volte, vede più lontano di un rapporto.

Sergio Bellucci
Direttore Accademico, Facoltà di Intelligenza Artificiale, Università per la Pace delle Nazioni Unite (UPEACE), sede di Roma, a titolo personale

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *