Non solo architetti e oracoli: il nuovo libro di Gino Roncaglia

Nel nuovo libro appena pubblicato da Laterza, L’architetto e l’oracolo. Forme digitali del sapere da Wikipedia a ChatGPT, Gino Roncaglia (docente di Editoria digitale, Informatica umanistica e Filosofia dell’informazione presso l’Università Roma Tre) riparte da un suo precedente fortunato testo: La quarta rivoluzione dove esaminava la storia del libro, in particolare osservando pregi e difetti dell’evoluzione verso il digitale. In L’architetto e l’oracolo la visuale si sposta all’organizzazione della conoscenza partendo dalla suggestione relativa al “cervello mondiale” preconizzato da H.G. Wells nel 1938: un’enciclopedia mondiale come strumento conoscitivo e politico a supporto del superamento degli stati nazionali. Roncaglia mostra come si è evoluto il paradigma enciclopedico prima con la digitalizzazione, poi con il modello aperto e collaborativo di Wikipedia per confluire in formati come DBpedia pensati per la consultazione di agenti software (tipo Siri o Cortana). Tale evoluzione si muove in parallelo con gli strumenti di indicizzazione dei documenti realizzati a livello bibliotecario, anche questi potenziati dalla digitalizzazione, con ontologie che permettono di “ordinare” i documenti della rete in un web semantico attraverso i Linked Open Data.

Questo sforzo, in gran parte automatizzato (i metadati si creano assieme ai documenti), si scontra comunque con la sempre più massiccia creazione di dati. Di fronte però al lavoro di ordinamento e costruzione delle cattedrali del sapere (enciclopedie e biblioteche) svolto dall’“architetto”, da qualche tempo c’è un nuovo soggetto, l’“oracolo”, che prende la massa “informe” dei dati e li ricombina in forma comprensibile. L’“oracolo” sono le IA generative come ChatGPT. Roncaglia riprende consapevolmente le metafore di “architetto” e “oracolo” da Matrix: nell’opera delle Wachowski solo in apparenza i fini dei due personaggi sono antitetici, dato che Matrix per continuare a funzionare deve essere periodicamente resettata e ricostruita e se la costruzione è compito dell’architetto, quella di trovare l’eletto che la resetti è invece dell’oracolo. Allo stesso modo l’immane compito di ordinare la conoscenza per renderla fruibile non è per Roncaglia in contrasto con i risultati, pure problematici, delle intelligenze artificiali che già stanno compiendo compiti in ambiti specifici (tecnico-scientifico) ma che promettono di arrivare anche in ambito umanistico, ad esempio “automatizzando” la traduzione dei testi, la correzione delle bozze, ecc.

Benché lo sviluppo di tale relazione non sia ancora pienamente immaginabile, Roncaglia porta i suoi lettori a tentare di immaginarlo attraverso tre opere di fantascienza: il ciclo della Fondazione di Isaac Asimov, Snow Crash di Neal Stephenson e Virtual Librarian di Ted e Bob Rockwell. Se Asimov presenta il rimedio al caos seguente alla caduta dell’impero galattico nella forma di doppia Fondazione costituita da enciclopedia e biblioteca, sia Stephenson sia i Rockwell (padre e figlio, il primo fisico del progetto Manhattan e il secondo programmatore di Realtà Virtuale) ipotizzano bibliotecari virtuali che progressivamente si “umanizzano” grazie all’utilizzo delle conoscenze che ordinano. In qualche modo il destino della capacità umana di organizzare la conoscenza non è né scritto né chiaro, ma sempre più legato alla mediazione e conversazione con entità “artificiali”, con un approccio alla conoscenza che progressivamente si allontana da quello che conosciamo e che pure noi stessi esseri umani abbiamo creato perché fossero in grado di assisterci.

Fin qui la presentazione preparata per il Manifesto immediatamente dopo la pubblicazione del libro e purtroppo rimasta nel cassetto redazionale. La misura richiesta tuttavia – 3.500 battute – non consentiva analisi o commenti approfonditi. Dato che ora – dopo circa un mese e mezzo – mi consolo pubblicando la presentazione sul blog, mi permetto di ampliarla aggiungendo alle immagini che già l’autore ha ripreso dalla fantascienza, due ulteriori suggestioni: una di natura ottimistica ed una di natura profondamente pessimistica.

La suggestione ottimistica arriva da un autore già citato da Roncaglia, ma prendendo una sua diversa opera: Neal Stephenson L'era del diamante. Il sussidiario illustrato della giovinetta (Shake, 1997). Di questo libro avevo già scritto vent’anni fa su BiblioTime. Sostanzialmente Stephenson immagina una società del prossimo futuro in cui si è drammaticamente approfondito il divario tra i pochi ricchi e la gran massa della popolazione indigente. Mentre il popolo ha a che fare con una tecnologia invasiva e oppressiva, i ricchi si ridisegnano il mondo ad immagine di secoli passati, come se vivessero in un Settecento o in un primo Ottocento steampunk. Ed uno di questi super-ricchi fa realizzare per la propria figlia un “sussidiario illustrato”, che in realtà è una raccolta di tutto lo scibile disponibile con un agente software (una IA, diremmo oggi) in grado di proporre alla bambina il percorso formativo ideale per le sue esigenze e capacità. Senonché tale dispositivo viene rubato, crackato e messo a disposizione per tutta la popolazione, trasformandosi in strumento per riequilibrare le condizioni sociali. Un dispositivo come quello immaginato da Stephenson, con i prodigi delle intelligenze artificiali, non sembra più oggi così fantascientifico. Il problema forse non è più tanto il come realizzarlo, ma piuttosto il chi potrebbe investire in un’opera del genere.

La suggestione pessimistica è riassunta in una sola parola: Skynet. La IA militare che si ribella e decide di sterminare tutto il genere umano nella serie cinematografica Terminator. In realtà questa prospettiva è tutt’altro che remota o irrealistica. Pensiamo ad esempio che la fortuna dei videogiochi arriva anche grazie ai cospicui investimenti del settore militare in ambito realtà virtuale, ad esempio nei simulatori di volo per addestrare i piloti o negli sparatutto in prima persona con cui non solo addestrare i militari, ma anche trovare reclute, ad esempio tra i campioni del gioco multiplayer gratuito America’s Army realizzato direttamente per conto dell’Esercito statunitense. E, dato che i conflitti si stanno sempre più “virtualizzando”, al controllo a distanza di un drone lanciato per colpire obiettivi non sempre definiti (ad esempio possibili terroristi all’interno di un contesto urbano, come nel serious game September 12th di Gonzalo Frasca) dove mentre un “pilota” remoto umano potrebbe farsi frenare da scrupoli di coscienza, una IA non avrebbe questi “problemi”. E, del resto, è quanto già ora succede, ad esempio nella Striscia di Gaza dove – come riportato da ValigiaBlu – l’esercito israeliano utilizza IA per massimizzare i danni alle infrastrutture di Hamas pur nella consapevolezza delle vittime civili causate. Ora non arrivo forse ad immaginare che queste IA si sveglino un giorno decise a sterminare la razza umana, tuttavia è da chiedersi quali saranno gli esiti di questa dis-umanizzazione dei conflitti, dove a decidere chi sarà ucciso non è più una persona coi suoi limiti, ma anche con le sue risorse morali, ma invece una macchina evidentemente priva, nel bene e nel male, di tali limitazioni.

Gino Roncaglia