By Marco Hugo Barsotti MHB 
Questo pezzo incredibile fu scritto molto prima dell’invenzione di ChatGPT e dell’intelligenza artificiale generativa, da un Umberto Eco che aveva già intuito tutto. Pubblicato nel 2010 su “La Bustina di Minerva”, il suo celebre spazio sull’Espresso, l’articolo immagina con quindici anni di anticipo esattamente il mondo in cui viviamo oggi.
La Bustina di Minerva — Umberto Eco
Un tempo occorrevano secoli perché una sciocchezza diventasse tradizione. Ora bastano tre pomeriggi e una macchina che ha letto troppo e capito poco.
Mi è capitato di leggere che alcuni ricercatori americani stanno lavorando a programmi capaci non di trovare parole in grandi archivi, cosa che Google già fa con risultati talora miracolosi e talora comici, ma di rispondere a domande formulate in linguaggio normale. Non so se la notizia sia vera, perché Internet ci consente ormai di verificare una notizia falsa consultando altri dieci siti che l’hanno copiata dalla stessa fonte; ma poniamo che sia vera.
Da quando esistono i calcolatori si fantastica sulla macchina intelligente e, poiché noi siamo intelligenti e abbiamo passioni e nevrosi, immaginiamo che una macchina, per esserlo davvero, debba prima o poi innamorarsi, ribellarsi o uccidere i propri costruttori. È il modello di HAL 9000, e funziona benissimo al cinema.
Sospetto invece che la macchina veramente interessante non sarà quella che vorrà ucciderci, bensì quella che saprà continuare una frase.
Immaginiamo che fra quindici o vent’anni esista un apparecchio collegato, attraverso qualche evoluzione della rete telefonica, a immense biblioteche elettroniche nelle quali siano stati riversati milioni di libri, giornali, enciclopedie e naturalmente sciocchezze. Gli faremo una domanda e quello costruirà una risposta.
Google, almeno per ora, ci dice dove potrebbero stare le risposte e ci costringe ancora a scegliere e capire; la nuova macchina ci darà invece direttamente la risposta. Se le domandassi chi fu il maestro di Tommaso d’Aquino, mi direbbe Alberto Magno; se poi le chiedessi che cosa pensasse Tommaso di Aristotele e di riassumere tutto per un ragazzo di quattordici anni, continuerebbe a rispondere senza perdere la pazienza.
E qui comincerebbero i problemi, perché la macchina non saprebbe chi fosse Tommaso d’Aquino nel senso in cui diciamo che un uomo sa qualcosa di Tommaso d’Aquino; avrebbe però incontrato tante volte parole come Tommaso, Aristotele, essere, essenza, Dio e Domenicani da poter produrre successioni di frasi estremamente plausibili.
Si obietterà che una successione plausibile di parole non è pensiero, e l’obiezione è rispettabile, anche se chiunque abbia partecipato a una riunione di facoltà sa che molti esseri umani riescono benissimo nella stessa impresa.
La faccenda diventa più interessante se domandiamo alla macchina qualcosa che non esiste. Poniamo che io le chieda notizie sul filosofo bizantino Teofrasto di Melitene, morto nel 1173 e autore di un De natura speculorum. Una macchina ben educata dovrebbe rispondere che non ne trova traccia; ma una macchina costruita soprattutto per produrre continuazioni plausibili potrebbe informarci che il trattato fu composto tra il 1158 e il 1162, che ne sopravvive un manoscritto alla Biblioteca Marciana e che fu citato da Michele Psello.
Psello era già morto, ma questo è un particolare.
Se poi chiedessimo la segnatura del manoscritto, potrebbe fornirne una falsa e perfettamente ben formata.
Le macchine non penseranno come noi. Ma scriveranno come noi.
Gli uomini hanno sempre prodotto falsi, ma per fare un buon falso bisognava conoscere molto bene il vero; la nuova macchina potrebbe invece democratizzare il falso, consentendo a una persona che non sa nulla di paleografia di fabbricare in pochi minuti una disputa erudita su un codice inesistente, note a piè di pagina comprese.
Ciò avrebbe effetti curiosi nella scuola. Lo studente a cui venisse assegnato un tema su Pascoli potrebbe chiedere alla macchina di scriverglielo e l’insegnante, almeno nei primi tempi, se ne accorgerebbe perché il testo sarebbe troppo corretto e pieno di frasi come «in conclusione possiamo dunque affermare». Gli insegnanti inventerebbero sistemi per riconoscere i testi artificiali, al che gli studenti chiederebbero semplicemente alla macchina di introdurre quattro errori, due banalità e un’opinione personale.
Se poi la macchina imparerà leggendo Internet, prima o poi leggerà testi prodotti da altre macchine. Una inventerà una sciocchezza, cento siti la riprenderanno, un’altra troverà quelle cento attestazioni e concluderà che la sciocchezza deve essere vera. Nel Medioevo occorrevano secoli perché una falsa reliquia producesse una tradizione; alla macchina potrebbero bastare tre pomeriggi.
Naturalmente sto fantasticando. Può darsi che nel 2030 i calcolatori siano ancora incapaci di scrivere una cartolina decente e probabilmente, se queste macchine arriveranno, saranno grossi apparecchi da scrivania, perché non riesco a immaginare che qualcuno possa desiderare di discutere di Aristotele attraverso un telefono.
Ma se arriveranno, il problema non sarà stabilire se pensino davvero, bensì capire che cosa accadrà quando ci saremo abituati a trattare come pensiero tutto ciò che possiede la forma esteriore del pensiero.
Il che, a ben vedere, non sarebbe una novità. Lo facciamo già con molti libri. E persino con qualche persona.