I segni non sono miracoli. E le macchine non sono più sagge di noi.

I segni non sono miracoli.

E le macchine non sono più sagge di noi.

 

Signs Are Not Wonders.

And machines are not wiser than us.

https://aurelien2022.substack.com/p/signs-are-not-wonders

 

Aurelien

Sep 09, 2026

 

Sono nato in un'epoca di miracoli e meraviglie, o almeno così sembrava.

Le automobili erano ancora piuttosto rare, soprattutto nei quartieri operai, ma i televisori si stavano lentamente diffondendo, con la loro affascinante, seppur sconcertante, capacità di proiettare immagini del mondo esterno su un piccolo schermo all'interno di un gigantesco mobile. I giornali pubblicavano articoli su aerei a reazione che trasportavano personaggi famosi in luoghi altrettanto famosi, sebbene il numero di questi velivoli che si potevano effettivamente vedere in volo fosse minuscolo rispetto agli standard odierni. E naturalmente i ragazzini di quell'epoca seguivano con il fiato sospeso i voli dei cosmonauti e degli astronauti, culminati nella celebrazione religiosa mondiale del volo dell'Apollo 11. Per i più appassionati di tecnologia, c'erano i radiotelescopi, l'energia nucleare, i nuovi antibiotici, il DNA e il Big Bang, tra le altre cose.

Le notizie scientifiche erano ovunque, anche sul nuovo mezzo di comunicazione televisivo, e il presupposto universale, seppur tacito, era che con lo sviluppo della tecnologia la vita quotidiana sarebbe diventata più facile e sicura per le persone comuni. Questo perché gran parte della ricerca scientifica era svolta dai governi e gran parte del resto da aziende a partecipazione statale. La figura dell'imprenditore tecnologico come un imbroglione interessato solo a fare soldi il più velocemente possibile era ancora lontana.

Ma a sovrastare tutte queste tecnologie, remota e inspiegabile, materia di sogni, fantasie e incubi, c'era la tecnologia di cui oggi voglio parlare per il suo significato culturale: il computer. Di tutte le entusiasmanti tecnologie del dopoguerra, i computer erano i più misteriosi, perché la maggior parte delle persone non aveva la minima idea di come funzionassero o di cosa facessero realmente. Per molto tempo, i computer sono stati una soluzione in cerca di un problema e, in un certo senso culturale, come vedremo, lo sono ancora. Dopotutto, gli aerei volavano; l'energia nucleare era un modo per produrre calore, gli antibiotici facevano guarire. Ma fin dall'inizio, i computer sono rimasti intrappolati in una nebbia concettuale, e ciò che veniva loro attribuito allora (come lo è ancora oggi) era sempre proiettato in un futuro lontano e sempre presentato in termini estremamente generici. Coloro che prevedevano grandi cose per loro spesso non erano molto esperti di tecnologia, e non era sempre chiaro come si sarebbero concretizzati i meravigliosi benefici promessi.

Eppure, fin dall'inizio, era chiaro che l'immaginario collettivo desiderava e al tempo stesso temeva qualcosa di completamente diverso dalle enormi e ingombranti macchine per l'elaborazione dati che esistevano realmente negli anni '60 e '70. Molti tecnologi e giornalisti, peraltro molto autorevoli, credevano che, qualunque cosa fosse, il suo arrivo fosse solo questione di tempo. Immaginavano macchine dotate di coscienza, che possedevano quella che oggi definiremmo, in modo fuorviante, "intelligenza artificiale". E queste macchine avrebbero compiuto grandi e meravigliose imprese, poiché sarebbero state più intelligenti di noi, ma anche – sebbene raramente si dicesse esplicitamente – più sagge di noi. E il desiderio di credere in macchine in grado di risolvere tutti i nostri problemi, e le fantastiche promesse che ne derivarono, non sono poi cambiate molto negli ultimi cinquanta o sessanta anni.

Non so se a quei tempi abbiate mai visto un computer. Quando ero uno studente di dottorato, il College ne aveva uno, che occupava diverse stanze, dove docenti e studenti potevano "noleggiare tempo di utilizzo del computer", ad esempio se dovevano modificare un testo. Non l'ho mai usato, ma so che c'era un rito di iniziazione simile a quello dei Rosacroce. Nel frattempo, chi studiava materie tecniche si aggirava con pile di carta verde e bianca e ti mostrava come, dopo molte e attente manovre, le enormi e rumorose stampanti a matrice di punti dell'epoca potessero produrre qualcosa che assomigliava vagamente all'immagine di una figura umana. Eppure, a quanto pare, queste macchine, non domani, ma dopodomani o dopodomani ancora, avrebbero dovuto gestire le nostre società.

Parte della discrepanza era di natura verbale. "Computer" è una parola inglese, un sostantivo derivato da "compute", che significa eseguire calcoli. Questo è ciò che facevano i primi modelli: gli inglesi usarono il primo vero computer operativo al mondo, il Colossus, per decifrare il codice Enigma tedesco durante la Seconda Guerra Mondiale. Dopo la guerra, gli inglesi, pragmatici e orientati al business, utilizzarono la tecnologia in rapida evoluzione non solo per continuare a decifrare codici e per la ricerca scientifica, ma anche per la gestione delle scorte, la logistica e la contabilità. Ancora lontani dal conquistare il mondo, certo, ma si trattava di una tecnologia che si stava espandendo in un vuoto nell'immaginario collettivo che doveva essere colmato da qualcosa .

Stranamente, la relazione è più chiara in francese, dove il termine equivalente è " Ordinateur ", coniato per la prima volta negli anni '50. Il significato letterale è qualcosa come "organizzatore" o "colui che porta ordine", e la parola ha affinità in inglese con "order" e, soprattutto, "ordain", come nel caso di un vescovo. In francese, la parola conserva il raro significato di qualcuno che esercita la disciplina all'interno della Chiesa. (Ah, forse ora iniziamo a capire qualcosa). È successo, e con una tempistica assolutamente perfetta, che il concetto di supercomputer, piuttosto che la realtà, sia arrivato proprio nel momento in cui la fede religiosa stava entrando in un rapido declino e dove, in particolare, l'autorità della Chiesa e degli interpreti della Bibbia veniva messa in discussione. (Questa relazione era più evidente nella disciplinata Francia cattolica che nell'anarchica Inghilterra protestante.) Di fatto, gli enormi computer dell'epoca erano chiese, i manuali operativi erano la Bibbia e le opere sacre, e il gran numero di dipendenti, dai programmatori più brillanti agli umili operatori, rappresentava la gerarchia del clero: un'idea che si ritrovava nei cliché della cultura popolare dell'epoca. Inutile dire che i mortali non potevano rivolgersi a queste macchine con un linguaggio che assomigliasse a quello di tutti i giorni, né comprenderne l'output senza qualcuno che lo interpretasse per loro.

Così, oltre all'effetto di spinta tecnologica dovuto al progresso tecnologico, vi fu un effetto di attrazione culturale, ovvero la richiesta di qualcosa che colmasse un vuoto intellettuale, ma anche spirituale ed etico. Questo vuoto era in parte legato al declino della religione, ma in realtà va oltre, riflettendo, riprendendo la discussione della scorsa settimana sul paganesimo, il bisogno di accedere a qualcosa di più saggio e potente di noi, in un mondo disincantato. Fin dall'inizio, quindi, c'è stato inevitabilmente un divario gigantesco tra ciò che si desidera e ciò che i computer sono effettivamente in grado di fare: un divario sfruttato fin da subito dagli appassionati di tecnologia e, più recentemente, anche dai truffatori. E con l'aumentare delle reali capacità dei computer, sono cresciute ancora più rapidamente le fantasie su ciò che avrebbero potuto realizzare.

Le due grandi influenze sul modo in cui i computer venivano percepiti dal grande pubblico, e in una certa misura lo sono ancora, sono state la fantascienza e le pubblicazioni di divulgazione scientifica. (La seconda era spesso ispirata dalla prima, piuttosto che il contrario). La fantascienza, come sostengo da tempo, è la mitologia dell'era tecnologica. In alcuni casi i parallelismi sono espliciti (in " 2001 : Odissea nello spazio", ad esempio, o in alcune opere di C.S. Lewis, Roger Zelazny o Gene Wolfe) o indiretti (i racconti apocalittici di J.G. Ballard e altri) o semplicemente pervasivi, come nel caso di elementi mitici quali poteri magici, fulmini e la capacità di volare. Nelle mani di maestri come Ballard, elementi allora moderni come i radiotelescopi che ricevevano misteriosi messaggi dalle stelle assumevano una vita mitica inquietante e indipendente, completamente slegata dalla monotona realtà quotidiana del lavoro scientifico.

Tra tutti i temi tradizionali della mitologia, e quindi della fantascienza, nessuno è più potente della ricerca della saggezza e della conoscenza del futuro, soprattutto del proprio destino. Questo può significare oracoli, divinazione (l' I Ching è stato paragonato a un semplice computer binario), libri profetici o profeti ispirati, ma anche, e più pertinentemente, statue parlanti, jinn, angeli e demoni, revenant e animali parlanti. Gran parte di tutto ciò, naturalmente, è stato assimilato nella letteratura mondiale, da Omero alla leggenda di Faust, ma ha trovato spazio anche nella fantascienza moderna, che ha utilizzato l'"Intelligenza Artificiale" come espediente narrativo ben prima che nascessero gli aspiranti geni dell'"IA" di oggi. Quasi fin dagli inizi, gli scrittori di fantascienza (molti dei quali scienziati) hanno semplicemente dato per scontato che, man mano che i computer di ogni tipo diventavano più complessi, si sarebbero automaticamente evoluti verso la coscienza: l'idea di base non è cambiata da allora. E, logicamente, man mano che queste macchine diventavano più grandi e complesse, si pensava che sarebbero diventate rapidamente più intelligenti degli esseri umani. Ma useranno questa conoscenza per il bene o per il male? Saranno più saggi di noi?

La letteratura sui computer come esseri dotati di proprietà o effetti divini richiederebbe un saggio a parte, ma a volte produce riflessioni ironiche, quasi borgesiane, sulla nostra tendenza a scaricare questioni morali ed etiche su qualsiasi contenitore comodo. L'esempio più famoso è probabilmente il racconto di Frederick Brown del 1954, " La risposta" , in cui gli scienziati collegano tutti i computer dell'Universo per porre la domanda "Esiste Dio?". "Ora sì", risponde bruscamente il sistema, fondendo i circuiti in modo da non poter essere mai spento. (Il racconto viene ovviamente parodiato nella " Guida galattica per gli autostoppisti" di Douglas Adams , dove gli scienziati costruiscono un computer chiamato Deep Thought che fornirà loro la risposta a "La vita, l'universo e tutto il resto". La risposta si rivela essere "quarantadue", il che è un peccato perché si erano dimenticati di specificare quale fosse la domanda).

Che siano prese sul serio o scherzose, tutte queste storie incorporano una domanda essenziale, presente nelle culture monoteistiche fin dalle origini: la conoscenza è sempre un bene? La storia del Giardino dell'Eden e del consumo del frutto proibito è stata interpretata in modi molto diversi, e suppongo che la nostra società moderna, liberale e basata sui diritti, si schiererebbe dalla parte di Adamo ed Eva, e di conseguenza si opporrebbe al divieto di mangiare il frutto dell'albero della vita e quindi di acquisire la conoscenza del Bene e del Male. Eppure, qui si è sempre presentato un problema concettuale, poiché il Bene e il Male sono in definitiva giudizi di valore, per quanto ben fondati possiamo ritenerli in un dato caso, e non qualcosa che si possa ridurre a semplice "conoscenza" empirica. In effetti, la storia può essere vista come un'allegoria dei tentativi umani di arrogarsi il diritto di formulare giudizi morali assoluti indipendentemente da un potere trascendente. (Cambiare l'argomentazione limitandosi ad affermare che esiste una differenza non semplifica di molto la questione.) L'esperienza suggerisce che, nella migliore delle ipotesi, i giudizi umani sul Bene e sul Male sono complessi, ma una volta che la fede in un creatore divino scompare, non c'è altra opzione. In altre parole, siamo tutti discendenti di Adamo ed Eva ed eredi della loro scelta di formulare giudizi puramente umani sul Bene e sul Male. Sfortunatamente, la storia suggerisce che non siamo molto bravi in ​​questo, e quindi cerchiamo dei sostituti di Dio che lo facciano per noi.

Oggi abbiamo qualche difficoltà ad accettare il concetto stesso di conoscenza proibita, e anzi lo consideriamo un affronto al nostro ego e un perverso incentivo a scoprire ciò che non dovremmo sapere. Di tanto in tanto, solitamente verso la metà di agosto di ogni anno, qualcuno si chiede ad alta voce se non sarebbe stato meglio se la fisica atomica non fosse mai stata sviluppata come campo di studio. Ed è comune lamentarsi degli effetti negativi delle scoperte tecnologiche, dalla plastica ai chip di silicio. Ma, con pochissime eccezioni (la ricerca sul guadagno di funzione dei virus, ad esempio), è insolito sostenere che la ricerca della conoscenza debba essere controllata o che certi tipi di ricerca debbano essere attivamente vietati. (Non mi riferisco, ovviamente, alla ricerca che potrebbe produrre conclusioni politicamente impopolari).

È quindi significativo che l'unico ambito in cui un gran numero di esperti e non esperti abbia suggerito di rallentare, o addirittura interrompere, la ricerca sia proprio quello noto con stancante prevedibilità come "Intelligenza Artificiale". E anche qui, ancora una volta, ciò che spaventa le persone non sono tanto le effettive capacità dei sistemi informatici odierni, quanto piuttosto il modo in cui potrebbero potenzialmente evolversi in futuro, qualora le previsioni fatte negli ultimi settantacinque anni si avverassero. Di fatto, e per la prima volta da molto tempo, si comincia a temere che la ricerca della conoscenza infinita non comporti alcuni piccoli potenziali svantaggi. (Ricorderete forse che nel "Dottor Faustus" di Marlowe , le ultime parole del protagonista mentre viene trascinato all'inferno sono "Brucerò i miei libri!"). Se i governi e le aziende private debbano essere autorizzati a possedere una conoscenza infinita sui cittadini è di per sé un argomento di acceso dibattito.

Certo, alcuni di questi problemi esistono già da tempo. Molti derivano dall'erronea convinzione che l'“Intelligenza Artificiale” sia già una realtà, e dalla conseguente tendenza ad antropomorfizzare il comportamento dei programmi per computer, argomento su cui tornerò tra un attimo. Me ne accorsi per la prima volta circa quarant'anni fa, lavorando con la prima generazione di computer installati negli uffici governativi in ​​Gran Bretagna. Per darvi un'idea del contesto, basti dire che il sistema operativo era più difficile da usare di CP/M, e che il computer stesso, con il suo enorme disco rigido da 20 MB e la stampante che faceva un rumore simile a quello di un trapano pneumatico, doveva essere tenuto in una stanza separata. La macchina era un dio capriccioso, che ti puniva arbitrariamente per un minuscolo errore di sintassi e, occasionalmente, si rifiutava di comunicare per ore, semplicemente perché ne aveva voglia. Quando il sistema smetteva di funzionare, le persone si radunavano intorno al terminale da cui proveniva il problema, grattandosi il mento e dicendo cose come "hai provato...?" Non c'era stata alcuna formazione, perché a quei tempi non esistevano istruttori, e nient'altro che un opuscolo del produttore, che ometteva tutto ciò che si sarebbe potuto effettivamente voler sapere. (Suppongo che da qui derivi la vecchia battuta: se tutto il resto fallisce, leggi il manuale).

Ma in uno di quei giorni in cui la macchina sembrava finalmente collaborare, e io ero tranquillamente impegnato a lavorare su un foglio di calcolo, un dirigente di altissimo livello per cui lavoravamo entrò in ufficio e sbirciò oltre la mia spalla. "Ah-ha", disse scherzosamente, "quindi la tua macchina mi dirà come gestire il bilancio?". Ma non potevo biasimarlo. Tutta la cultura popolare fino a quel momento – 2001 : Odissea nello spazio , Star Trek, Doctor Who e molti altri – aveva incoraggiato questa visione, proprio perché c'era un enorme vuoto intellettuale da colmare; quindi l'idea di un computer in grado di gestire autonomamente i bilanci governativi era sufficientemente attraente da assumere, col tempo, una vita simbolica e mitica propria. Questo accadeva anche all'inizio del periodo in cui i computer venivano ampiamente diffusi sulle scrivanie individuali, spesso senza una chiara idea di come sarebbero stati utilizzati, anticipando con precisione l'ottimismo fatufo e la visione a breve termine degli odierni sostenitori dell'"intelligenza artificiale". Era un'epoca in cui si potevano ancora usare frasi come "gli studi sui computer dimostrano che...". con un'espressione impassibile.

Il Tesoro britannico, ovviamente (il cui motto non ufficiale era "un soldo risparmiato è un fine in sé"), colse immediatamente l'opportunità di risparmiare anche i più piccoli. Decine di migliaia di posti di lavoro qualificati potevano essere "salvati" (ovvero persi), si illudevano, e ora tutti potevano scrivere al computer. I risultati furono prevedibili: invece di impiegare cinque minuti per dettare una lettera, persone di alto livello ne impiegavano un'ora a digitarla faticosamente, cercando di formattarla, scoprendo che il testo traboccava sulla pagina successiva di una sola riga, dimenticandosi poi di salvarla o salvandola nel posto sbagliato e non riuscendo più a trovarla. Dato che avevo la reputazione di essere un po' meno analfabeta informatico della media, la gente mi si avvicinava, con la faccia pallida, dicendo: "Credo di aver perso il documento di tre pagine su cui stavo lavorando. È sparito dallo schermo". Non proprio un risultato impressionante per una tecnologia che avrebbe dovuto conquistare il mondo, e in effetti non sorprende che gli studi sulle prove di un aumento della produttività grazie alle tecnologie informatiche non siano generalmente riusciti a trovarne alcuna. Questo era un problema che si sarebbe dovuto risolvere da solo nel corso delle generazioni, ma di fatto non è successo, soprattutto perché i produttori di software e computer hanno continuato ad aggiungere funzionalità e caratteristiche una sull'altra per giustificare nuove versioni e nuovi prezzi. (Per motivi professionali, un paio d'anni fa sono stato costretto a scaricare l'ultima versione di Microsoft Office, che ero riuscito a evitare di usare per un po' di tempo, e ho passato diversi minuti a guardare l'interfaccia di Word, sopraffatto da una sorta di orrore paralizzante). Tutto lascia pensare che la stessa cosa accada con l'"intelligenza artificiale".

Ammetto di essermi già macchiato di antropomorfismo, cosa praticamente impossibile da evitare quando si ha a che fare con una tecnologia che attraversa processi visibili e produce in output parole e numeri. Ma se a quei tempi dovevi lottare con quei dannati computer, almeno capivi che non c'era davvero un omino lì dentro a fare tutto. Oggi, nonostante la maggior parte delle persone appartenga teoricamente alla "generazione informatica", l'antropomorfismo inconscio è ancora più forte, a causa dei tentativi di rendere i computer più "amichevoli", con un'interfaccia teoricamente comprensibile e persino con invadenti menu "Aiuto", che sostituiscono il micidiale prompt "C:\>" su uno schermo vuoto di trent'anni fa. (Ai tempi, ogni tanto entravo nei negozi di computer e, per puro divertimento, digitavo "qual è il senso della vita?" al prompt. Non sorprende che il computer rispondesse "errore di sintassi").

Sono assolutamente a favore delle interfacce intuitive e della facilità d'uso (sono un utente Mac entusiasta praticamente dagli albori di OS X), ma il problema è che, man mano che i computer sono diventati in grado di fare sempre più cose, le persone hanno iniziato a credere sempre di più di poter fare qualsiasi cosa, e meglio di noi. Da qui il panico attuale sull'"IA fuori controllo" e sull'"apocalisse dell'IA", entrambi frutto di marketing e diretti eredi della letteratura sui pericoli dell'eccessiva ricerca della conoscenza, che risale a migliaia di anni fa. La differenza è che, mentre i jinn e le teste parlanti erano pura magia e basta, i moderni oracoli dell'"IA" dovrebbero funzionare secondo leggi scientifiche. Ma questo non impedisce alle persone di attribuire loro qualità umane inesistenti, o di trattare i loro risultati come intelligenti, tanto sono disperate alla ricerca della verità sulla Vita, l'Universo e Tutto quanto.

Ora, io non sono un informatico, ma Cal Newport lo è, e ha spiegato in sostanza cosa sta succedendo. I modelli linguistici di grandi dimensioni (perché di questo si tratta), inclusi i programmi che forniscono istruzioni ad altri programmi per agire, sono limitati a descrivere le proprie azioni e a fornire istruzioni basate su formule verbali su cui sono stati addestrati. Se il materiale di addestramento include molta fantascienza, comprese storie di computer che conquistano il mondo, allora i risultati non sono difficili da intuire. Se i dati di addestramento fossero limitati, ad esempio, alle opere di Platone e dei suoi seguaci, si otterrebbe un output di tipo diverso.

Nessuna di queste ipotesi risolve realmente la questione fondamentale : vogliamo davvero che qualcosa o qualche macchina possieda una conoscenza infinita? In effetti, probabilmente la questione non può essere risolta in modo soddisfacente, perché le nostre sensazioni al riguardo dipenderanno quasi interamente dal contesto in cui si pone. Se in una determinata area si verificasse un omicidio, e tutti i telefoni cellulari presenti venissero registrati, e i loro proprietari confrontati con le identificazioni dei passanti tramite software di riconoscimento facciale e con i dati dei servizi di intelligence criminale, e se questo producesse una breve lista di cinque persone, una delle quali risultasse essere l'assassino, beh, crimine risolto. Ottima idea. Ma supponiamo che tu ti trovassi in quella zona e che il tuo telefono fosse tra quelli rilevati, ma che tu venissi controllato automaticamente e scartato senza alcun intervento umano. Potresti affermare che i tuoi diritti siano stati violati da un codice informatico quando né tu né la persona che ha effettuato la ricerca eravate a conoscenza della tua presenza nella lista?

Non lo so, ma mi preoccupano le tentazioni faustiane a cui l'intelligenza artificiale (IA) darà origine, soprattutto quando persone influenti ma disinformate si convinceranno che l'IA possa fare un lavoro migliore e più accurato degli esseri umani. Questo non è generalmente vero, ovviamente, al di fuori di settori specialistici, a meno che non si definisca "migliore" come "più veloce e quindi più conveniente". Ma l'IA conosce solo ciò che le è stato detto ed è per definizione in grado di produrre solo risultati probabilistici. Ecco perché il suo apparente utilizzo per la definizione degli obiettivi nei conflitti armati è così preoccupante: anche il processo decisionale umano non è perfetto, ma richiede un vero e proprio pensiero e un processo decisionale esplicito. Dopotutto, uno dei problemi dell'IA e dei suoi predecessori è sempre stata la precisione spuria e ingannevole dei suoi risultati, in alcuni casi fino alla cifra decimale. Ricorderete forse i tentativi di modellare al computer la guerra del Vietnam, che produssero risultati spazzatura estremamente dettagliati e convincenti, frutto ovviamente di input spazzatura.

Si può avere troppa informazione o troppa conoscenza? Ci sono domande che non andrebbero poste? L'era dell'"IA" ha improvvisamente reso queste domande tradizionali profondamente attuali e, naturalmente, non possediamo più il quadro intellettuale per affrontarle adeguatamente, motivo per cui il "dibattito" pubblico oscilla tra entusiasmo, compiacimento e panico senza una logica precisa. Faustus, ricorderete, voleva sapere tutto , e non è fantasioso supporre che i governi moderni, per quanto malconci e impopolari, si addentreranno sempre più nella raccolta di massa di dati e in ciò che considerano "IA", nel tentativo di compensare il profondo senso di insicurezza che sicuramente provano. Storicamente, come un tossicodipendente che aumenta la dose, i governi hanno teso a credere di poter compensare la propria inettitudine acquisendo sempre più informazioni, fino a esserne sommersi. Avevano dimenticato, ovviamente, che l'informazione di per sé non significa nulla, che ciò che serve perché sia ​​utile è l'analisi e l'organizzazione. Ecco che entra in gioco l'intelligenza artificiale, che fa la promessa entusiasmante ma illusoria di estrarre rapidamente il segnale dal rumore, ma che in realtà non è in grado di farlo con sufficiente affidabilità, nemmeno in linea di principio. Ma in ambito governativo, uno strumento che affronta un problema, o almeno dà l'impressione che un problema venga affrontato, è una risorsa troppo preziosa per rinunciarvi con leggerezza.

Se l'informazione sia sinonimo di conoscenza o se necessariamente conduca ad essa, se più informazioni siano sempre meglio, se esistano davvero cose che non dovremmo sapere e che sarebbe pericoloso scoprire, sono tutte domande da affrontare in un altro momento. Qui, vorrei solo ricordare che, in termini pratici, sia nella vita quotidiana che in questioni più complesse, a volte ci rendiamo conto che, dopotutto, ci sono cose che vorremmo non aver mai imparato. "Dopo una tale conoscenza", si chiedeva T.S. Eliot un secolo fa in Gerontion , "quale perdono?" (Lo scrittore di fantascienza americano James Blish ha scritto una tetralogia su questo tema, intitolata After Such Knowledge (1958-71), e C.S. Lewis ha riproposto la storia del Giardino dell'Eden in Perelandra (1943)). In questo contesto, è curioso che Eliot, in Gerontion , suggerisca che "I segni vengono scambiati per prodigi". Quale epitaffio migliore si potrebbe dare all'"intelligenza artificiale"?

Ripeto, le fantasie che creiamo attorno all'"IA" non sono generate dalle virtù reali o ragionevolmente prevedibili della tecnologia in sé, ma da vuoti esistenziali nella nostra cultura che rimangono dolorosamente incolmati. Uno di questi, il desiderio di conoscenza o almeno di informazione, l'ho già trattato a sufficienza. Ma c'è anche l'idea correlata ma distinta di Saggezza. Le due, sebbene entrambe molto antiche, si riferiscono a cose sottilmente diverse. "Conoscenza" ha sempre avuto il significato più tecnico di "consapevolezza delle cose", mentre "saggezza" ha sempre avuto un elemento normativo, di giusto giudizio in una data situazione o su un argomento specifico. Quindi parliamo di "un pezzo di conoscenza" come qualcosa di essenzialmente contingente e temporaneo, mentre "un pezzo di saggezza" è qualcosa da ricordare per il futuro. (Sarebbe bello se l'una portasse necessariamente all'altra, ma non è necessariamente così.) Parliamo della Saggezza di Salomone, non solo della Conoscenza di Salomone, sebbene egli possedesse chiaramente entrambe. Così, nella famosa storia biblica del Giudizio di Salomone, narrata nel Primo Libro dei Re, Salomone affida la custodia di un bambino conteso, rivendicato come proprio da due madri rivali, alla donna disposta a rinunciare al bambino piuttosto che vederlo diviso a metà, perché presumibilmente è lei ad amarlo. Questa storia, che trae origine dalla mitologia e dai racconti popolari di tutta la regione e compare in tutte le religioni monoteiste, narra essenzialmente di Salomone come abile conoscitore dell'animo umano e della sua saggia decisione. Dopotutto, non c'era modo di sapere con certezza quale delle due donne fosse la madre.

Questa è saggezza, ed è qualcosa di cui la nostra società ha disperatamente bisogno. Non si tratta solo di conoscenza, vera o falsa, non si tratta solo di "fatti", giusti o sbagliati, o di "competenza", qualunque cosa essa sia esattamente. È qualcosa di difficile da acquisire senza esperienza ed età, cosa che oggigiorno è difficile da ammettere, e dipende da relazioni gerarchiche e dalla volontà di imparare, elementi che non fanno parte della nostra cultura attuale. Ma questo non significa che respingiamo la saggezza: tutt'altro. Possiamo voltare le spalle ai genitori, agli anziani, alle scuole, alle istituzioni e simili, ma istintivamente cerchiamo comunque figure autorevoli che sappiano, o almeno sembrino sapere, come fare le cose e cosa fare. A volte questo ha un senso logico. Su YouTube, ad esempio (e tralasciando tutti i siti politici polemici e marginali), ci sono innumerevoli siti pragmaticamente utili gestiti da persone con molta esperienza pratica e un talento per la comunicazione, per quei momenti in cui le istruzioni fornite con i mobili da montare che abbiamo ordinato sono incomprensibili in qualsiasi lingua. Potreste dire che si tratta di nozioni banali, ma esistono anche siti che insegnano, ad esempio, ciò che vostro nonno ha insegnato a vostro padre sulla lavorazione del legno, sulla gestione del denaro o su come rapportarsi con l'autorità, ma che voi non avete mai imparato perché i vostri genitori si sono separati quando eravate piccoli e non andavate d'accordo con nessuno dei vostri patrigni.

Questo, ma in versione potenziata e in tutti i campi, è ciò che vogliamo dall'"IA", e alcune persone sono così ingenue da credere di poterlo ottenere. In un mondo di gerarchie abbandonate e autorità decostruita, desideriamo qualcosa che funga da guida e interlocutore affidabile per aiutarci a risolvere i nostri problemi personali e professionali, senza la sensazione di sacrificare nulla del nostro Ego nel processo. La tecnologia dell'"IA" è tale che qualsiasi risposta a qualsiasi domanda su qualsiasi argomento ha lo stesso livello di verosimiglianza apparente, ma in realtà ha livelli di accuratezza e utilità del tutto imprevedibili e inconoscibili. Tra tutti i guru su Internet che ti dicono come vivere la tua vita (e ce ne sono alcuni validi, ammettiamolo) presto ci saranno molte figure generate dall'"IA" di utilità più o meno elevata, programmate con qualsiasi cosa, dalle opere complete del Buddha o di Tommaso d'Aquino fino, beh, al Mein Kampf. Non so se esistano già psicologi e psicoterapeuti "IA" interattivi online (anche se i bot esistono di certo), ma se non esistono ancora, esisteranno presto e sarà impossibile controllarne l'utilizzo.

Fin dagli albori dell'era informatica, gli esseri umani hanno fantasticato su macchine infinitamente più intelligenti di loro, e quindi più sagge e capaci di guidare e persino dirigere la vita umana. In termini di cultura popolare, l'esempio classico è la serie di romanzi "Culture" di Iain M. Banks, purtroppo scomparso alcuni anni fa. I romanzi narrano le vicende di una specie umanoide spaziale la cui esistenza dipende interamente da Menti benevole, incredibilmente complesse e potenti, che si assumono la responsabilità di praticamente tutto ciò che ha una certa importanza, lasciando ai cittadini della Cultura ben poco da fare se non godersi la vita. (In effetti, trovare qualcosa di interessante da far fare agli umani nei libri rappresentava una sfida continua per Banks nello sviluppo delle sue trame: da qui la creazione di una serie di specie aliene sgradevoli e pericolose con cui fare i conti).

Per quanto mi siano piaciuti i libri della serie "Culture", l'aspetto che emerge con maggiore chiarezza (come ho già fatto notare qualche anno fa) è che i personaggi sono fondamentalmente tutti bambini, i cui desideri vengono appagati all'istante. Non c'è quindi da stupirsi che la noia sia uno dei principali problemi della Cultura, e che i suoi cittadini più riflessivi si dedichino alle Buone Opere su altri pianeti, cercando di guidarli verso la civiltà. Ma Banks iniziò a scrivere i libri della Cultura ai tempi di MS-DOS (ora sciacquatevi la bocca), quando l'idea di un'intelligenza artificiale in grado di fare tutto per noi era essenzialmente pura fantasia. Ora, se crediamo agli entusiasti, è proprio dietro l'angolo. Ci troveremo in un mondo in cui tutto ciò che è difficile verrà fatto per noi da altri. Torneremo allo stadio di bambini preadolescenti, per i quali i genitori sono esseri onnipotenti che fanno tutto per loro e risolvono tutti i loro problemi. Si dice spesso che l'intelligenza artificiale ci "permetterà di fare" questo o quello. Nella migliore delle ipotesi, si tratta di una semplificazione eccessiva. In generale, permetterà alle macchine di svolgere determinate attività al posto nostro , anziché costringerci a imparare a farle da soli.

In questo senso, non sorprende affatto che i primi usi dell'"IA" siano stati per imbrogliare e ingannare. Chi non avrebbe voluto che qualcuno facesse i compiti al posto nostro? Chi non avrebbe voluto che qualcuno scrivesse per noi una candidatura di lavoro impeccabile? Ad alcuni, almeno, non sarebbe piaciuto conseguire un dottorato senza dover lavorare? Ad altri non sarebbe piaciuto un romanzo o una composizione musicale da poter spacciare per propri, guadagnandoci sopra? Tutto questo senza fare alcun lavoro effettivo, secondo i migliori principi neoliberisti. Il risultato più ovvio dell'uso diffuso dell'"IA", anche nel suo attuale stato deplorevole, sarà quindi un massiccio dequalificamento della popolazione, a favore di tecnologie e processi che "fanno il lavoro" per noi, ma che non sono comunque abbastanza precisi e aggiornati da rendere realmente utili le produzioni di quel mondo dequalificato. Avrò avuto dieci anni quando un insegnante delle elementari disse che insegnare matematica aveva sempre meno senso, perché presto avremmo usato tutti le calcolatrici tascabili. Beh, in parte era vero, ma si è scoperto che, con l'uso su larga scala di tali dispositivi, le competenze matematiche a livelli avanzati sono diminuite drasticamente negli ultimi decenni. Questo è probabilmente un presagio per il futuro.

Le menti nei romanzi di Banks sono funzionalmente indistinguibili dal tipo di divinità di cui ho scritto la settimana scorsa, e naturalmente il rischio maggiore, ma in gran parte non discusso, è che alla fine trasformeremo l'intelligenza artificiale in un Dio Creatore sostitutivo, del tipo che abbiamo formalmente bandito nel mondo occidentale. Come ha fatto notare Alasdair McIntyre, guarda caso proprio all'inizio dell'era della fantasia dell'IA, gli esseri umani si sono dimostrati incapaci di elaborare schemi etici generali che possano sostituire Dio. Non è poi così strano, se ci pensiamo: possiamo immaginare che il gruppo sia collettivamente più sapiente del singolo, ma è molto più difficile immaginare che il gruppo sia in qualche modo eticamente superiore. Eppure, come ha descritto con eloquenza David Bentley Hart , una spiegazione puramente materialistica della Vita, dell'Universo e di Tutto si disintegra necessariamente non appena viene tentata. Suppongo che si potrebbe altrettanto bene aspettarsi che un gruppo di pulci sul panciotto di Mozart discuta in modo intelligente della struttura tonale del Flauto Magico .

L'idea che esistano aspetti dell'universo, e persino del suo perché, che gli esseri umani non potranno mai conoscere, si scontra con l'etica egoistica del liberalismo. L'idea che da qualche parte, qualche Essere, possa conoscere cose che noi non potremo mai conoscere è psicologicamente inaccettabile, e questo probabilmente spiega il declino delle religioni organizzate più di qualsiasi altro fattore. Ed è difficile immaginare come gli esseri umani possano costruire un sistema di pensiero, per non parlare di una semplice macchina, in grado di comprendere veramente cose di cui loro stessi sono incapaci. Ed ecco che entra in gioco, per l'ultima volta, la magia dell'"IA", che può fornire l'illusione di questa comprensione e, inoltre, ci consolerà dandoci tutte le risposte che desideriamo, senza alcuno sforzo intellettuale o morale da parte nostra. Senza dubbio esistono già culti religiosi basati sull'"IA"; possiamo presumere che ce ne saranno molti altri, e tutto ciò che dovremo fare sarà adorare e obbedire.

Forse i figli dei nostri figli non cresceranno mai.