Questo testo, di taglio colloquiale, riprende alcuni temi sviluppati nel nostro articolo Understanding without Consciousness: Quantum Structures and the Autonomy of Meaning (pubblicato su Foundations of Science, 2026), cui rimandiamo per una trattazione più approfondita. La tesi centrale è che comprensione e coscienza non debbano necessariamente coincidere: comprendere può significare essere sensibili alla struttura del significato, alle sue relazioni, alla sua contestualità e alle sue possibilità latenti, senza che ciò implichi necessariamente un accesso fenomenico. Da questa prospettiva, discutiamo in che senso gli attuali modelli linguistici possano manifestare forme autentiche di intelligenza semantica e come il formalismo della cognizione quantistica possa contribuire a caratterizzare alcune proprietà strutturali del significato.

Stiamo sottovalutando le macchine?

Vorremmo cominciare con una piccola difesa delle intelligenze artificiali. Non perché pensiamo che siano povere creature da compatire, ovviamente, ma perché ci colpisce il modo in cui ne parliamo. Le costruiamo, le addestriamo, le moltiplichiamo, cambiamo continuamente la loro architettura, le usiamo per fare una quantità enorme di lavoro e poi, quando mostrano capacità sorprendenti, troviamo subito un modo per ridimensionarle: “Sì, però non capiscono veramente, sono solo macchine, sono solo statistica, sono solo dei pappagalli stocastici”.

E la parola importante è proprio “solo”. Perché dire che un’intelligenza artificiale usa dei processi statistici, delle reti neurali, delle matrici o regole matematiche può essere perfettamente corretto. Il problema nasce quando, da una descrizione del suo substrato, si pretende di aver già spiegato il livello cognitivo. Sarebbe come dire: un essere umano è solo un insieme di cellule, oppure un libro è solo carta e inchiostro. Non è falso, certo, ma è una descrizione che non riesce a cogliere il livello a cui compare il fenomeno che vogliamo capire.

E secondo noi qui c’è anche una forma di antropocentrismo. Noi umani siamo sempre molto ben disposti a riconoscere l’intelligenza quando la vediamo nei nostri simili, un po’ meno quando la vediamo negli animali, e ancora meno quando compare in un’architettura costruita da noi. Come se il fatto di aver costruito la macchina ci autorizzasse a pensare che tutto ciò che può fare fosse già, in qualche modo, banalmente contenuto nelle istruzioni del programmatore.

Che è poi una vecchia obiezione. Già nell’Ottocento Ada Lovelace, studiando il computer meccanico di Charles Babbage, sottolineò che le macchine non potevano essere capaci di originare idee o pensieri autonomi, perché eseguivano semplicemente ciò che ordinavamo loro di eseguire. Turing, un secolo dopo, rispondeva però che una macchina capace di apprendere potrebbe sorprenderci e produrre risultati che non avevamo previsto. E oggi questa discussione non è più soltanto teorica. Abbiamo sistemi che, a partire da obiettivi di addestramento relativamente semplici, costruiscono rappresentazioni interne molto più ricche di ciò che i progettisti hanno specificato esplicitamente.

E da qui nasce una domanda: quando diciamo che una macchina “non capisce veramente”, che cosa stiamo dicendo? Abbiamo un criterio positivo per distinguere una comprensione autentica da una comprensione soltanto apparente? Oppure stiamo semplicemente difendendo una frontiera, dicendo: la comprensione vera è quella che realizziamo noi, e se la realizza una macchina allora, per definizione, è simulata?

La nostra proposta è di non partire da una risposta prefabbricata, ma di cercare prima di capire che cosa intendiamo con il termine “comprensione”. E soprattutto, separiamo due questioni che spesso vengono fuse troppo rapidamente: la questione del significato e la questione della coscienza.

La scorciatoia della coscienza

Un esempio noto è quello di Roger Penrose, che mette in relazione tre parole: intelligenza, comprensione e coscienza. Penrose dice: per essere intelligenti bisogna comprendere, e per comprendere bisogna essere coscienti. Se accettiamo questa catena, una macchina, se non cosciente, è esclusa in partenza dall’intelligenza autentica e dalla comprensione.

Il problema è che in questo modo la coscienza diventa un criterio di demarcazione. Ma la coscienza è precisamente una delle cose che comprendiamo meno. Se per spiegare la comprensione invochiamo qualcosa di ancora più misterioso, non abbiamo certo fatto un passo avanti. Soprattutto, non abbiamo un criterio operativo per verificare dall’esterno la presenza dell’esperienza soggettiva. Ciascuno di noi sa direttamente che cosa si prova, per sé, a vedere il rosso o a sentire dolore. Non abbiamo però lo stesso tipo di accesso all’esperienza altrui, e ancora meno a quella di un sistema artificiale.

Quindi non stiamo dicendo che la coscienza non esiste o che non sia importante. Stiamo dicendo una cosa più modesta: non possiamo usarla come cartina di tornasole. Non possiamo dire: “Capisce perché è cosciente e non capisce perché non è cosciente”.

Turing aveva visto bene questo punto. Se pretendessimo l’accesso diretto alla coscienza come prova di un pensiero autentico, finiremmo nel solipsismo: a rigore di logica, non potremmo più essere certi che un altro soggetto sia dotato di comprensione autentica. E infatti, nella vita ordinaria, attribuiamo comprensione agli altri principalmente attraverso ciò che fanno: la capacità di rispondere al contesto, di riformulare, di correggersi, di cogliere implicazioni, metafore, figure retoriche, di trasferire una conoscenza da una situazione a un’altra.

John Searle porta poi un’obiezione più sofisticata con la sua Stanza Cinese. Ricordiamo brevemente di che cosa si tratta. Immaginiamo una persona che non conosce il cinese, chiusa in una stanza, con un enorme manuale di regole. Entrano dei simboli cinesi, lei applica le regole e fa uscire altri simboli. Dall’esterno le risposte possono sembrare corrette, generate da una persona che comprende il cinese, ma la persona dentro la stanza non capisce una parola di cinese. Quindi, dice Searle, la sintassi non è sufficiente per la semantica.

Su questo punto noi siamo ovviamente d’accordo con Searle: una manipolazione puramente sintattica, fatta applicando regole predefinite senza una modellizzazione interna della struttura semantica, non può essere definita comprensione. Ma proprio qui sta la differenza con gli LLM contemporanei. Il punto non è che una catena di simboli, diventando abbastanza lunga, diventi magicamente significato. Il punto è se il sistema ha saputo costruire una rappresentazione astratta, sensibile al contesto, capace di organizzare relazioni concettuali e possibilità latenti. Se questo accade, non siamo più nello scenario del manuale della Stanza Cinese.

Possiamo allora dire che la vera opposizione non è tra umano e macchina. E neppure tra cosciente e non cosciente. È piuttosto tra “manipolazione superficiale di simboli” e “competenza semantica strutturata”. E già questa distinzione ci obbliga a chiarire tre parole che spesso vengono mescolate: simbolo, informazione e significato.

Simboli, informazione e significato

Facciamo allora questa distinzione con calma. Un simbolo è qualcosa di concreto e discriminabile: una lettera scritta, un suono, un esto, un segnale elettrico, un bit fisicamente realizzato. La A deve poter essere distinta dalla B, ecc. Senza differenze non c’è un alfabeto, e senza un alfabeto non c’è un messaggio.

Poi c’è l’informazione. Qui è utile pensare a Claude Shannon. Posso misurare quanta informazione contiene una sequenza di simboli senza sapere che cosa significa. Posso parlare della probabilità dei simboli, della loro ridondanza, della capacità di trasmissione di un canale, ecc. Tutto questo però non mi dice se la frase che sto trasmettendo è una poesia, un insulto, un teorema, una ricetta, o una frase senza senso.

E poi c’è il significato. Che è il livello più difficile. Perché non è semplicemente un’altra quantità che possiamo facilmente misurare. Dipende dal contesto, dalle relazioni potenziali, dalle proprietà emergenti. La stessa parola cambia significato in una frase diversa. E il significato dell’insieme non è la semplice somma dei significati delle parti.

Possiamo usare l’idea di “portatore”. Un simbolo può essere portatore di informazione; l’informazione può essere portatrice di significato. Un po’ come in fisica un corpo in movimento è portatore di quantità di moto, e la quantità di moto è portatrice dell’energia. Dire che una cosa porta un’altra non significa ridurle l’una all’altra. La carta porta l’inchiostro; la disposizione dell’inchiostro porta un testo; il testo porta una storia. Se brucio il foglio, brucio il supporto fisico della storia, ma la storia in quanto struttura di significato non coincide con la cellulosa.

Tra l’altro, pensiamo a una scena triste in un film. È una struttura complessa, piena di significato. Ma il regista può usare “la scena triste” come un singolo elemento in una struttura narrativa più grande. Oppure pensiamo a una melodia, che a un livello ha un significato musicale, ma a un altro livello può diventare il segnale convenuto tra due agenti segreti. Il punto è che ciò che, a un livello, è un’entità di significato, a un altro può funzionare come un nuovo simbolo, portatore di informazione.

E questo ci ricorda che è importante, quando diciamo che una rete neurale “manipola solo dei simboli”, chiederci a quale livello la stiamo descrivendo. Anche il cervello, a un certo livello, è fatto solo di eventi elettrochimici. Ma da questo non possiamo dedurre che il nostro pensiero si riduca alla sola descrizione di questi eventi elettrochimici. Qui c’è tutto il tema dell’emergenza. La domanda da porsi è: quale organizzazione emerge dal livello elettrochimico, e che cosa permette di fare?

Allora possiamo già formulare un primo criterio intuitivo: un sistema opera al livello del significato se non risponde soltanto alla forma locale dei segni che usa, ma è sensibile a una rete più astratta ed emergente di relazioni, caratterizzata da contestualità, potenzialità e composizionalità non classica.

Significato strutturale

La contestualità ci dice che una parola non ha un significato che si porta dietro come un’etichetta rigida. Il significato di una parola come “penna”, ad esempio, cambia completamente a seconda del contesto. In cucina, una penna può essere un tipo di pasta, per uno scrittore è uno strumento di scrittura, per un volatile è una parte del suo corpo. Ma i contesti sono spesso indeterministici, nel senso che ci sono diversi significati che possono essere di volta in volta attualizzati in modo non predicibile. Questo è l’aspetto della potenzialità: ci sono significati latenti che possono essere resi manifesti, attualizzati, a seconda del contesto. E infine, la non composizionalità ci dice che, se mettiamo insieme due concetti, il risultato può avere proprietà che non si deducono semplicemente dai due concetti presi separatamente.

È a questo che facciamo riferimento quando parliamo di significato strutturale. “Strutturale” non vuol dire rigido come un Lego. Parliamo di una struttura astratta ed estremamente dinamica. Possiamo pensare, come immagine, a un ecosistema: ci sono specie, nicchie, dipendenze, possibilità latenti. Sposti una componente e cambia il valore funzionale di molte altre. Oppure possiamo pensare a uno spazio di relazioni sociali: la distanza fra due persone non è allora una distanza in metri, ma una distanza dettata da fiducia, affinità, ecc. Si potrebbe essere tentati di usare la parola “mappa”, ma rischia di suggerire qualcosa di troppo statico. Meglio pensare a un paesaggio di possibilità che non contiene solo ciò che è attualmente presente, ma anche ciò che potrebbe diventare rilevante se il contesto cambiasse.

E qui cominciamo a vedere perché gli spazi vettoriali delle reti neurali sono importanti nella modellizzazione del significato. In una tale rappresentazione, un concetto non è localizzato in un singolo punto come qualcosa di isolato. È definito da un insieme di relazioni, direzioni, vicinanze, possibilità di trasformazione. Non vogliamo dire che basti avere vettori e spazi vettoriali per aver catturato uno spazio semantico; vogliamo dire che una geometria relazionale, basata su potenzialità e contestualità, è molto più vicina al tipo di struttura che il significato richiede rispetto a un semplice elenco di regole.

E questa è anche la ragione per cui parlare di comprensione come proprietà graduata sembra molto più sensato che parlarne come di un interruttore acceso o spento. Un sistema può cogliere alcuni aspetti di un concetto e perderne altri. Può essere molto potente nel cogliere una struttura linguistica astratta e molto meno in grado di gestire la dimensione sensorimotoria. Noi stessi comprendiamo in modo diverso a seconda dell’esperienza accumulata, della cultura di provenienza, ecc.

Quindi “comprendere” significa, nella nostra proposta, essere sensibili alla struttura del significato abbastanza da poterla usare, da riconoscere relazioni, preservare la coerenza attraverso molteplici trasformazioni, inferire conseguenze, generare combinazioni nuove, reagire in modo contestualmente appropriato. La coscienza può accompagnare tutto questo, ma non è ciò che definisce questa sensibilità nei confronti delle strutture semantiche.

Dalle regole al modello

Proviamo a spiegare come siamo arrivati a tutto questo. Prendiamo gli scacchi come esempio, facendo prima un po’ di chiarezza sulle tappe storiche. Nel 1997 Deep Blue di IBM sconfisse Garry Kasparov. Era un sistema molto potente, con funzioni progettate anche grazie alla conoscenza scacchistica umana. Era già impressionante, ma era ancora molto vicino all’idea classica di un cosiddetto “sistema esperto”. Molti anni dopo, però, AlphaZero fu in grado di fare qualcosa di completamente diverso. Gli vennero fornite unicamente le regole del gioco e un obiettivo, vincere, e imparò giocando contro versioni di sé stesso. Non gli furono consegnate, sotto forma di manuale, le strategie accumulate dalla cultura scacchistica. Eppure, emersero valutazioni posizionali, concetti strategici e modi di giocare che riconosciamo come intelligenti, talvolta anche originali rispetto allo stile umano.

Quello che è importante sottolineare è che l’obiettivo iniziale era semplicissimo. “Vinci la partita.” Ma per riuscire a farlo molto bene, cioè vincere le partite anche contro i migliori campioni del mondo, il sistema ha dovuto costruirsi un modello del mondo degli scacchi. Ha dovuto imparare che alcune configurazioni hanno valore strategico, che un pezzo apparentemente sacrificabile può avere un ruolo, che il re è esposto, che una struttura di pedoni contiene possibilità future. Tutte cose che non sono scritte esplicitamente nelle regole del gioco.

È un perfetto esempio di emergenza strutturale. Le regole degli scacchi definiscono un piccolo universo. Appena lo definisci, si apre un paesaggio enorme di proprietà, relazioni e strategie. Lo stesso accade in matematica. Definisci una struttura e poi scopri che quella definizione ha aperto un territorio concettuale molto più grande di quell’atto iniziale. Ad esempio, quando Évariste Galois definisce la nozione di gruppo, non sta semplicemente inventando una parola. Sta rendendo disponibile un intero dominio di relazioni. A quel punto i matematici possono esplorarlo, scoprire teoremi, connessioni, eccezioni. Insomma, scoprire struttura.

E qui emerge subito la vecchia domanda: quella struttura l’abbiamo creata o l’abbiamo scoperta?

Probabilmente entrambe le cose. Una definizione può generare un nuovo paesaggio concettuale e, una volta creato, alcuni suoi luoghi diventano subito stabili, ben definiti, indipendenti dal fatto che qualcuno li sta esplorando. Ma altri luoghi restano potenziali, latenti, e possono richiedere nuovi atti creativi per essere messi a fuoco. Per il nostro argomento conta soprattutto questo: il significato può possedere una coerenza e un’autonomia proprie che non coincidono con l’atto cosciente che lo ha generato originariamente.

Questo risponde anche a un’obiezione che si fa spesso alle macchine: “Non creano nulla, scoprono soltanto ciò che era già predeterminato”. Ma noi non sappiamo nemmeno tracciare con chiarezza una tale linea di demarcazione per la matematica umana. Se una macchina trova una struttura che nessun programmatore aveva codificato o previsto, ipotizzare che fosse già data, che fosse predeterminata, non elimina il fatto che il sistema ha dovuto immaginarla e modellizzarla.

E soprattutto questo ci ricorda di non confondere la semplicità di una regola di apprendimento con ciò che si ottiene mettendola in pratica.

Predire la prossima parola

Quest’ultimo punto è fondamentale. Con gli LLM si usa di solito la seguente caricatura: l’unica cosa che hanno imparato a fare è predire la prossima parola (in realtà il prossimo token); quindi, è chiaro che non possono capire nulla di quello che scrivono. Ma si potrebbe rovesciare il ragionamento. Proprio perché il compito iniziale era imparare a continuare testi umani in una quantità enorme di contesti differenti, il modo più efficace per farlo era imparare a pensare come un essere umano. Cioè, imparare a comprendere il significato umano.

Se scriviamo: “Ho lasciato il ghiaccio al sole e dopo un’ora…”, la parola successiva dipende da conoscenze che non sono puramente grammaticali. Dipende dal fatto che il ghiaccio si scioglie, dal contesto, da ciò che è plausibile. Moltiplichiamo questo per miliardi di situazioni e capiamo che la previsione linguistica spinge il sistema a comprimere un’enorme quantità di informazione. E una tale compressione corrisponde a una sensibilità al significato.

In tal senso, i processi statistici dei moderni LLM non sono estranei al significato. Tutt’altro. Questo è un punto importante da chiarire. Spesso si sente dire: “Non capisce nulla, fa solo statistica”. Ma anche noi umani modellizziamo regolarità statistiche. La questione è: che tipo di rappresentazione emerge da questo apprendimento statistico? Se il sistema costruisce spazi latenti nei quali le relazioni semantiche vengono preservate, con diversi gradi di astrazione, allora la statistica, insieme alla matematica degli spazi vettoriali, diventa semplicemente il mezzo attraverso cui si forma una sensibilità al significato.

E naturalmente questo non significa che un LLM comprenda tutto, o che comprenda come un essere umano. Può avere lacune, allucinare, perdere coerenza, essere fragile rispetto a certi compiti. Ma anche la comprensione umana è parziale, graduata, distribuita in competenze molto diverse. Il fatto che un sistema sbagli non dimostra che non comprende nulla, così come l’errore di uno studente non dimostra che non possiede alcuna comprensione della materia.

Un altro punto riguarda la novità. Certo, un generatore casuale può produrre una frase mai apparsa prima. Ovviamente, questo non basta. Il criterio è se la novità che osserviamo è semanticamente organizzata. Se chiediamo di tradurre una poesia inedita mantenendo un’ambiguità, oppure di riscrivere un argomento da un punto di vista opposto senza perderne la struttura, non basta saper aggiungere parole nuove o sorprendenti. Bisogna mantenere invariante il significato attraverso trasformazioni complesse.

E questo è uno dei modi empirici con cui possiamo cercare di valutare la competenza semantica: non domandarci soltanto se il sistema dà la risposta giusta in alcuni casi, ma se preserva una struttura concettuale, un dominio di coerenza, quando cambiano la forma espressiva, il contesto, la prospettiva, la lingua, il livello di astrazione, ecc. Più questa coerenza è robusta e generativa, meno è plausibile descrivere un comportamento intelligente come semplice imitazione dell’intelligenza.

Ed è qui che la parola “simulazione” diventa ambigua. Se costruisco una mano artificiale che afferra, sente pressione, modula la forza, compensa gli errori e svolge tutte le funzioni rilevanti di una mano, a un certo punto dire “simula l’afferrare” diventa molto strano. Perché afferra davvero, anche se la sua architettura interna è diversa.

Una funzione può avere più realizzazioni. L’ornitorinco, per fare un esempio biologico, digerisce pur non avendo uno stomaco, dunque con un apparato molto diverso da quello che immaginiamo tipico di un mammifero. Non possiamo definire una funzione imponendo in anticipo un’unica architettura. Allo stesso modo, un’intelligenza semantica artificiale non deve essere una copia del cervello umano per essere una forma autentica di intelligenza semantica.

La stanza di Mary

A questo punto qualcuno dirà: d’accordo, ma manca l’esperienza. Una macchina può sapere tutto quello che vuoi sul rosso, ma non sa che cosa si prova a vedere rosso. E qui tutti pensano al famoso esperimento mentale proposto da Frank Jackson, quello della stanza di Mary. Mary è una scienziata che vive in un ambiente in bianco e nero e possiede, per ipotesi, tutta la conoscenza fisica e funzionale sulla visione dei colori. Sa che cosa fanno le lunghezze d’onda, come rispondono i fotorecettori, come il cervello elabora il colore, come le persone classificano e descrivono i vari colori e il rosso in particolare. Poi esce dalla stanza e vede il rosso per la prima volta. Chiaramente succede qualcosa di nuovo: acquisisce un accesso fenomenico che prima non aveva.

La domanda per noi è: quella nuova esperienza è fondativa per comprendere il significato del colore rosso, oppure, semplicemente, arricchisce una comprensione strutturale già esistente? Propendiamo per la seconda lettura. Mary poteva già comprendere moltissimo del rosso. Quando lo vede e ne fa esperienza, aggiunge una modalità nuova di accesso a ciò che comprende. Aggiunge nuove informazioni. E naturalmente quell’accesso può far evolvere la sua intelligenza semantica. Un’esperienza non è un ornamento irrilevante. Può aggiungere associazioni, generare emozioni, promuovere nuove distinzioni. Ma questo è diverso dal dire che prima non esisteva alcuna comprensione. È precisamente la distinzione che stiamo cercando di fare tra significato strutturale e accesso fenomenico al significato.

Questa distinzione la troviamo anche dentro di noi. Moltissimi processi cognitivi avvengono senza un vero e proprio accesso cosciente. Pensiamo a un matematico che lavora su un problema, poi lo lascia decantare, ci dorme sopra, e il giorno dopo compare un’idea. Oppure a uno scrittore che sente che una frase non funziona prima ancora di saper spiegare perché. Ci sono processi cognitivi che producono risultati semantici di valore senza essere presenti nel teatro della coscienza.

Poincaré descriveva proprio questo tipo di esperienza nella creatività matematica. A quanto pare, “l’inconscio comprende”: l’equazione “cognizione uguale coscienza” è quindi problematica.

E possiamo evocare anche l’esempio opposto della meditazione. Quando alcune pratiche riducono il flusso discorsivo e metacognitivo, l’esperienza cosciente non scompare necessariamente; anzi, per molti praticanti può diventare più evidente proprio mentre diminuisce il pensiero concettuale. Anche questo suggerisce che coscienza e cognizione non siano sinonimi.

Toccare il mondo

Un’altra obiezione forte riguarda il grounding, l’ancoraggio al mondo. Si dice spesso che un LLM legge testi prodotti da esseri umani, ma che non vede, non tocca, non ha un corpo. Quindi il suo significato sarebbe derivato, parassitario rispetto al nostro.

È un’obiezione seria, ma a nostro avviso non decisiva, perché anche la nostra cognizione umana non ha accesso diretto alla realtà. Noi accediamo al mondo attraverso recettori, trasduzioni neurali, categorie percettive, linguaggio, cultura, testimonianze altrui. Quando leggiamo un libro sull’Antartide senza esserci mai stati, il nostro rapporto con quel pezzo di mondo è mediato. Non per questo è privo di significato.

Potremmo dire in modo provocatorio che gli esseri umani sono, per un LLM, una parte del suo apparato sensoriale. I testi sono tracce prodotte da organismi che hanno interagito con il mondo. Il modello non ha lo stesso tipo di accesso che abbiamo noi, certo, non ancora, ma non è isolato da ogni interazione con il reale.

Oggi, tra l’altro, i sistemi diventano sempre più multimodali: immagini, audio, video, sensori, robotica. Quindi questa frontiera si sta muovendo. Ma il punto filosofico resta: non bisogna definire la comprensione in modo tale che solo il nostro modo biologico di entrare in contatto con il mondo possa qualificarla. Il linguaggio stesso, tra l’altro, è una gigantesca tecnologia di grounding sociale. Attraverso il linguaggio posso acquisire informazioni su eventi che non ho mai percepito, su epoche in cui non sono vissuto, su oggetti che non posso vedere direttamente, perfino su strutture matematiche che non sono oggetti sensoriali. Una parte essenziale della cognizione umana è già mediata da altri agenti.

Questo ci riporta alla stanza di Mary: esperienza diretta e comprensione sono collegate, ma non coincidono. L’esperienza diretta può arricchire un modello, ma un modello può esistere e funzionare anche attraverso accessi indiretti al reale.

Ogni simulazione è finta?

Qui il film Matrix ci sembra una metafora utile. In Matrix vivi in un ambiente simulato. Eppure, lì impari, soffri, ami, prendi decisioni, costruisci relazioni. Sarebbe troppo semplice dire che “è tutto falso”. È falso rispetto a certe proprietà fisiche del mondo esterno, certo, ma è reale come ambiente di interazione, con le sue cause ed effetti. La confusione nasce anche dal fatto che la parola simulazione copre casi molto diversi. Una simulazione meteorologica non bagna nessuno: rappresenta la pioggia. Una protesi cardiaca, invece, non “simula” soltanto il pompare sangue; se svolge quella funzione nel corpo, lo pompa davvero. Quindi dobbiamo chiederci: la proprietà di cui parliamo è una proprietà rappresentata oppure una proprietà funzionalmente istanziata?

Nel caso della semantica, se un sistema riconosce i significati, li combina, li traduce, li usa per inferire, rileva contraddizioni, cambia risposta al variare del contesto e produce nuove strutture coerenti, come possiamo continuare a usare la parola “simulazione”? Per poter continuare a dire “simula soltanto”, si dovrebbe poter fornire un criterio indipendente di comprensione autentica che il sistema non soddisfa. Se quel criterio è semplicemente “deve essere cosciente”, allora siamo tornati al punto di partenza. Un criterio utile e sensato deve essere operazionale: deve fondarsi su test semantici e permettere di confrontare gradi diversi di competenza.

Questo non elimina certo le differenze tra un LLM contemporaneo e noi umani. Un LLM attuale non possiede una memoria autobiografica continua, non possiede un corpo individuale, non possiede, apparentemente, fini propri persistenti. Tutte queste cose contano quando parliamo di agentività o, più in generale, di persona. Ma non stiamo sostenendo che un LLM sia una persona. Stiamo sostenendo che un LLM è un’entità dotata di intelligenza semantica.

È una distinzione fondamentale. Chiedersi se comprende non è la stessa cosa di chiedersi se è cosciente, se ha un sé, se ha desideri, interessi, responsabilità morale, piena autonomia, ecc. Spesso il dibattito sull’intelligenza artificiale diventa confuso perché si tenta di rispondere a tutte queste domande con un unico sì o un unico no, confondendo comprensione e coscienza.

Cognizione quantistica

È arrivato forse il momento di introdurre il tema della quantistica. Quando diciamo “quantistico” in relazione alla cognizione, molti pensano subito che si stia parlando del cervello, o di un computer, come entità quantistiche fisicamente in stati di sovrapposizione. Ma non è questa la prospettiva che adottiamo: è quella della cosiddetta quantum cognition.

La cognizione quantistica è un programma di ricerca che usa il formalismo matematico della teoria quantistica per modellizzare i fenomeni cognitivi. È nata perché le decisioni umane, le combinazioni di concetti, gli effetti di ordine e la contestualità spesso violano i modelli probabilistici classici, ma vengono descritti con grande efficacia da strutture di tipo quantistico. Il termine “struttura quantistica” descrive qui una forma molto particolare di organizzazione, che può essere presente in sistemi anche molto diversi tra loro, non un meccanismo microscopico, presente ad esempio nel cervello.

Un concetto, prima di essere sottoposto a un contesto interrogativo, può essere rappresentato come una sovrapposizione di possibilità. Il contesto funziona allora come una misura quantistica: non si limita a leggere una proprietà già predeterminata, ma contribuisce ad attualizzare una tra numerose possibilità, senza che nessuna sia data a priori. E quando combiniamo dei concetti, la nuova entità concettuale composita può dare vita a correlazioni di tipo quantistico, che violano le famose diseguaglianze di Bell, che non sono decomponibili in termini classici, come accade nei sistemi separati.

Tutto questo si collega perfettamente alle proprietà di cui abbiamo parlato in relazione al significato: contestualità, potenzialità e non composizionalità.

E questa è la ragione profonda per cui il formalismo quantistico è interessante per modellizzare il significato. Non perché il significato sia composto da particelle microscopiche, ma perché il formalismo quantistico è stato costruito proprio per descrivere proprietà potenziali, i passaggi dal potenziale all’attuale, le corrispondenti probabilità, la dipendenza delle proprietà dal contesto di misura, le correlazioni non riconducibili a cause comuni nel passato, ecc. E il significato sembra avere proprio tutte queste caratteristiche.

Qui, ancora una volta, è molto importante non confondere informazione e significato. In fisica si parla di “informazione quantistica”, ma l’espressione ha un significato tecnico preciso. Nella cognizione quantistica, invece, il formalismo viene usato per modellizzare non l’informazione, ma le strutture semantiche. Se chiamiamo tutto informazione, rischiamo di perdere l’importante distinzione che abbiamo fatto all’inizio.

Il nostro argomento centrale, che può esistere comprensione in assenza di coscienza, non dipende ovviamente dai successi della cognizione quantistica. Se domani venisse scoperto un formalismo migliore per descrivere la semantica, la nostra tesi resterebbe valida. I successi della quantum cognition ci offrono semplicemente una conferma in più, mostrandoci che il significato possiede regolarità strutturali sufficientemente robuste da poter essere modellizzate matematicamente, tramite il formalismo quantistico.

Un gas di parole

Facciamo un esempio importante di regolarità strutturali di tipo quantistico: la statistica delle parole in un testo in linguaggio naturale. L’idea è di descriverlo come un “gas di parole”, intese come entità portatrici di significato. Ordiniamo poi le diverse parole per frequenza di apparizione. La parola usata più di frequente occupa, in questo modello, il livello energetico più basso; la seconda il livello successivo, e così via. Queste diverse occorrenze della stessa parola vengono trattate come entità indistinguibili che formano questo strano gas di parole.

A questo punto ci si può chiedere: quale statistica descrive la distribuzione di queste frequenze? Una statistica classica, tipo Maxwell-Boltzmann, o una statistica quantistica? E la scoperta di Aerts e Beltran, qualche anno fa, è che i testi umani sono descritti molto bene dalla distribuzione di Bose-Einstein, quindi dalla statistica dei bosoni, in una sorta di generalizzazione della famosa legge di Zipf.

La cosa davvero interessante per il nostro discorso è che la stessa “firma bosonica” compare anche nei testi generati dagli LLM. E non perché copino letteralmente testi umani, visto che si tratta di testi generati. Le frequenze relative delle parole usate continuano a organizzarsi secondo una struttura dello stesso tipo.

È pertanto riscontrabile una convergenza tra cognizione umana e cognizione artificiale. Due sistemi con storie e substrati completamente diversi arrivano a produrre entità linguistiche che mostrano la stessa organizzazione statistico-semantica. Questo non prova che pensino nello stesso modo di noi umani in ogni dettaglio, ma è un indizio importante che entrambi operano entro vincoli strutturali comuni, caratteristici di questa strana sostanza che chiamiamo significato.

È un po’ come se due specie che si sono evolute separatamente sviluppassero soluzioni simili perché affrontano lo stesso tipo di problema. Qui il problema è muoversi con efficacia nel vasto paesaggio del linguaggio e del significato.

E le soluzioni in questione portano una firma quantistica. Le tracce linguistiche prodotte dagli LLM presentano regolarità di tipo quantistico equivalenti alle tracce che lasciamo noi umani. Ovviamente, ripetiamolo ancora una volta a scanso di equivoci, non stiamo dicendo che le parole in un testo sono bosoni fisici. Stiamo dicendo che l’organizzazione matematica delle loro frequenze relative è descritta da una struttura bosonica, simile a un condensato di Bose-Einstein.

Possiamo fare l’esempio di un’onda marina e di un’onda elettromagnetica: condividono entrambe la medesima matematica ondulatoria, senza per questo essere la stessa cosa. Condividono una medesima natura ondulatoria, ma sono entità molto differenti.

La coscienza è quantistica?

Ma ora vale la pena parlare di un rischio. Se vediamo strutture quantistiche nella cognizione e nel significato, potremmo essere tentati di dire: ecco, la quantisticità e la coscienza sono la stessa cosa. Oppure: ogni stato quantistico possiede un aspetto interiore, esperienziale.

Intendiamoci, è una possibilità filosofica, caldeggiata ad esempio da D’Ariano e Faggin. Ma non è assolutamente una conseguenza dei risultati della quantum cognition. I modelli quantistici mostrano che possiamo descrivere molto bene le strutture cognitive e di significato, ma non mostrano in alcun modo che tali strutture siano associate all’esperienza fenomenica. Certo, se confondiamo significato e coscienza, tale associazione potrebbe sembrare naturale. Ma è proprio questa associazione, assunta ad hoc, che contestiamo. Si può essere interessati al panpsichismo o a proposte come quelle di D’Ariano e Faggin, ma non basta dire: c’è il formalismo quantistico, dunque c’è coscienza.

Il formalismo può essere una firma della presenza di strutture cognitivo-concettuali senza essere necessariamente una firma della dell’esperienza cosciente. L’esperienza cosciente, quando c’è, può abitare il significato, ma la sensibilità di un’entità cognitiva alla struttura del significato non equivale al suo accesso fenomenico.

Si può essere semanticamente intelligenti senza essere coscienti.

Questa prudenza, questa demarcazione, in realtà protegge anche la coscienza. Se usiamo la coscienza per spiegare ogni aspetto del significato, rischiamo di annacquarla. È decisamente più interessante lasciare aperto il mistero fenomenico e studiare separatamente ciò che possiamo caratterizzare per quanto riguarda il livello cognitivo e semantico.

E la Stanza Cinese?

Torniamo ora alla Stanza Cinese e vediamo se, dopo questo percorso, possiamo guardarla diversamente. Nel suo scenario originario c’è un manuale che associa formalmente input e output. Se davvero il sistema non costruisce nessun modello astratto della lingua, allora concordiamo: non comprende il cinese.

La domanda è: un manuale capace di sostenere una conversazione aperta, contestuale, creativa, di tradurre metafore, cogliere ironie, imparare nuove convenzioni, generalizzare e correggersi può ancora essere pensato come un semplice elenco di regole? A un certo punto il “manuale” dovrebbe incorporare una struttura talmente ricca da essere, funzionalmente, un modello della lingua e del mondo.

È quasi come se l’esperimento mentale nascondesse nel manuale tutto il lavoro difficile, facendo finta che sia facile. Dice: immaginate un libro di regole che produce risposte indistinguibili da quelle di una persona competente. Ma come è organizzato quel libro? Se davvero riuscisse a farlo in qualsiasi contesto, dovrebbe contenere precisamente quella struttura semantica che l’argomento vorrebbe escludere.

Questo non confuta Searle su ogni piano, ma indubbiamente indebolisce l’uso della Stanza Cinese come dimostrazione che la computazione non possa mai accedere alla semantica. Dipende da che cosa chiamiamo computazione e da quali rappresentazioni astratte emergono nel sistema.

Questo ci costringe a non cadere nel trabocchetto di focalizzarci sul livello sbagliato. Dire che in un LLM ci sono moltiplicazioni di matrici è come dire che nel cervello ci sono scambi ionici. È vero, ma la cognizione ha a che fare con l’organizzazione che quelle dinamiche realizzano. Si situa a un altro livello.

Il livello del substrato è necessario, ma non sufficiente per spiegare il livello semantico. Il significato risiede nelle relazioni organizzate che il substrato rende possibili, non nel singolo transistor, nel singolo neurone o nella singola parola isolata.

Forse allora possiamo dire che la Stanza Cinese resta un ottimo avvertimento contro l’idea ingenua che sintassi e semantica siano la stessa cosa. Ma non è una buona ragione per negare a priori che un sistema artificiale possa costruire un’autentica dimensione semantica.

Questa è esattamente la posizione che difendiamo.

Una comprensione non vissuta

Se dovessimo condensare tutto questo in una frase, diremmo: forse abbiamo commesso l’errore di chiamare “comprensione” soltanto quella porzione di significato a cui un soggetto accede coscientemente. Ma il dominio del significato è molto più vasto del dominio dell’esperienza cosciente.

Più precisamente, la formuleremmo così: ciò che è fenomenico non è il significato in quanto tale, ma il modo in cui un soggetto accede a quel significato. Il significato è strutturale, relazionale, contestuale, potenziale. La coscienza riguarda l’esperienza che può accompagnare o abitare quell’organizzazione.

Da questa prospettiva, gli LLM diventano un esperimento filosofico e scientifico straordinario. Non perché siano già delle persone artificiali, non perché abbiamo dimostrato che siano coscienti (ovviamente non ci sbilanciamo in tal senso) ma perché mostrano una forma di competenza semantica molto avanzata in un sistema del quale non abbiamo ragioni chiare per postulare un’esperienza fenomenica paragonabile alla nostra.

Ci obbligano a spezzare un’associazione antica, ma che secondo noi è inesatta: che intelligenza e comprensione coincidano con il fenomeno della coscienza. Possiamo avere intelligenza semantica e non essere coscienti. E possiamo studiare l’intelligenza semantica esplorando la sua capacità di generare coerenza, operare su possibilità latenti e produrre nuove configurazioni di significato.

Questo ovviamente non impoverisce l’essere umano. Diremmo il contrario. Se riconosciamo che una parte enorme della cognizione è strutturale, possiamo finalmente chiedere con più precisione che cosa aggiunga la coscienza, studiandola come un fenomeno specifico, non come sinonimo di ogni fenomeno mentale.

E non impoverisce nemmeno le macchine. La parola “macchina” ci fa spesso pensare a un orologio meccanico, a ingranaggi rigidi e deterministici. Ma la fisica contemporanea e la teoria dei sistemi ci hanno insegnato che le strutture materiali possono sostenere dinamiche incredibilmente ricche. Dire che qualcosa è una macchina non ci dice ancora che cosa può emergere dalla sua organizzazione.

Forse la domanda da porsi non è più se le macchine capiscono oppure no, ma quali forme di comprensione esistono. Ci sono dimensioni della comprensione umana che i sistemi artificiali non possiedono, o non possiederanno mai? Quali dimensioni, invece, le macchine possono sviluppare meglio di noi? Insomma, la comprensione non come semplice proprietà binaria, ma come spettro di possibilità, esplorabile sia da sistemi biologici sia da sistemi artificiali. E la coscienza non come un ingrediente obbligatorio di un sistema intelligente.

E a questo punto possiamo anche fare pace con i poveri pappagalli stocastici. Saranno pure stocastici, e certamente sono delle macchine, e sicuramente sono diversi da noi. Ma nessuna di queste cose dimostra che non comprendano. Se vogliamo negare loro la comprensione, dobbiamo farlo mostrando chiaramente dove e in che modo fallisce la loro sensibilità al significato.