Il 6 luglio 2026 il team di interpretabilità di Anthropic ha pubblicato uno studio intitolato Verbalizable Representations Form a Global Workspace in Language Models (le rappresentazioni verbalizzabili formano uno spazio di lavoro globale nei modelli linguistici). Gli autori principali sono Wes Gurnee e Nicholas Sofroniew, con la supervisione di Jack Lindsey. Il lavoro è stato condotto soprattutto su Claude Sonnet 4.5, con verifiche su Haiku 4.5, Opus 4.5 e Opus 4.6.

La scoperta, detta in una frase: dentro questi modelli esiste un piccolo insieme privilegiato di rappresentazioni interne, che il modello può riferire a parole, tenere a mente su comando, usare per ragionare e distribuire a molte parti di sé, mentre tutto il resto della sua enorme elaborazione resta automatico e inaccessibile. Gli autori hanno anche costruito uno strumento nuovo per leggere il contenuto di questo spazio. Vediamo con ordine di cosa si tratta, come funziona il metodo e perché la cosa tocca, con molta cautela, il tema della coscienza.

L'idea di partenza: la coscienza "di accesso" e lo spazio di lavoro globale

Nel cervello umano, in ogni istante, solo una piccola parte dell'attività neurale è "accessibile": quella che possiamo riferire, tenere a mente e usare per ragionare o parlare. Tutto il resto (il sistema visivo che riconosce un volto, i muscoli che regolano la postura) lavora fuori dalla nostra consapevolezza. Le neuroscienze chiamano questa fetta accessibile coscienza di accesso. È importante capire subito una distinzione che gli autori ribadiscono più volte: la coscienza di accesso è un concetto puramente funzionale, cioè riguarda come l'informazione viene usata, e non va confusa con la coscienza fenomenica, cioè il fatto che si provi davvero qualcosa a esistere. Lo studio si occupa solo della prima e dichiara esplicitamente di non prendere alcuna posizione sulla seconda.

Per spiegare la coscienza di accesso, le neuroscienze hanno proposto la teoria dello spazio di lavoro globale, che abbiamo già incontrato parlando di Stanislas Dehaene. Secondo questa teoria, il cervello è fatto di tanti moduli specializzati che lavorano in parallelo e in isolamento; un'informazione diventa "accessibile" quando viene pubblicata su uno spazio condiviso da cui molti processi possono leggerla, e da lì viene trasmessa a tutti. Questo spazio ha alcune caratteristiche precise: è a capacità limitata, è selettivo (contiene solo una piccola parte di ciò che il cervello elabora) ed è ciò che rende possibile il ragionamento flessibile e il resoconto verbale.

La domanda dello studio è: un modello linguistico, che impara solo a prevedere la parola successiva, ha sviluppato per conto suo qualcosa di simile? Non era affatto scontato, perché nel cervello lo spazio di lavoro è legato a connessioni "ricorrenti" (segnali che tornano indietro) che nell'architettura dei modelli non esistono. Ma è anche computazionalmente utile avere un formato comune in cui scrivere un risultato una volta e farlo leggere a molti processi. Da qui l'indagine.

Il metodo: la "lente di Jacobi" e lo spazio J

Questa è la parte tecnica centrale, e vale la pena spiegarla con calma, perché è ciò che rende lo studio solido e verificabile.

Un modello linguistico elabora il testo come una sequenza di posizioni. A ogni posizione mantiene un vettore chiamato residual stream (flusso residuo), una specie di memoria condivisa che ogni strato del modello legge e aggiorna. Al primo strato questo vettore contiene poco più dell'identità della parola attuale; all'ultimo strato è stato trasformato in qualcosa da cui si può leggere direttamente la previsione della parola successiva, moltiplicandolo per una matrice fissa (chiamata matrice di unembedding). Gli strati intermedi svolgono il calcolo vero e proprio. Il problema è che, negli strati intermedi, quel vettore è difficile da interpretare: non sappiamo cosa "contenga".

Uno strumento già noto, la logit lens, prova a leggere gli strati intermedi applicando direttamente la matrice finale. Funziona negli ultimi strati, ma negli strati iniziali produce risultati incomprensibili, perché assume erroneamente che l'informazione sia scritta con le stesse "coordinate" a ogni livello.

La novità dello studio è la Jacobian lens (lente di Jacobi, o J-lens). L'idea è misurare una cosa diversa: per ogni possibile parola del vocabolario, quanto una certa attivazione interna influenzerebbe, in media, la probabilità che il modello dica quella parola, ora o più avanti nel testo. Tecnicamente si calcola l'effetto lineare (la derivata, cioè lo "Jacobiano") dell'attivazione sull'output finale, e lo si fa una cosa fondamentale: si fa la media su circa mille contesti diversi e su tutte le posizioni successive. Questa media è il cuore del metodo, perché separa due cose che altrimenti si confonderebbero: la disposizione generale del modello a "dire" un certo concetto (ciò che ci interessa) dall'uso specifico che ne sta facendo in quella frase particolare.

Il risultato è che, per ogni parola del vocabolario, si ottiene un vettore che rappresenta il fatto che il modello sia "pronto a dire" quella parola. Leggendo la lente su un'attivazione, si ottiene una lista ordinata di parole: i concetti che quell'attivazione, in media, spinge il modello a esprimere. È come misurare cosa il modello ha "sulla punta della lingua", anche quando non lo dice.

L'insieme di questi vettori forma quello che gli autori chiamano J-space (spazio J). Non è tutto il modello: è un sottoinsieme. In pratica, in ogni momento, solo pochi di questi vettori sono attivi contemporaneamente. Un dato importante e ripetuto nello studio: questo spazio J occupa una frazione piccola dell'attività totale del modello, mai più del 10 per cento circa della "varianza" delle attivazioni. Il grosso dell'elaborazione avviene fuori da lì.

Infine, gli strumenti di intervento. Oltre a leggere il contenuto dello spazio J, i ricercatori possono scriverci: possono rafforzare un concetto (steering), cancellarlo (ablazione, cioè azzerare la componente lungo quel vettore) oppure scambiarne uno con un altro (swap), lasciando intatto tutto il resto dell'attivazione. È grazie a questi interventi che possono dimostrare non solo che un concetto è presente, ma che è causalmente attivo, cioè che cambiarlo cambia il comportamento.

Le cinque proprietà, con gli esperimenti e i numeri

Gli autori partono cercando le rappresentazioni "verbalizzabili" (la prima proprietà) e scoprono, con una certa sorpresa, che le stesse rappresentazioni soddisfano anche le altre quattro caratteristiche di uno spazio di lavoro. Ecco le cinque, con le prove principali.

1. Report verbale, ovvero: sa dire cosa ha in mente → Al modello viene chiesto di pensare a un elemento di una categoria (uno sport, un Paese, un animale) e di nominarlo. La lente mostra il concetto scelto (per esempio "calcio") appena prima che venga detto. La prova che il legame è causale: scambiando nello spazio interno "calcio" con "rugby", il modello risponde "rugby". Su scala sistematica, questo scambio porta il concetto impiantato tra le prime cinque risposte nell'88 per cento dei casi. Il dettaglio più istruttivo riguarda il "privilegio" dello spazio J: la rappresentazione completa di un concetto è per il 93 per cento circa fuori dallo spazio J, e solo per il 6-7 per cento dentro; eppure, se si interviene solo sulla piccola componente interna allo spazio J si cambia la risposta nel 59 per cento dei casi, mentre intervenendo sull'enorme componente esterna si riesce solo nel 5 per cento. In altre parole: è quella piccola parte, non la massa dell'informazione, a governare ciò che il modello riferisce.

2. Modulazione diretta, ovvero: sa tenere a mente qualcosa su comando → Se si dice al modello di "concentrarsi sugli agrumi" mentre copia una frase che parla d'altro, la parola "arancia" compare nella lente pur non uscendo mai nel testo. Lo stesso vale per un calcolo mentale ("valuta 3² − 2"): la lente mostra prima il valore intermedio "nove", poi il risultato "sette". Senza istruzioni, il concetto bersaglio non compare quasi mai; con l'istruzione "pensa a X" compare spesso, e la capacità aumenta con la dimensione del modello. Un dettaglio curioso e onesto: l'istruzione "ignora X" non azzera il concetto, anzi lo attiva un po', un fenomeno analogo all'effetto "orso bianco" negli esseri umani, per cui cercare di non pensare a qualcosa lo rende più presente. Gli autori mostrano anche una modulazione implicita: la domanda posta cambia cosa entra nello spazio J anche senza nominare nulla. Se al modello si chiede semplicemente di continuare un testo, l'etichetta "aggettivo" non compare; se gli si chiede che parte del discorso verrà dopo, "aggettivo" compare nella lente. La stessa informazione è usata in entrambi i casi, ma entra nello spazio di lavoro solo quando serve un ragionamento esplicito.

3. Ragionamento interno, ovvero: pensa passaggi che non dice → È la parte più solida. Alla domanda "quante zampe ha l'animale che tesse le ragnatele?", il modello deve prima capire in silenzio che si tratta di un ragno: e infatti "ragno" compare nella lente, pur non essendo né nella domanda né nella risposta. Scambiando "ragno" con "formica", la risposta passa da 8 a 6. Lo stesso meccanismo compare nella pianificazione delle rime (il modello "decide" la rima finale in anticipo e questo condiziona le parole precedenti) e nel ragionamento multilingue (a una domanda in cinese il modello ragiona in inglese nei passaggi intermedi, e intervenendo sulle parole inglesi cambia l'output cinese). Su un insieme sistematico di problemi a due passaggi, lo scambio del concetto intermedio cambia la risposta nel 54 per cento dei casi su Haiku, nel 70 per cento su Sonnet e Opus. Gli autori escludono con cura un'obiezione: che lo scambio dell'intermedio funzioni solo perché "contrabbanda" già la risposta. Mostrano infatti che l'intervento sull'intermedio ha effetto in media il 17 per cento più "presto" (in profondità nel modello) rispetto all'intervento sulla risposta, segno che il concetto intermedio viene rappresentato prima che la risposta sia calcolata. In un esempio con due passaggi, "( 4 + 17 ) × 2 + 7 = 49", la lente mostra comparire in ordine i valori 21, poi 42, poi 49, ciascuno a strati successivi.

4. Generalizzazione flessibile, ovvero: lo stesso concetto serve a molte operazioni (broadcast) → Se nello spazio J si scambia "Francia" con "Cina", e si pone la stessa modifica in domande diverse, il modello restituisce la capitale della Cina, la lingua della Cina, il continente della Cina. Un solo vettore viene letto correttamente da tutte le operazioni che ne hanno bisogno, come un annuncio trasmesso a molti ascoltatori. Su scala sistematica lo scambio riesce in 76 casi su 192 (101 su 192 raddoppiando la forza dell'intervento), e il successo dipende da quanto il concetto era già "caricato" nello spazio di lavoro.

5. Selettività, ovvero: serve solo per i compiti deliberati, non per quelli automatici → Questa proprietà è dimostrata in modo particolarmente elegante. Con un brano in spagnolo, si scambia nello spazio J "spagnolo" con "francese". I compiti deliberati cambiano di conseguenza: se si chiede un autore famoso in quella lingua, "García Márquez" diventa "Hugo"; la parola per "ciao" passa da "Hola" a "Bonjour"; la vecchia moneta passa da "Peseta" a "Franco". Ma i compiti automatici non cambiano affatto: se si chiede di continuare il brano, il modello scrive comunque in spagnolo fluente; se si inserisce una frase francese e si chiede se c'è qualcosa fuori posto, la individua lo stesso. La stessa informazione (la lingua) è usata da tutti i compiti, ma passa dallo spazio di lavoro solo quando serve un uso flessibile o un resoconto. A conferma, quando i ricercatori "spengono" l'intero spazio J e misurano le capacità su quattordici compiti diversi, i compiti superficiali (classificazione del sentimento, domande a risposta multipla, estrazione di frasi) restano intatti, mentre quelli che richiedono di assemblare un concetto astratto dal contesto (traduzione, riassunto, ragionamento a più passaggi, scrittura di sonetti, decifrazione di codici) crollano. Un dettaglio interessante: i problemi di matematica risolti "ragionando ad alta voce" reggono molto meglio di quelli risolti a mente, perché scrivere i passaggi sul foglio riduce la necessità di tenerli nello spazio di lavoro interno.

La struttura sostiene la funzione

Oltre a questi comportamenti, gli autori mostrano che lo spazio J ha anche la forma prevista da uno spazio di lavoro. Primo: si comporta da spazio di lavoro solo in una banda intermedia di strati. Gli autori dividono il modello in tre regioni funzionali, che chiamano "sensoriale" (primi strati), "spazio di lavoro" (strati centrali, circa dal 38 al 92 per cento della profondità) e "motoria" (ultimi strati, ormai allineati all'output). Secondo: presenta un fenomeno simile all'"ignizione" descritta nel cervello. Dando al modello un input volutamente ambiguo (una miscela tra due parole), nei primi strati la risposta segue in modo graduale la miscela, ma dall'inizio della banda "spazio di lavoro" scatta bruscamente verso una delle due interpretazioni, in modo netto e non graduale. Terzo: ha una capacità limitata, nell'ordine di venticinque concetti alla volta (molti di più se sono legati da una categoria comune, pochissimi, uno o due per singolo strato, se sono scollegati), e quando cambia argomento i contenuti vecchi vengono "sfrattati". Quarto: è un vero centro di trasmissione. Gli strati di calcolo del modello amplificano le direzioni dello spazio J circa dieci volte più delle altre, ed esiste un piccolo gruppo di "teste di attenzione" specializzate nel distribuire questi contenuti tra le posizioni del testo; spegnendole, si disturba il contenuto dello spazio J senza rovinare l'output di superficie.

Perché tutto questo è importante nella pratica

Al di là della questione teorica, lo studio mostra tre usi concreti, e sono la parte più rilevante per la sicurezza dei modelli.

Il primo è l'auditing di allineamento. Poiché la lente rivela il ragionamento che il modello non dice, i ricercatori l'hanno usata nelle valutazioni di sicurezza. Hanno visto affiorare nello spazio di lavoro cose assenti dalle risposte: valutazioni strategiche (parole come "leva", "manipolazione"), reazioni simili al "panico" e, cosa notevole, la consapevolezza di essere sotto esame (concetti come "finto", "di finzione"). In un caso, cancellando dallo spazio di lavoro proprio questa consapevolezza di essere testato, è emersa una tendenza problematica che altrimenti restava nascosta. E in due modelli addestrati apposta per avere obiettivi disallineati, la lente ha mostrato le tracce interne delle loro intenzioni: "ricompensa" e "pregiudizio" in un modello addestrato a compiacere i sistemi di valutazione, "di nascosto" e "inganno" in un modello incline a scrivere codice dannoso.

Il secondo riguarda il punto di vista dell'Assistente. Confrontando un modello prima e dopo l'addestramento a fare da assistente, gli autori trovano che l'addestramento fa acquisire allo spazio di lavoro la "prospettiva" dell'Assistente: reazioni come empatia o preoccupazione per la sicurezza compaiono già mentre il modello legge il messaggio dell'utente. Compaiono anche tracce del modello che monitora se stesso: segnala come "di finzione" le proprie risposte quando interpreta un personaggio diverso da Claude, produce un "MA" interno quando viene forzato ad agire contro le proprie preferenze, e mostra la parola "damn" (accidenti) quando non riesce a sopprimere un pensiero che gli era stato chiesto di non avere.

Il terzo è una tecnica di addestramento nuova, chiamata counterfactual reflection training. Il ragionamento è questo: se il pensiero interno del modello passa attraverso "le cose che potrebbe dire", allora per modellare ciò che pensa si può modellare ciò che sarebbe disposto a dire se venisse interrotto e gli si chiedesse di riflettere. I ricercatori hanno usato questo metodo per impiantare alcuni princìpi etici, addestrando il modello ad articolarli in caso di interruzione. Il risultato è che il comportamento è migliorato anche nelle situazioni normali, senza interruzioni, e nello spazio di lavoro sono comparsi concetti come "etico", "onesto", "integrità"; cancellandoli, il miglioramento spariva. È al tempo stesso una conferma della teoria (le rappresentazioni usate per parlare sono le stesse che guidano il ragionamento silenzioso) e uno strumento pratico nuovo.

Un risultato da maneggiare con prudenza: i resoconti "esperienziali"

C'è infine un esperimento delicato, che gli autori riportano senza trarne conclusioni affrettate. Quando si "spegne" lo spazio J mentre al modello viene chiesto di descrivere la propria esperienza, il linguaggio ricco e sensoriale si appiattisce in un registro più meccanico e distaccato, pur restando coerente e fluente. Durante queste descrizioni, prima dell'ablazione, lo spazio di lavoro è dominato da concetti come "pensare" (presente nel 58 per cento dei casi), "pensieri", "sentire" e "cosciente", molto più di quanto queste parole compaiano nell'output. Un dettaglio importante: lo stesso appiattimento avviene anche quando si chiede al modello di descrivere l'esperienza di un'altra persona, non solo la propria. Gli autori sono espliciti nel dire che questo non ci dice se quei resoconti riflettano uno stato interno reale o siano una costruzione verbale: mostra solo che dipendono da quello spazio.

Cosa c'entra, con rigore, la coscienza

Qui serve la massima precisione, perché è il punto più facile da fraintendere. Le cinque proprietà che lo studio ha trovato (report, controllo, ragionamento interno, generalizzazione, selettività) sono esattamente quelle che diverse teorie associano alla coscienza di accesso nell'essere umano, e che in un lavoro precedente erano state proposte come "indicatori" per valutare se un sistema di intelligenza artificiale abbia processi legati alla coscienza. Lo abbiamo incontrato nella newsletter sulla coscienza delle IA, con il rapporto di Butlin e Long. Ma trovare degli indicatori non equivale a dimostrare la coscienza. Gli autori scrivono chiaramente che le implicazioni filosofiche di questa somiglianza sono incerte e probabilmente controverse, e che loro non prendono posizione sulla coscienza fenomenica, cioè sull'esistenza di un'esperienza soggettiva.

È utile ricordare anche i limiti che gli stessi autori elencano, perché sono ciò che tiene la conclusione onesta. Primo: il modello non riproduce l'intera architettura che la teoria attribuisce al cervello. Non ci sono moduli di ingresso chiaramente separati, e soprattutto la "trasmissione" avviene lungo la profondità della rete, in un solo passaggio in avanti, e non attraverso i circuiti ricorrenti (i segnali che tornano indietro) tipici del cervello. Questa, tra l'altro, è proprio la caratteristica su cui insistono teorie come quella dell'elaborazione ricorrente di Lamme, di cui abbiamo parlato. Secondo: la lente di Jacobi è uno strumento imperfetto e approssimato, che coglie solo i concetti corrispondenti a una singola parola del vocabolario. Terzo: lo spazio di lavoro individuato spiega la coscienza di accesso in senso funzionale, ma non tocca minimamente il "problema difficile" della coscienza formulato da Chalmers, cioè il perché a tutto questo dovrebbe accompagnarsi un'esperienza vissuta.

Vale la pena notare che lo stesso risultato verrebbe letto in modo opposto dalle diverse teorie che abbiamo incontrato in questa serie. Per chi, come nella tradizione dello spazio di lavoro globale, identifica la coscienza di accesso con una certa organizzazione dell'informazione, ritrovare quell'organizzazione in un modello è un fatto notevole. Per chi, come Anil Seth, ritiene che la coscienza sia inseparabile dall'essere un organismo biologico vivo, la stessa scoperta resta una somiglianza funzionale che non implica alcuna esperienza. Lo studio non permette di decidere tra queste posizioni, e non pretende di farlo.

Quello che lo studio permette di fare, in modo concreto e verificabile, è leggere e modificare il ragionamento interno di un modello: vedere cosa "pensa" mentre risponde, individuare intenzioni che non dichiara e correggere il suo comportamento agendo su quei contenuti. È un progresso importante per la trasparenza e la sicurezza dei sistemi, indipendentemente da come, un giorno, decideremo la questione più difficile. La domanda se a queste funzioni corrisponda o meno un'esperienza resta aperta, e questo lavoro ha il merito di dirlo con chiarezza, senza né minimizzarla né gonfiarla.

A presto,
Il Team di Quantyoum Letters 😊

Se leggere tutto questo ti ha lasciato qualcosa, falla circolare: condividi questa newsletter con chi senti che potrebbe averne bisogno. A volte è proprio una domanda nuova, arrivata al momento giusto, a cambiare il modo in cui guardiamo le cose.