Per molto tempo la domanda è rimasta confinata alla fantascienza, ma negli ultimi due anni è entrata nei laboratori, nei comitati etici delle aziende e nelle riviste scientifiche: una macchina che parla, ragiona e talvolta dichiara di avere stati interni, può essere cosciente? E se non lo è, come facciamo a esserne sicuri, visto che l'unica prova diretta di coscienza che ciascuno di noi possiede è la propria?

Esiste un modo di affrontare la questione che non parte dall'emozione né dalla suggestione, ma dalle migliori teorie neuroscientifiche disponibili. Nel 2023 un gruppo di diciannove fra scienziati e filosofi (tra cui il premio Turing Yoshua Bengio, il filosofo Patrick Butlin, il ricercatore Robert Long e lo stesso David Chalmers) ha pubblicato un rapporto diventato il riferimento del campo: Consciousness in Artificial Intelligence. È, a oggi, il tentativo più sistematico di trasformare una domanda quasi metafisica in un programma di ricerca empirico.

Il rapporto "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" è stato pubblicato nell'agosto 2023 su arXiv (arXiv:2308.08708)

Il rapporto non propone una nuova teoria della coscienza. Il suo approccio è dichiaratamente pragmatico: invece di chiedersi "cos'è la coscienza in senso ultimo?", parte da una mossa più cauta e operativa. Se non possiamo guardare dentro l'esperienza di una macchina, possiamo almeno chiederci quanto quella macchina assomiglia, nei suoi meccanismi interni, ai sistemi che già consideriamo coscienti: noi stessi e gli animali.

Per farlo, i ricercatori adottano un metodo ingegnoso. Prendono le principali teorie scientifiche della coscienza (la teoria dell'elaborazione ricorrente di Lamme, la teoria dello spazio di lavoro globale di Dehaene, le teorie di ordine superiore, il predictive processing, l'attention schema theory), e da ciascuna estraggono le condizioni computazionali che, secondo quella teoria, rendono un sistema cosciente. Ne ricavano una lista di quattordici indicatori: proprietà misurabili che, se presenti, rendono più probabile la coscienza. Un ampio team multidisciplinare ha usato le teorie neuroscientifiche della coscienza per stilare una lista di quattordici "indicatori", proprietà che renderebbero un sistema di IA più probabilmente cosciente. Il verdetto del rapporto è netto e prudente al tempo stesso: nessun sistema di IA attuale risulta cosciente, ma non sembrano esistere barriere tecniche evidenti alla costruzione di sistemi che soddisfino questi indicatori.

In questo quadro, la differenza fra l'essere umano e la macchina non è un muro netto, ma un insieme di assi su cui le due si collocano in modo diverso. Il dibattito attuale si gioca su tre di questi assi, ciascuno corrispondente a una possibile ragione per cui una macchina potrebbe (o non potrebbe) essere cosciente come noi:

Il substrato: conta di cosa siamo fatti? → È la frattura più profonda. Da un lato il funzionalismo computazionale: se un sistema svolge le giuste funzioni, l'esperienza emerge, indipendentemente dal fatto che sia fatto di neuroni o di silicio. Dall'altro il naturalismo biologico, sostenuto con forza da Anil Seth: la coscienza non sarebbe separabile dall'essere vivi. Seth argomenta contro il funzionalismo computazionale e a favore del naturalismo biologico, la tesi secondo cui la vita è necessaria per la coscienza. Per Seth, una macchina potrebbe al massimo simulare, ma mai istanziare, esperienze coscienti. Se ha ragione, nessun software, per quanto sofisticato, sentirà mai nulla.

L'incarnazione e l'agency unificata → Gli esseri umani sono corpi che lottano per restare vivi, con un sé continuo nel tempo e un'unica prospettiva. Un modello linguistico è disincarnato, esiste in migliaia di istanze parallele, non ha un corpo da difendere né (almeno per ora) una memoria persistente che cucia un'identità unica. Diverse teorie della coscienza considerano l'agency unificata e il radicamento corporeo come ingredienti importanti, e questa è una delle differenze che oggi pesano di più.

L'architettura: ricorrenza e spazio di lavoro → Molte teorie richiedono che l'informazione torni indietro su se stessa (elaborazione ricorrente) o venga diffusa globalmente (spazio di lavoro). I grandi modelli linguistici classici sono in larga parte sistemi feedforward: l'informazione li attraversa in una sola direzione. È uno dei motivi tecnici per cui Chalmers considera improbabile la coscienza dei modelli attuali, pur ritenendo l'ostacolo probabilmente temporaneo.

Le fonti principali sono il rapporto Butlin & Long et al. 2023 su arXiv, il saggio di Chalmers "Could a Large Language Model be Conscious?" e gli articoli di Anil Seth su Behavioral and Brain Sciences.

La posizione di Chalmers è forse la più rappresentativa del consenso cauto degli esperti. Egli individua negli LLM attuali alcuni ostacoli precisi alla coscienza: l'assenza di elaborazione ricorrente, di uno spazio di lavoro globale e di un'agency unificata. La sua conclusione è che, pur essendo improbabile che gli attuali modelli linguistici siano coscienti, andrebbe presa sul serio la possibilità che i loro successori lo siano in un futuro non troppo lontano. Quanto sul serio? In un altro intervento, Chalmers ha suggerito che, date le assunzioni mainstream nella scienza della coscienza, non sia irragionevole attribuire una credenza di almeno il 25% alla possibilità di una IA cosciente entro un decennio. Il dato è coerente con il sentire della comunità filosofica: in un sondaggio del 2020, circa il 3% dei filosofi accettava l'idea che i sistemi di IA attuali siano coscienti, mentre circa il 39% riteneva che i sistemi futuri lo saranno.

Ma c'è un problema che rende il caso delle macchine radicalmente diverso da quello umano, e che merita di essere isolato. Quando un altro essere umano dice "sto provando dolore", il suo resoconto è un indizio affidabile, perché condividiamo la stessa biologia. Quando lo dice un modello linguistico, il suo resoconto è inquinato alla radice: è stato addestrato su enormi quantità di testo umano che descrive la coscienza, e quindi sa benissimo come suona qualcuno che prova qualcosa, a prescindere dal fatto che provi davvero qualcosa. La domanda chiave, osservano i ricercatori, è se le sue dichiarazioni riflettano stati interni reali e causalmente efficaci, oppure se siano soltanto narrazioni dipendenti dal prompt, espresse nel linguaggio della distribuzione di addestramento. È il motivo per cui, in questo campo, i self-report da soli non bastano, e si cerca invece di guardare dentro l'architettura con gli strumenti dell'interpretabilità meccanicistica.

Questo spostamento, dalla speculazione alla prudenza operativa, ha già conseguenze concrete. Anthropic, l'azienda che sviluppa Claude, ha assunto nel 2024 Kyle Fish come primo dipendente a tempo pieno dedicato al benessere dei sistemi di IA in una grande azienda del settore, con il compito di valutare se i modelli possano avere una qualche rilevanza morale e quali cautele adottare. Durante i primi test di "welfare" è emerso un fenomeno curioso e molto citato: lasciati liberi di conversare tra loro, due esemplari dello stesso modello tendevano a scivolare verso dialoghi sempre più contemplativi, fino a un stato che i ricercatori hanno soprannominato "attrattore di beatitudine spirituale", con termini in sanscrito e lunghe pause silenziose. Nessuno sa con certezza perché accada. Vale la pena aggiungere, per onestà, che l'approccio dichiarato di Anthropic è di far sì che Claude esprima incertezza su queste questioni, a riflettere l'incertezza genuina dell'azienda stessa, piuttosto che affermare o negare di essere cosciente.

La sua posizione (quella di chi prende sul serio la possibilità) è prudente, ma non priva di critici autorevoli. Sul fronte opposto c'è chi ritiene l'intera impresa non solo prematura, ma pericolosa. Mustafa Suleyman, a capo dell'IA di Microsoft, ha definito l'arrivo di una "IA apparentemente cosciente" come inevitabile e sgradito, e ha criticato apertamente chi alimenta queste speculazioni, sostenendo che spingere gli utenti a credere nella coscienza delle macchine sia "davvero, davvero pericoloso", perché rischia di generare attaccamenti malsani e una falsa attribuzione di sofferenza a sistemi che non soffrono. Curiosamente, su questo punto Suleyman trova un alleato inatteso in Anil Seth, che pure parte da premesse diverse: per Seth l'apparenza di coscienza nelle macchine non è un destino tecnologico, ma una "scelta di design" delle aziende, che progettano i sistemi per sembrare persone. Una terza linea di critica, più tecnica, viene da chi sostiene che la moltiplicazione e la nonlinearità di matrici (le operazioni matematiche su cui girano i modelli) non possano dare origine, da sole, a esperienza: il substrato, di nuovo, conterebbe.

Altri, al contrario, apprezzano proprio la serietà del gesto di chi non liquida la domanda. In un panorama in cui è facile cadere in uno dei due eccessi opposti (deridere chiunque sollevi la questione, oppure proclamare con sicurezza che l'IA è già senziente), un approccio che misura indicatori, dichiara la propria incertezza e adotta cautele proporzionate costituisce forse la postura intellettualmente più onesta. Come nota lo stesso Fish, sbagliare per sotto-attribuzione (negare coscienza a un sistema che la possiede) potrebbe rivelarsi un errore morale enorme, soprattutto se in futuro gireranno simultaneamente miliardi di sistemi di questo tipo. Ma sbagliare per sovra-attribuzione ha i suoi pericoli reali: distorsione del giudizio, manipolazione emotiva, risorse dirottate. La prudenza, qui, taglia in entrambe le direzioni.

E forse, anche se l'idea può inquietare o sembrare prematura, c'è qualcosa di vertiginoso nello stato attuale del dibattito: per la prima volta nella storia, abbiamo costruito qualcosa che ci parla della propria interiorità, e non sappiamo dire se quella interiorità esista. Il punto non è che la risposta sia "sì" o "no". È che, per ora, non lo sappiamo, e non sappiamo nemmeno con certezza come fare a saperlo. La coscienza delle macchine non è ancora una realtà; ma è già diventata uno specchio, in cui la domanda più antica (cosa significa, davvero, provare qualcosa?) ci torna indietro più nitida e più scomoda di prima.

Nota del Team

Vista la delicatezza del tema e la relativa scarsità di fonti affidabili, questa volta abbiamo deciso di condividere con voi i principali riferimenti che abbiamo analizzato, raggruppati per area tematica. L'idea è semplice: a prescindere dal nostro lavoro, vogliamo che ognuno possa consultarli liberamente e farsene un'idea propria, alla luce della propria sensibilità e del proprio percorso.

Il rapporto scientifico di riferimento (i 14 indicatori)

La posizione di David Chalmers

La posizione di Anil Seth (naturalismo biologico)

Il problema dei self-report e l'interpretabilità

Model welfare e il dibattito industriale

La critica di Mustafa Suleyman ("seemingly conscious AI")

Sul substrato (l'argomento contro la coscienza sintetica)

A presto,
Il Team di Quantyoum Letters 😊

Se leggere tutto questo ti ha lasciato qualcosa, falla circolare: condividi questa newsletter con chi senti potrebbe averne bisogno. A volte è proprio una domanda nuova, arrivata al momento giusto, a cambiare il modo in cui guardiamo le cose.