Caratteristica essenziale del pensiero è attribuire significati e non semplicemente manipolare simboli. Le macchine manipolano solo simboli.

I filosofi Paul e Patricia Churchland propongono un contro-esperimento mentale per mostrare che il test della stanza cinese di Searle si fonda su premesse sbagliate.

Il test della stanza cinese, è l’esperimento mentale secondo il quale un individuo di madrelingua inglese isolato in una stanza, totalmente incapace di leggere, comprendere e parlare il cinese può riuscire a fornire delle risposte appropriate in cinese a domande precise poste in questa lingua se egli riceva un libro di regole o istruzioni in inglese per manipolare gli ideogrammi. Un osservatore esterno, ignaro delle conoscenze linguistiche dell’uomo nella stanza, ha l’impressione che questi abbia una piena comprensione del cinese; in realtà, egli non ha alcuna comprensione del cinese, né delle domande che riceve, né tanto meno delle risposte che fornisce. L’uomo nella stanza si limita solo a manipolare simboli seguendo delle regole. Per Searle, la capacità di manipolare simboli eseguendo algoritmi non è condizione sufficiente per riscontrare la capacità di attribuire significati, che è la caratteristica essenziale del pensiero. Pertanto, una macchina, che è un dispositivo che esegue solo algoritmi, non è in grado di pensare.

I Churchland, attraverso un argomento per analogia, chiamato “argomento della stanza luminosa” (Paul M. Churchland, Patricia S. Churchland, Could a Machine Think, in “Scientific American”, gennaio 1990, pp. 32-37.), cercano di mostrare come le conclusioni di Searle siano scorrette, poiché derivano da premesse false.

L’argomento della stanza luminosa è il seguente: si immagini che un fisico, dopo la formulazione della teoria di Maxwell, secondo la quale “la luce è costituita di onde elettromagnetiche, voglia verificare la correttezza di tale teoria. Il fisico sa bene che, secondo la teoria dell’elettromagnetismo, è possibile produrre onde elettromagnetiche attraverso il movimento di un magnete. Pertanto, egli per verificare la correttezza della teoria di Maxwell, decide di chiudersi in una stanza buia e muovere velocemente un magnete: se la teoria di Maxwell sarà corretta allora il semplice movimento del magnete produrrà luce.

Ovviamente, dal movimento di un magnete non si produce affatto la “luminosità” che è una caratteristica intrinseca della luce. Pertanto il fisico, conclude che la luce non può essere costituita da onde elettromagnetiche, altrimenti, se lo fosse, essa sarebbe priva di una sua proprietà intrinseca, ossia, la luminosità.

Le domande da porre alla luce di questo esperimento mentale sono le seguenti:

-questo esperimento è corretto?

-se non lo è, dove è localizzabile l’errore?

-cosa c’entra un simile esperimento con la stanza cinese?

Le risposte alla prima e alla seconda questione sono alquanto interessanti: i Churchland, infatti, asseriscono che l’esperimento, se fosse stato formulato ai tempi di Maxwell, avrebbe avuto più o meno lo stesso fascino che ha avuto e che ha tutt’oggi l’esperimento della stanza cinese di Searle. Ovviamente, alla luce delle conoscenze odierne nel campo della fisica, sappiamo che un simile esperimento è scorretto e il suo fascino è solo mera illusione: esso è scorretto perché non basta agitare un magnete (produrre onde elettromagnetiche) per ottenere la luce e la luminosità. Per far questo è necessario che il magnete “oscilli producendo onde elettromagnetiche la cui frequenza deve essere compresa entro limiti ben precisi”. Ma se il magnete non oscilla con frequenza sufficientemente elevata non si può produrre luminosità. Il fisico dell’esperimento della stanza luminosa sottovaluta questo importante fattore.

L’analogia tra l’esperimento dei Churchland e quello di Searle può essere esposta attraverso la corrispondenza delle rispettive premesse (P) e conclusioni (C):

Stanza cinese:

P1: I programmi dei Computer sono basati sulla sintassi;

P2: La mente umana ha contenuti mentali (semantica);

P3: La presenza di una sintassi non è né costitutiva né sufficiente per i contenuti semantici;

C: Un programma non è né costitutivo di una mente né sufficiente a produrne una.

Stanza luminosa:

P1: Il magnetismo è una forza;

P2: La proprietà intrinseca della luce è la luminosità;

P3: La presenza di una forza non è né costitutiva né sufficiente per la luminosità

C: Il magnetismo non è né costitutivo della luce né sufficiente a produrla.

Searle assume che “qualunque” programma sintattico non è sufficiente a produrre una semantica, ma si può semplicemente ribattere che non si può escludere la possibilità di dar luogo a “programmi appropriati” alla produzione di una sintassi [NT Per i Churchland, il concetto di “programma appropriato” passa attraverso la loro proposta di un approccio “connessionista” al problema della mente. L’idea è che è possibile riprodurre una mente attraverso una macchina, elaborando una serie di algoritmi che si sviluppano in maniera parallela l’uno all’altro.]. Quindi, è errato pensare che una caratteristica essenziale dei programmi sia quella di non poter far emergere una semantica (così come la intende Searle): l’emergere di una tale semantica è possibile se e solo se si mette a punto un programma adeguato.

Il cosiddetto “argomento della stanza cinese” è un esperimento mentale proposto dal filosofo John R. Searle in un articolo del 1980 dal titolo Minds, Brains and Programs (J.R. Searle, Menti, cervelli e programmi, in D.C. Dennett, D.R. Hofstadter, L’io della mente. Adelphi, 1981, pp. 341-). Scopo dell’esperimento è quello di fornire una confutazione della teoria computazionale della mente che Searle definisce “intelligenza artificiale forte”, in opposizione a un approccio all’intelligenza artificiale più “cauto” o debole. Per i sostenitori di quest’ultimo approccio, il calcolatore è uno strumento potentissimo per la formulazione e la verifica di ipotesi sugli stati mentali; per i sostenitori dell’intelligenza artificiale forte, invece, il calcolatore “non è uno strumento” per lo studio della mente, ma è piuttosto – se programmato correttamente – “una vera mente”: pertanto un calcolatore può comprendere, avere credenze e pensare, come fanno gli altri esseri dotati di mente.

Il filosofo americano inizia il suo esperimento immaginando di chiudere in una stanza un uomo di madrelingua inglese con un grande foglio sul quale sono stampati degli ideogrammi cinesi. Si supponga che l’uomo in questione non conosca in alcun modo il cinese, né nella sua forma parlata, né, tanto meno, nella sua forma scritta, al punto che egli non è nemmeno capace di distinguere gli ideogrammi cinesi da quelli giapponesi. Per l’uomo i simboli che vede stampati sul grande foglio sono “scarabocchi privi di significato”.

Successivamente, all’uomo nella stanza viene fornito un secondo foglio, anch’esso in cinese, e con questo, un set di regole per porre in relazione un insieme di simboli in un altro insieme di simboli riconoscendoli in base alla loro forma. Il set di regole è in inglese quindi l’uomo nella stanza, “pur non comprendendo il significato degli ideogrammi sul primo e il secondo foglio, è in grado di stabilire relazioni tra questi”.

In ultimo, viene fornito un terzo foglio contenente ideogrammi cinesi e regole che permettono di correlare gli elementi di quest’ultimo foglio con gli altri due. Lo scopo di quest’ultimo set di regole è quello di fornire dei criteri che “insegnino a tracciare certi simboli cinesi aventi una certa forma in risposta a certi tipi di forme” che sono assegnate nel terzo foglio.

L’uomo nella stanza è totalmente ignaro del fatto che, coloro i quali gli stanno fornendo i fogli e le regole utilizzano dei termini ben precisi per definirli: infatti chiamano “scrittura” il contenuto del primo foglio, “storia” quello del secondo, “domande”, quello del terzo, “programma” l’insieme delle regole in inglese; chiamano inoltre “risposte alle domande”, i simboli che l’uomo restituisce in risposta al contenuto del terzo foglio.

Si supponga ancora che all’uomo vengano consegnate anche delle “storie” in inglese, da lui ovviamente comprensibili, e che egli fornisca delle risposte alle domande su queste storie, mostrando l’assoluta padronanza della lingua inglese.

Il punto nevralgico dell’esperimento di Searle si trova in quest’ultima ipotesi: egli immagina che l’uomo nella stanza diventi particolarmente bravo nell’applicare le regole a lui fornite per la manipolazione e la correlazione degli ideogrammi e che i programmatori diventino talmente abili nello scrivere i programmi che dall’esterno le risposte fornite alle domande sembrerebbero quelle che darebbe un madrelingua cinese. Qualcuno, vedendo la situazione dall’esterno direbbe tranquillamente che chi sta fornendo le risposte “ha il medesimo livello di padronanza linguistica di inglese e cinese”. Ovviamente però, chi come noi sa che l’uomo nella stanza non parla una parola di cinese, sa anche che l’uomo è riuscito a dare delle risposte basandosi solo su delle regole di manipolazione degli ideogrammi “senza essere minimamente consapevole del significato di questi”, delle storie, delle domande e delle risposte che ha dato.

Secondo Searle, l’uomo nella stanza, per quanto riguarda le risposte in cinese, si sta comportando come un semplice calcolatore: egli “esegue operazioni di calcolo su elementi specificati per via formale” (ibidem, p. 343). In sostanza, l’uomo nella stanza quando ha dato le risposte in cinese ha semplicemente manipolato dei simboli: le macchine fanno un processo analogo di manipolazione “sintattica” ignorando il valore “semantico” di ciò che manipolano.

Nel contesto del test di Turing, basandoci sull’argomento della stanza cinese, è possibile compiere la seguente analogia: immaginiamo che un osservatore esterno assista al gioco dell’imitazione tra un interrogante umano I e una macchina A perfettamente programmata per vincere al gioco. Immaginiamo che l’osservatore però sia ignaro che A una macchina. Ora, egli potrebbe tranquillamente affermare che le risposte date da A sono totalmente pertinenti e ben formulate e concludere che A è in grado di pensare. Tuttavia, A, così come l’uomo chiuso nella stanza cinese, ha semplicemente manipolato dei simboli, ma non ha avuto la minima comprensione delle risposte che ha dato e delle domande che l’interrogante I gli ha posto. La caratteristica essenziale del pensiero per Searle è quindi quella di poter “attribuire significati”, ma “la verifica della corretta esecuzione delle manipolazioni sintattiche chiamate in causa da un algoritmo non è sufficiente per riscontrare [tale] capacità” (M.Luisa Dalla Chiara et al., Sperimentare la logica, Liguori, 2004).

Matteo D'Angelo, 21 luglio 2016