GPT-3 non produce linguaggio

Cos’è il linguaggio?

Sembra opportuno, innanzitutto, definire cosa sia il linguaggio, verbale – come le lingue naturali – o non verbale – come gestualità e prossemica – che sia. In generale per “linguaggio” s’intende un sistema di segni. Si dice “segno” un’entità che correla un’espressione a un contenuto, “in cui entrambi gli elementi correlati diventano funtivi della correlazione” (Umberto Eco, Trattato di semiotica generale, La nave di Teseo, Milano, 2016 [1975]).

Secondo Steven Pinker, scienziato cognitivo (Big Think, Steven Pinker: Linguistics as a Window to Understanding the Brain, “YouTube”, 6 ottobre 2021), il linguaggio è: distintivo, perché distingue l’uomo dalle altre specie; essenziale alla cooperazione umana; pratico nella sua applicazione; centrale nella vita umana; misterioso: nonostante secoli di indagine filosofica e scientifica, non si è ancora venuti a capo di ciò che Noam Chomsky definisce “sfida galileana”: come emerge e da cosa? “[…] in qualche maniera, con un pugno di simboli, un paio di dozzine di simboli, possiamo costruire nella nostra mente un’infinità di pensieri – il che è già abbastanza miracoloso: come può avvenire qualcosa di simile? – e in più siamo in grado di trovare il modo di veicolare questi pensieri nella mente di altri, che non possono in alcun modo accedere alla nostra mente. Galileo considerava l’alfabeto come la più mirabile delle invenzioni umane […]; i suoi contemporanei avevano la stessa visione. Penso che avessero ragione. È ciò che a volte ho chiamato ‘la sfida galileana’: com’è possibile ottenere questo miracolo? [TdR]”. (Theories of Everything, Noam Chomsky on Reality, Terence McKenna, Sam Harris, GPT3, Crypto, Kierkegaard, and Hofstadter, YouTube, 24 marzo 2021).

In base alle ricerche più recenti, spiega Pinker (Steven Pinker, Words and Rules, Basic Books, New York, 2015 [1999]), la lingua dipenderebbe da tre elementi:

- le parole, cioè le componenti basilari delle frasi, raccolte nella parte della memoria a lungo termine detta “lessico mentale”, che ne conserva informazioni relative al significante, al suono e al significato.

- Le regole: sono le strategie fonologiche, morfologiche e sintattiche che utilizziamo per assemblare delle unità semplici in unità complesse di linguaggio.

- Le interfacce: si tratta dei luoghi di connessione tra la lingua e il mondo; se ne distinguono tre: produzione linguistica, comprensione linguistica e pragmatica.

Ma allora, l’output di GPT-3 è davvero linguistico?

Alla domanda “L’output di GPT-3 può essere considerato vero e proprio linguaggio? [TdR]”, ChatGPT risponde così: “L’output di GPT-3 a volte potrebbe sembrare vero e proprio linguaggio, ma è importante ricordare che è generato sulla base di pattern che la macchina ha appreso analizzando un enorme ammontare di testi piuttosto che sulla base di una vera comprensione della lingua e dei significati. Pur essendo stato allenato su un ampio ventaglio di testi e potendo generare risposte coerenti e coerenti a vari prompt, GPT-3 ha dei limiti.
Per esempio, potrebbe ancora generare risposte senza senso o con evidenti bias e potrebbe non comprendere sempre il contesto o le sfumature di significato della lingua che genera. È anche incline a commettere errori, per esempio riproponendo errori che si trovano di frequente nei testi su cui è stato allenato oppure usando in maniera scorretta il lessico o le regole di grammatica.
Pertanto, mentre l’output di GPT-3 potrebbe a volte sembrare vero e proprio linguaggio, non equivale alla comprensione umana e all’uso umano della lingua, e non dovrebbe essere considerato un sostituto del giudizio umano e del pensiero critico [TdR]”.

Le posizioni di Noam Chomsky a riguardo sono molto nette: GPT-3 non è un modello linguistico (Theories of Everything, Noam Chomsky on Reality, Terence McKenna, Sam Harris, GPT3, Crypto, Kierkegaard, and Hofstadter, “YouTube”, 24 marzo 2021). Non può esserlo perché funziona bene tanto per le “lingue impossibili” (Andrea Moro, Le lingue impossibili, Raffaello Cortina Editore, Milano, 2017) – lingue immaginarie che hanno una struttura lineare –, quanto per le lingue naturali vere e proprie – che hanno, invece, una struttura gerarchica e ricorsiva –. Questo, a suo avviso, lo falsificherebbe in quanto modello scientifico.

Indipendentemente dalla confutazione linguistica, poi, sarebbe il modo stesso in cui GPT-3 opera a renderlo irrelato tanto con il linguaggio, quanto con la cognizione in generale, per motivi strutturali: secondo gli studi fisici e neurolinguistici più recenti, prima fra tutte la teoria di Roger Penrose, la nostra mente potrebbe non essere direttamente connessa al “connettoma”, ossia alle interconnessioni tra neuroni che costituiscono la mappa del nostro cervello, ma avere natura quantistica (Roger Penrose, The Emperor’s New Mind, Oxford University Press, Oxford, 2016 [1989]).

La questione della comunicazione

Il linguaggio costituisce il codice della comunicazione. L’evento comunicativo è proprio il passaggio di un messaggio da un mittente a un destinatario, all’interno di un determinato contesto. Roman Jakobson illustra così il suo schema della comunicazione, che mette in scena sei elementi fondamentali: “Il mittente invia un messaggio al destinatario. Per essere operante, il messaggio richiede in primo luogo il riferimento a un contesto […]. In secondo luogo, esige un codice interamente, o almeno parzialmente, comune al mittente e al destinatario […]; infine un contatto, un canale fisico e una connessione psicologica fra il mittente e il destinatario, che consenta loro di stabilire e di mantenere la comunicazione” (Roman Jakobson, Saggi di linguistica generale, Feltrinelli, Milano, 1966).

Carlos Montemayor, professore di Filosofia presso la San Francisco State University, riflettendo su GPT-3 si focalizza proprio sull’aspetto comunicativo del linguaggio. A suo avviso, associamo un valore alla comunicazione con un destinatario in base a tre parametri: fiducia, conoscenza di sfondo, sostrato culturale condiviso. “Gli output di GPT-3 assomigliano alla lingua, ma senza questo tipo di fiducia, sembrano innaturali e potenzialmente manipolatori [TdR]” (Justin Weinberg, Philosophers On GPT-3 (updated with replies by GPT-3), “Daily Nous”, 30 luglio 2020).

La mancanza di accesso al “contesto” extralinguistico è la prima e principale ragione dell’insussistenza della comunicazione propriamente detta tra GPT-3 e l’utente. Il linguaggio è, sì, la codifica di un segno, di un significato in un significante, ma il suo valore non si esaurisce in questo. La lingua soddisfa dei “bisogni rappresentativi che fanno affidamento all’ambiente”, all’extralinguistico, “per la loro stessa soddisfazione, e solo agenti dotati di capacità cognitive, inserite in un ambiente, sentono questi bisogni e si preoccupano che siano soddisfatti [TdR]”.

In effetti, secondo Regina Rini, filosofa cognitiva dell’Università di York, “quando GPT-3 parla”, in realtà “siamo noi che parliamo [TdR]” (Justin Weinberg, Philosophers On GPT-3 (updated with replies by GPT-3), “Daily Nous”, 30 luglio 2020). Il suo output non è che il riflesso di “un’analisi dei sentieri semantici più probabili” tra quelli “battuti dalle produzioni linguistiche umane”; quando si pone una domanda a GPT-3, non si comunica con un essere digitale unico, con “una mente”: essendo GPT-3, per come si struttura, la rappresentazione statistica astratta del contenuto delle milioni di menti che hanno concepito le informazioni diffuse in rete, interagire con il transformer significa letteralmente comunicare con lo zeitgeist, con lo spirito del secolo.

La stessa Annette Zimmermann, filosofa delle Università di York e Harvard, enfatizza proprio questo aspetto: GPT-3, come del resto le altre forme di AI e machine learning, è il nostro specchio. Essendo stato allenato su quanto detto e scritto su Internet, finisce con il riprodurre esattamente i pattern più frequenti, bias razziali e di genere inclusi, che caratterizzano la nostra società (Justin Weinberg, Philosophers On GPT-3 (updated with replies by GPT-3), “Daily Nous”, 30 luglio 2020).

Marika Angelucci, 1˚ marzo 2023