Questo articolo è stato pubblicato nel numero di dicembre 2023 di Finzioni.
Le tecnologie sono sempre uno specchio di ciò che siamo. Sono sempre state protesi – delle nostre gambe, delle nostre braccia, dei nostri sensi, del nostro cervello. Quindi mezzi per ottenere un fine, che sono i nostri bisogni e desideri: le auto incarnano il nostro bisogno di movimento, i libri il bisogno di capire gli altri, i social il bisogno di connetterci. Quando una tecnologia ha successo, è perché risponde o amplifica o sfrutta un nostro desiderio profondo, qualcosa che moltissime persone di diversa geografia, cultura, genere, religione condividono. Che ne siamo consapevoli poco importa.
Sarebbe bello ripercorrere la storia della cultura attraverso la storia delle tecnologie. Lette così, di sbieco, diventano un modo di conoscerci, un catalogo di quello che crediamo di noi stessi.
Trovo che questo sia questo, al momento, l’aspetto più interessante di ChatGPT, e di tutti i suoi vari e simili cugini. Più ci confrontiamo con l’intelligenza artificiale, più abbiamo domande sull’intelligenza umana.
Si dice da sempre che la conoscenza sia una sfera che si espande in un universo di ignoto: ne consegue, necessariamente, che la sfera sarà sempre più a contatto con le tenebre. Più sappiamo, più sapremo di non sapere. Più sarà immediata la nostra consapevolezza del nostro essere limitati.
Proprio in questo senso è importante l’intelligenza artificiale: ci restituisce il nostro grado di ignoranza su noi stessi.
Cosa vuol dire essere intelligenti? Cosa vuol dire essere coscienti?
Sono domande eterne, probabilmente non dissimili da quello che agitavano gli insondabili pensieri di chi dipinse animali e uomini sul fondo delle grotte di Lascaux o di Altamira, decine di migliaia di anni fa. Dubbi che, a distanze di tempo incolmabili dal pensiero, rimangono inscalfibili.
Cosa sono io, cosa sei tu, ipocrita animale, mon semblable, mon frère. Perché ci siamo entrambi, e cosa vuol dire questo esserci.
Dalla carne al silicio, l’avvento del computer, da metà del Novecento, ha alimentato enormemente questo fuoco.
Eravamo convinti – lo siamo tuttora – che la coscienza fosse il “problema difficile”. Come fa la coscienza a emergere dalla materia?
Se non si invoca una risposta religiosa – un Dio che sfiora con l’indice il simmetrico indice di un uomo; una scimmia che tocca un monolite nero e alieno – la risposta non ce l’abbiamo. L’intelligenza emerge dalla materia. È una cosa che accade.
Come l’irripetibile conformazione di un cristallo di neve, come una cattedrale eretta nel deserto dalle termiti, la coscienza emerge, complessa, dall’interazione di unità più semplici. Data abbastanza complessità, la coscienza emerge. Accade. Noi accadiamo. Shit happens.
Ho usato le parole “intelligenza” e “coscienza” come termini intercambiabili, ma forse non dovrei.
Secondo lo storico Yuvan Noah Harari, intelligenza e coscienza vanno considerate separatamente: intelligenza è l’abilità di risolvere problemi, di perseguire obiettivi.
Intelligenza e coscienza sono talmente intrecciate fra loro che non sappiamo dove finisca l’una e inizi quell’altra. Tuttora continuiamo a confonderle. Gli ultimi decenni di ricerca scientifica e tecnologica in realtà ci aiutano piano a piano a discriminare. Fare ordine.
Abbiamo creduto per molto tempo che l’intelligenza fosse il risultato ultimo dell’evoluzione umana, e si attribuisse, negli esseri umani, alla corteccia cerebrale, lo strato biologicamente più recente del nostro cervello. Abbiamo creduto quindi che lì risiedesse la coscienza. Ma probabilmente non è così.
Coscienza = corpo, intelligenza = calcolo
Una serie di neuroscienziati – fra gli altri, Jan Panksepp, Antonio Damasio, Mark Solms – ci insegna da decenni che la coscienza potrebbe trovarsi in un luogo altro, evoluzionisticamente più remoto.
Figli di un illuminismo un po’ miope, tendiamo a sottovalutare il potere delle nostre sensazioni e dei nostri sentimenti, e tendiamo a privilegiare i nostri pensieri: invece, siamo riusciti a riprodurre artificialmente solo gli ultimi, ma non i primi.
La coscienza, pare, necessita di un corpo. Un corpo che abiti lo spazio e il tempo.
Non c’è coscienza senza corpo, col suo insieme di sensori che captano attraverso vista, udito, tatto, olfatto, gusto. Nel regno animale questi sensi si immillano, vedendo e percependo dimensioni del reale che noi limitati esseri umani nemmeno immaginiamo: lo spettro della luce dall’infrarosso all’ultravioletto, l’ecolocalizzazione, la percezione delle più tenui tracce chimiche con l’olfatto, con le antenne, con la pelle. Ci sono universi in una zolla di terra che ci rimarranno per sempre sconosciuti.
Dopo le sensazioni, ci sono i sentimenti. Coscienza è capacità di sentire: dolore e piacere, amore e odio.
Dall’altro lato, abbiamo capito che gran parte di quello che noi riteniamo intelligenza è una qualche forma di computazione.
Dagli inizi del secolo scorso – da Alan Turing, da John Von Neumann – il calcolo è diventato il paradigma silente e ubiquo del mondo. Più andiamo avanti, più non c’è nulla che il calcolo non conquisti con le sue orde di processori e processi infinitesimali. Continuiamo incessantemente a inventare nuove parole per contare il numero di calcoli che le nostre macchine sono capaci di fare al secondo. Miliardi di miliardi di miliardi di miliardi: mega, giga, tera, peta, exa, zetta, yotta, ronna, quetta. Viviamo sotto la dittatura del calcolo, come dice Paolo Zellini.
I barbari
Come è accaduto molte volte nella storia dell’umanità, le frange più tradizionali si ritraggono, riescono a mantenere sempre meno terreno: i barbari inesorabilmente avanzano.
Nel Seicento, non si conosceva la natura del calore: si presupponeva esistesse una sostanza, chiamata “flogisto”, che lo trasportasse. Ma con l’avvento della scienza moderna, fondata sulla sperimentazione, questa speculazione filosofica era sempre più fragile. Non collimava con i dati sperimentali. Con rammarico di molti – ci si affeziona sempre alle idee, soprattutto quando sono presenti da molto tempo – si abbandonò l’idea “romantica” di una sostanza che dava calore, si abbracciò l’idea barbara e dissacratoria che la temperatura dipendesse dal movimento delle molecole. Accadde lo stesso con l’”etere”. Lo stesso accadde – e tuttora accade – con il concetto di Dio: la stessa Chiesa Cattolica accetta di buon grado (?) l’esistenza della teoria dell’evoluzione, o della genetica, o della psichiatria, anche solo della metereologia: tutti ambiti in cui il ruolo di un Dio onnipotente ha progressivamente perso terreno, ma su cui fino a pochi secoli fa si fondavano scismi, si combattevano battaglie, si bruciavano persone.
È un processo che ritorna eternamente nella storia dell’uomo: c’è qualcosa che riteniamo sacro e vero. Una verità che saputa da sempre. Arrivano i barbari da fuori a dirci che non è così, che esistono altri dei. È una guerra, e spesso la perdiamo.
La sensazione è che siamo nel pieno di uno di questi momenti storici. I barbari sono alle porte, armati di GPU. Sul loro vessillo sventola una matrice di 0 e 1, il viso insondabile del Calcolatore. Sono venuti a distruggere ciò che abbiamo di più caro, l’ultima cosa che ci era rimasta dopo la morte di Dio: l’eccezionalità umana. La vostra intelligenza – dicono – non è che un insieme di processi di algebra lineare. Un computo parallelo di miliardi di neuroni. Siete reti neurali non troppo dissimili da quelle che interrogate nel vostro telefonino.
Non avevamo computer abbastanza potenti per dimostrarlo venti anni fa, ma ora ce li abbiamo. Non c’è rivolo della creatività umana che non saremo in grado di riprodurre. Non c’è espressione umana che non saremo in grado di simulare.
Intelligence is in the eye of the beholder
Ora, le cose non accadono nel vuoto. Le relazione che abbiamo con l’intelligenza artificiale è una relazione culturale, che coinvolge la nostra psicologia, la nostra fisiologia. È un aspetto fondamentale che solitamente sottostimiamo.
Il problema con ChatGPT e compagni è proprio ciò che li rende incredibili: il loro essere quasi umani, ma non del tutto. Esiste un’uncanny valley anche del linguaggio, evidentemente.
Come dice il filosofo Roberto Casati, sono quasi–testi. Sembrano testi “veri” ma non lo sono.
Ma cosa vuol dire? Il fatto che ChatGPT e compagni siamo così simili a quella che abbiamo sempre riconosciuto come intelligenza non fa altro che buttare tutto l’onere delle prova sul lettore. È un po’ come è accaduto nel passaggio dalle enciclopedie tradizionali a Wikipedia: una volta c’era l’autorità, e nel bene e nel male la si prendeva per buona; poi si è passati ad un’autorevolezza che però doveva essere conquistata. Il principio di autorità è epistemologicamente sbagliato (nessuno ha sempre ragione) ma cognitivamente è molto semplice: come in ambito militare gli ordini non vanno discussi ma eseguiti, se mi fido ciecamente di un’istituzione (la Treccani, il New York Times) ci credo e basta. Diventa una questione di fede. E la fede è molto meno stancante dello scetticismo.
Con Wikipedia – con il web in generale – si è già operata una rivoluzione, come dalla fisica newtoniana e deterministica a quella quantistica e probabilistica: tutte le volte che il testo viene letto e interpretato, scopriamo se il gatto di Schrödinger è vivo o morto.
In quel momento, il nostro senso critico decide se il testo è buono abbastanza o meno. Ma tutto il senso, tutto il peso è retto da quell’”abbastanza”. Abbastanza buono per quel contesto, per quella singola istanza nello spazio e nel tempo in cui il testo e il suo lettore si incontrano. Il lettore diventa – dovrebbe diventare – completamente responsabile. È abbastanza buono per me, adesso.
Da un punto di vista cognitivo, questo è faticoso: leggere un messaggio di ChatGPT in questo senso è come ascoltare quell’amico logorroico che si inventa mille storie: non sai mai cosa è vero e cosa no. ChatGPT è questo: un fuffarolo professionista. Il più bravo e veloce di tutti.
Paradossalmente, il fatto che le cose siano vere il 90 o 95% del tempo non aiuta. La paura di quel restante 5% di fuffa è sempre lì, presente. Siamo noi lettori a essere responsabili di accogliere o meno quel testo come “buono abbastanza”.
Un testo è un testo è un testo
Ma siamo proprio sicuri che i testi generati automaticamente da ChatGPT siano “ontologicamente” differenti dai testi umani? A volte sembra solo una distinzione religiosa. Un testo è un testo è un testo.
Certo, è un generatore di significanti, non significati: un generatore di parole, non di concetti.
Quello che diventa interessante e dirimente è che – spesso, non sempre – questo basti.
La differenza fra fenomeno e noumeno, fra parola e verità sottesa, fra senso e sintassi è una distanza che abbiamo sempre ritenuto assoluta e incommensurabile, ma non è così.
Uno dei miei esempi preferiti è il calcio mercato, croce e delizia delle redazioni sportive di tutto il mondo. Ora, quanto sono davvero umani, autentici quegli articoli, e quanto invece scritti semplicemente per riempire una pagina dal “devo riempire una pagina sulla squadra X”? Che agency hanno? Che distanza c’è fra un testo scritto solo su una voce di corridoio e pubblicato per riempire uno spazio bianco, rispetto al meccanismo fuffogeno di ChatGPT?
Non so se vi ricordate le interrogazioni alle superiori, quando, pur di non fare scena muta, con l’adrenalina che ottenebrava la mente, si rispescava a casaccio nella propria memoria per imbastire un discorso che – da fuori – fosse abbastanza coerente per strappare una sufficienza. A volte funzionava, a volte no. La nostra preparazione era, in gran parte, nell’occhio (a volte nel pregiudizio) della prof. Ecco, con ChatGPT è lo stesso.
È una “macchina per la generazione di linguaggio”, attraverso meccanismi probabilistici. Completano le frasi calcolando quale parola sia più probabile oltre un’altra serie di parole.
Il punto è che questo, incredibilmente, è molto più potente di quello che ci aspettavamo.
I giochi sono una cosa seria
Non è la prima volta che accade. Gli esseri umani non sono molto bravi a concepire o stimare la potenza di sistemi formalizzati (se non proprio sistemi formali).
Pensiamo al gioco degli scacchi. Una scacchiera larga 8 x 8, una manciata di pedoni e di pezzi. Eppure, un gioco che ha appassionato miliardi di persone in migliaia di anni, a tutti gli effetti inesauribile: il numero di posizioni possibili su una scacchiera è più grande del numero di particelle presenti nell’universo. Il numero di partite possibili è infinitamente più grande.
La matematica di inizio Novecento subì la sua grande crisi (al pari della musica, della pittura, della fisica) quando Gödel intuì che un sistema semplice come l’aritmetica (i numeri naturali e le quattro operazioni fondamentali) era complesso e potente abbastanza da essere incompleto, cioè da prevedere dentro di sè affermazioni che sono “vere” ma non dimostrabili.
La suggestione gödeliana ha poi influenzato tutto il secolo successivo, dall’arte alla scienza, ma ci ammonisce con una legge, ovviamente non dimostrabile: i sistemi che interagiscono con se stessi danno luogo a meraviglie inaspettate.
Una rete neurale che si manda segnali elettrici è potente abbastanza da ingannare un lettore umano.
L’IA come amica
Quindi, dobbiamo temere che l’intelligenza artificiale spazzi via tutto ciò che conosciamo? Impossibile dirlo, ma c’è almeno un settore in cui la superintelligenza artificiale ha superato gli umani da molto tempo, e le cose vanno piuttosto bene.
Nel 1996, la sfida Garry Kasparov vs il computer Deep Blue emozionò il mondo intero. Era una vera sfida “uomo contro macchina”, carne contro silicio. Kasparov vinse nel 1996, ma perse nel 1997. Su entrambi gli eventi si scrisse moltissimo, si girano documentari, si parlò nei programmi televisivi per mesi. Era “la fine della storia”.
Da allora, anno dopo anni, i computer hanno completamente surclassato gli umani, tanto che l’IA, negli scacchi, è cosa naturale e quotidiana.
Ed ecco il fatto incredibile: non interessa a nessuno. Ci si convive tranquillamente. L’intelligenza artificiale, dopo aver vinto, è diventata uno strumento utilissima per tutti: giocatori di ogni livello la usano per allenarsi, durante i tornei le analisi vengono svolte in tempo reale, per cui lo spettatore sa sempre quale sarebbe la mossa migliore secondo l’algoritmo, al contrario del giocatore davanti alla scacchiera. Non solo l’IA ha migliorato la nostra percezione del gioco, ma si può dire che lo ha reso anche più spettacolare. Come se lo spoiler non rovinasse davvero la visione di un film. Come se il viaggio fosse l’importante, e la meta non poi così tanto.
Una cosa che non facciamo quasi mai, abbiamo capito col tempo, è guardare le partite che l’IA gioca contro se stessa. Non ci interessa. Continuiamo a voler guardare esseri umani, capaci di sbagliare.
Commodity
Ancora, anche con le immagini generate dal’IA sta succedendo qualcosa di interessante.
Al momento – ma è molto presto, tecnologicamente – è piuttosto facile capire quando un’immagine è stata fatta artificialmente o naturalmente. La luce è spesso la stessa, a volte è tutto troppo perfetto, dettagliato. Il primo giorno le troviamo incredibili, bellissime, rivoluzionarie. Ma dopo una settimana siamo già stanchi: sono tutte uguali. Da pezzi unici e irripetibili diventano genere, commodity, materia prima senza differenze qualitative.
Di fatto, l’AI spesso ci annoia molto in fretta. Torniamo in fretta alle nostre faccende umane.
È questo dunque il destino dell’IA: not with a bang but with a wimper? Impossibile dirlo, anzi: diffidare sempre di apocalittici e integrati. Ogni settore professionale, ogni segmento della società avrà le proprie peculiarissime vittorie e sconfitte. L’unica certezza è che la battaglia ci sarà.