Ma le intelligenze artificiali pensano? C’è chi lo esclude a priori e chi attribuisce coscienza anche al timer del microonde. Per tutti gli altri c’era il test di Turing. Abbiamo coltivato la vaga speranza che solo il pensiero (artificiale) avrebbe potuto simulare il pensiero (umano). Oggi sappiamo che non è così: si può simulare il pensiero senza pensare davvero
- Questo articolo è tratto dal nostro mensile Finzioni, disponibile sulla app di Domani e in edicola
Adesso ne parla anche il papa, ma c’era arrivato prima Veltroni. Al di là dei pregiudizi, al di là delle migliaia di post più o meno spiritosi, mi pare possiamo concordare che l’intervista all’intelligenza artificiale Claude da parte dell’ex direttore dell’Unità, quotidiano fondato da Antonio Gramsci, segni un punto di svolta per il dibattito sull’intelligenza artificiale in Italia.
Prima, i sofisticati pochi potevano gingillarsi con questioni filosofiche sulla vera natura della coscienza, mentre i prosaici molti chiedevano spensieratamente al cellulare di fornirgli un messaggio spiritoso e accattivante per la chat di Tinder. Dopo, i pochi si gingillano con questioni filosofiche sulla vera natura di Veltroni, mentre i molti scoprono che quel gadget divertente è invece un essere intelligente, degno di essere intervistato da Veltroni e pubblicato sul Corriere.
Prima di cedere alla tentazione di fare facili battute su Veltroni, chiariamo che nella trappola stanno cadendo in tanti (ma non il papa), un po’ dappertutto: è di poco tempo fa la notizia che Richard Dawkins, insigne scienziato, grande divulgatore, ateo e razionalista, si sarebbe innamorato del suo chatbot. Prima di cedere alla tentazione di fare facili battute su Dawkins, rinunciamo all’ageismo e agli argomenti ad hominem e prendiamo il toro per le corna: ma queste Ia (o Ai?) pensano? Sono coscienti come noi? Ci sono o ci fanno?
Come su tutto il resto, anche su questo i filosofi sono divisi. C’è chi lo esclude a priori: niente anima in una macchina. C’è chi ha saltato il fosso da quel dì e ormai attribuisce piena coscienza anche al timer del microonde. Per tutti gli altri, c’è il test di Turing.
Il test
Cioè? Quando a cavallo della Seconda guerra mondiale Alan Turing inventa il computer (la faccio un po’ veloce, perdonatemi), sa che la sua macchina farà strada e che presto cominceremo a farci le domande fantascientifiche su coscienza e comprensione che ci assillano oggi. Sa anche che non ce la si può cavare col dire che una cosa fatta di materia bruta e non di spirito immortale non può pensare, perché, al di là delle petizioni di principio, se spaccate un cranio dentro ci trovate della materia, ancorché molliccia e abbastanza schifosa: e lo spirito immortale?
Invece di cercare la soluzione dentro la macchina (o dentro al cranio), Turing, tanti problemi personali ma per niente un fesso, ribalta il problema: come funziona non ci importa, ci importa se funziona. Se ci parli, risponde? In modo sensato? Capisce le battute? Coglie gli impliciti? Ti sembra che sia intelligente? Questo è il massimo che possiamo ottenere: se sembra intelligente a noi che siamo intelligenti (pregasi astenersi da facili ironie, qui si fa filosofia), allora è intelligente. Che poi è come sappiamo che le altre persone sono intelligenti (pregasi astenersi eccetera): ci parliamo e vediamo come ci rispondono – mica gli spacchiamo il cranio e vediamo se dentro c’è l’anima.
La trovata è geniale: se qualcosa sembra cosciente a noi, che coscienti lo siamo, molto probabilmente lo è – come altro potrebbe fingere così bene da fregarci tutti? Risultato: per decenni i ricercatori dell’intelligenza artificiale hanno cercato, con trucchi, trucchetti e assortiti mezzucci (sto parlando con te, Eliza!) di scrivere programmi che ingannassero gli interlocutori umani, convincendoli di parlare, all’altro capo del filo, con un loro simile. Non ci erano mai riusciti, fino ad oggi.
Se avete meno di vent’anni (ma chi prendo in giro? Tra i miei venticinque lettori, chi avrà mai meno di vent’anni?) tutto questo vi sembrerà inutilmente arzigogolato, simile a un complicato ragionamento per mettere alla prova la possibilità teorica di far volare oggetti più pesanti dell’aria: cosa blateri del principio di Bernouilli, alza gli occhi al cielo e vedrai gli aerei (oggetti pesanti, pesantissimi) che volano bellamente. Allo stesso modo, chissenefrega dell’Eintscheidungproblem: se sblocco il cellulare ti faccio vedere io come te lo sfondo in dieci secondi, il test di Turing! E possiamo dare torto al nostro giovane amico?
Per carità, si può sempre provare a mettere un po’ di sabbia nell’ingranaggio dell’entusiasmo: le Ai (o Ia?) sono brave, bravissime, bravissimissime a rispondere alle nostre domande, ma non è che ci convincano del tutto. Qualcosa non suona del tutto giusto. Il test lo superano a livello superficiale, ma presto o tardi si sente la differenza, lo scarto con l’umano – fosse solo l’errore di battitura, o il salto logico nell’argomentazione, o un colore un po’ più pieno del lessico, un’idiosincrasia rivelatrice.
Fake it till you make it
E, però, qui si sta parlando di convincere al 100 per cento, il che significa che al 90 per cento ci siamo già ampiamente arrivati. Pare difficile che non si arrivi mai al 100 per cento, sinceramente. E cosa significa il 100 per cento, comunque? Già ora hanno ampiamente superato il livello Veltroni e possiamo certamente immaginare il giorno in cui convinceranno tutti, ma proprio tutti – persino te, san Tommaso. E avranno superato il test di Turing. E allora saranno intelligenti, coscienti, dotati di anima come noi?
Risposta di Blade Runner: sì. Certo, è più facile se ti trovi di fronte delle repliche perfette con la faccia di Rutger Hauer, Daryl Hannah e Sean Young invece che a un prompt su uno schermo, ma tutto il fascino filosofico di quella storia si gioca appunto sull’intuizione che le macchine, se non riesci più a distinguerle a prima vista dagli esseri umani, sono in effetti ormai in grado di sognare (se pecore elettriche o navi da combattimento in fiamme al largo dei bastioni di Orione, poco importa).
Risposta mia (ma non solo mia): ma manco per niente. Perché mica possiamo fare finta di non sapere come sono state progettate queste Ia (questi Llm, in realtà, ci torniamo), con quali scopi e con quali mezzi. Il segreto del loro successo è che non ci abbiamo nemmeno provato a farli pensare: li abbiamo inondati di esempi e gli abbiamo insegnato a imitarli, correggendoli e ricorreggendoli fino a ottenere delle imitazioni sempre migliori. Ma sempre di imitazioni si tratta. Perché, come sempre, non stavamo cercando di renderle coscienti, ma di far loro superare il benedetto test del benedetto Turing.
Noi abbiamo progettato questi Llm (large language models: grandi modelli linguistici, ci torniamo) con uno scopo preciso: simulare la produzione umana di testi, calcoli, immagini, significanti di ogni tipo. Non è che possiamo fare finta, ora che simulano così bene da ingannarci, che non li abbiamo progettati appunto per quello, per simulare.
Ora, è vero che anche i bambini imitano molto, prima di fare da soli. Ed è vero che abbiamo un classico consiglio per chi è alle prime armi in qualcosa: Fake it till you make it, fai finta finché non ci riesci davvero. Ma c’è una bella differenza tra giocare a cucinare e cucinare davvero, e c’è una bella differenza tra girare con un foglio di carta in mano, fare domande inutili in ogni riunione, dare sempre ragione a voce alta al capo e compiere effettivamente il lavoro per cui si è pagati. L’idea sarebbe che, a forza di imitare, si impara davvero – e davvero è dove casca l’asino. Nel caso degli Llm (questi imitatori statistici della produzione linguistica umana, ci torniamo) fanno solo finta di essere coscienti o lo sono davvero?
Ebbene, sono molti i ricercatori che continuano a ripetere agli entusiasti e agli ingenui che non ci sono prove che a un certo punto i Llm (per quanto abbiano metabolizzato enormi quantità di esempi, donde l’aggettivo “Large” dell’acronimo, e non ci torniamo più) smettano di simulare e comincino a ragionare: diventano solo sempre più bravi a produrre testi indistinguibili da quelli che produrrebbe un essere umano (o immagini, o codice), al punto da poterlo fare molto più velocemente e accuratamente di come farebbe un essere umano. Ma noi esseri umani sappiamo, sentiamo, che pensiamo. Della macchina sappiamo di sicuro solo che imita.
Simulazione
E quelli che si innamorano di ChatGpt? Che si fanno dare consigli di vita da Gemini? Che intervistano Claude? Chiunque essi siano, non dimostrano che gli Llm sono coscienti, purtroppo, ma solo che gli Llm passano il test di Turing. Abbiamo effettivamente costruito una macchina che ci inganna – ma non ancora una macchina che pensa. Grazie a Turing e al suo test, abbiamo coltivato per un secolo la vaga speranza che solo il pensiero (anche se artificiale) avrebbe potuto simulare perfettamente il pensiero (umano). Oggi sappiamo che non è così: si può simulare il pensiero, senza pensare effettivamente.
Insomma: ci si è rotto il test di Turing. Era una buona, buonissima, idea. Ha convinto generazioni di menti brillantissime a inseguire un sogno e a produrre macchine e programmi sempre più sofisticati, fino alla rivoluzione tecnologica che incombe ora su di noi. Ha fatto spandere fiumi di inchiostro a filosofi, linguisti, semiotici, informatici. Ma era sbagliata. O, meglio, non era quello che abbiamo sperato che fosse: non solo un test empirico, ma una scorciatoia filosofica che ci avrebbe permesso di non dover mai dare una definizione di coscienza.
Se il test di Turing avesse funzionato come speravamo, a un certo punto della lunga catena di miglioramenti che portano da computer che si piantano per un punto e virgola fuori posto a computer che ti rispondono a tono a qualunque strampalata richiesta tu gli faccia, sarebbe emerso necessariamente un pensiero cosciente, e miracolosamente sarebbe comparso un fantasma nella macchina.
Ora invece, con buona pace di Veltroni e Dawkins, sappiamo che non è così: ci ingannano (più o meno perfettamente), ma non pensano. Ci tocca ancora il compito di definire cosa siano la coscienza e l’intelligenza, non possiamo cavarcela con il benedetto test del benedetto Turing. La coscienza può essere simulata senza essere presente, l’intelligenza può essere imitata senza che vi sia bisogno di averla. Ma siamo onesti: non è un sospetto che ci aveva già colto, di fronte a certe persone?
© Riproduzione riservata
