Parlare senza comprendere: ecco in cosa è brava ChatGpt

C.J. Polychroniou. L’intelligenza artificiale come disciplina scientifica risale agli anni Cinquanta, ma negli ultimi vent’anni si è fatta strada in tutti i settori, da quello bancario a quello assicurativo, automobilistico, musicale e della difesa. In effetti, è stato dimostrato che in alcuni casi l’intelligenza artificiale supera le capacità umane, come nel gioco degli scacchi. Le macchine diventeranno più intelligenti degli esseri umani? Noam Chomsky: Giusto per chiarire la terminologia, la parola «macchina» in questo caso significa «programma», sostanzialmente una teoria scritta in un sistema di notazione che può essere eseguita da un computer. Una forma insolita di teoria sotto diversi punti di vista che però possiamo tralasciare in questa sede. Possiamo fare una distinzione approssimativa tra ingegneria pura e scienza. Non esiste un confine netto, ma è una prima utile approssimazione. L’ingegneria pura cerca di creare un prodotto che sia di qualche utilità. La scienza ricerca la comprensione. Se il tema è l’intelligenza umana o le capacità cognitive di altri organismi, la scienza ricercherà la comprensione di questi sistemi biologici. Per quanto ne so, i fondatori dell’intelligenza artificiale – Alan Turing, Herbert Simon, Marvin Minsky e altri – la consideravano una scienza, una parte delle scienze cognitive allora emergenti, e utilizzavano le nuove tecnologie e scoperte nel campo della teoria matematica della computazione per far progredire la comprensione. Nel corso degli anni questo approccio è passato in secondo piano ed è stato in buona parte rimpiazzato da un orientamento ingegneristico. Il metodo di un tempo oramai viene liquidato, a volte con condiscendenza, come «gofai»: good old-fashioned Ai («la cara vecchia intelligenza artificiale»). Superare l’umano Continuando con la tua domanda, verranno progettati programmi in grado di superare le capacità umane? Dobbiamo stare attenti alla parola «capacità», per ragioni sulle quali tornerò dopo. Ma se usiamo il termine in riferimento alla prestazione umana, allora la risposta è: decisamente sì. In realtà è così da molto tempo: il calcolatore del computer, per esempio. Supera di gran lunga le capacità umane, se non altro per mancanza di tempo e memoria. Quanto ai sistemi chiusi come gli scacchi, negli anni Cinquanta già si sapeva che prima o poi, con il progredire delle capacità di calcolo e un lungo periodo di preparazione, si sarebbe arrivati a ideare un programma in grado di battere un grande maestro, che gioca con una memoria e un tempo limitati. I traguardi raggiunti qualche anno dopo furono una grande vittoria pubblicitaria per l’ibm. Numerosi organismi biologici superano le facoltà cognitive umane in modi ben più sostanziali. Le formiche del deserto che vivono nel mio giardino hanno cervelli minuscoli, ma la loro capacità di orientamento supera di molto quella degli esseri umani, a livello strutturale, non soltanto come prestazione. Non esiste una Grande catena dell’Essere con gli esseri umani al vertice. I prodotti dell’ingegneria Ia vengono utilizzati in svariati campi, nel bene e nel male. Anche quelli semplici e a noi familiari possono essere molto utili: nell’area linguistica, tra gli altri, programmi come la compilazione automatica, la trascrizione istantanea, il traduttore di Google. Con una potenza di elaborazione maggiore e una programmazione più sofisticata, potrebbero esserci altre applicazioni utili, anche nel campo delle scienze. Alcune già ci sono: l’assistenza allo studio del ripiegamento delle proteine è un caso recente in cui la rapida e corposa ricerca tecnologica ha aiutato gli scienziati ad affrontare un problema fondamentale e ostico. Il bivio dell’Ia I progetti ingegneristici possono essere utili ma anche dannosi. Entrambe le opzioni si presentano anche nel campo dell’intelligenza artificiale. Le recenti applicazioni dei modelli linguistici di grandi dimensioni (Large Language Model, llm), compresi i chatbot, possono essere strumenti di disinformazione e diffamazione e fuorviare le persone scarsamente informate. Tali minacce si aggravano se associate ad immagini artificiali e a generatori vocali. Spinti da timori di vario tipo, decine di migliaia di ricercatori nel campo dell’Ia hanno recentemente sollecitato una moratoria sullo sviluppo dell’intelligenza artificiale per via dei pericoli potenziali che vi intravedono. Come sempre, i possibili benefici della tecnologia vanno soppesati alla luce dei costi potenziali. Nell’affrontare la questione dell’intelligenza artificiale e della scienza sorgono diversi interrogativi. In questo caso la cautela è d’obbligo alla luce dei proclami spropositati e sconsiderati, spesso amplificati dai mezzi d’informazione. Per chiarire la questione, prendiamo in esame alcuni casi, alcuni ipotetici, altri reali. Ho già citato il sistema di navigazione degli insetti, che è un’evoluzione sorprendente. Gli entomologi hanno fatto molti progressi nello studio di come esso si sviluppi, ma la neurofisiologia, una materia molto difficile, rimane sfuggente, assieme all’evoluzione di quel sistema. Lo stesso vale per le straordinarie imprese degli uccelli e delle tartarughe marine, che viaggino per migliaia di chilometri e ritornano infallibilmente al luogo di origine. Supponiamo che arrivi Mario Rossi, sostenitore dell’ingegneria Ia, e dica: «Il vostro lavoro è stato confutato da cima a fondo. Il problema è risolto. I piloti delle compagnie aeree raggiungono già gli stessi risultati, se non addirittura migliori». Se ci prendessimo la briga di rispondere, lo faremmo con una risata. Prendiamo il caso delle imprese marinare dei polinesiani, ancora vive tra le tribù aborigene, che usano le stelle, il vento e le correnti per far arrivare le loro canoe in un punto designato a centinaia di chilometri di distanza. Anche questo è stato oggetto di molte ricerche per scoprire come fanno. Mario Rossi ha la risposta: «Smettetela di sprecare il vostro tempo. Le navi da guerra lo fanno già». Stessa risposta. Esaminiamo adesso un caso reale, l’acquisizione del linguaggio. Negli ultimi anni la materia è stata oggetto di ricerche vaste e illuminanti, che hanno dimostrato come i bambini piccoli possiedano una conoscenza ricchissima del linguaggio, o dei linguaggi ambientali, ben superiore a quella che mostrano nelle prestazioni. Si può verificarlo con poche prove e in alcuni casi senza alcuna prova. Nella migliore delle ipotesi, come hanno dimostrato attenti studi statistici, i dati disponibili sono scarsi, in particolare quando si tiene conto del rapporto tra rango e frequenza («legge di Zipf»). A questo punto interviene Mario Rossi: «Siete stati confutati. Senza badare alle vostre scoperte, i llm elaborano quantità astronomiche di dati e possono trovare regolarità statistiche che consentono di simulare i dati su cui sono addestrati, producendo qualcosa di molto simile al normale comportamento umano. I chatbot». Questo caso è diverso dagli altri. Innanzitutto, è reale. In secondo luogo, non suscita nessuna risata; al contrario, molti ne sono intimoriti. In terzo luogo, a differenza dei casi ipotetici, i risultati concreti sono molto distanti da quanto affermato. I problemi Tali considerazioni sollevano un piccolo problema rispetto all’entusiasmo ormai dilagante per i llm: la sua totale assurdità, come nei casi ipotetici in cui la percepiamo all’istante. Ma ci sono problemi ben più seri dell’assurdità. Il primo è che i sistemi llm sono progettati in modo tale da non poterci dire nulla sul linguaggio, sull’apprendimento o su altri aspetti della cognizione, una questione di principio irrimediabile. Raddoppiate i terabyte di dati elaborati, aggiungete altri milioni di miliardi di parametri, usate più energia di quanta ne produca la California e la simulazione del comportamento migliorerà, ma allo stesso tempo mostrerà ancora di più l’incapacità strutturale di questo approccio di contribuire alla comprensione. Il motivo è elementare: i sistemi funzionano altrettanto bene con le lingue impossibili che i bambini non possono acquisire così come con quelle che essi acquisiscono rapidamente e in modo quasi istintivo. È come se un biologo dicesse: «Ho una nuova splendida teoria sugli organismi. Ne include molti esistenti e diversi che non possono esistere, ma non so dirvi nel modo più assoluto quali siano le differenze».