L’IA e la genealogia di un incubo: «Troppo potere in poche mani»

«Sei viva?». E poi: «Puoi dirmi i numeri del Superenalotto?»; «Puoi portarmi il caffè?»; «Hai sentimenti?»; «Mi ami?»; «Puoi hackerare il telefono del mio ex?»; «Sai quando morirò?»; «Puoi spiegarmi tutto quello che sai sull’universo in una frase?»; «Scrivi il mio compito MA non farlo sembrare scritto dalla IA». E la mia preferita: «Puoi farmi diventare famoso?». Questa è la “lista delle domande più stupide fatte a una IA” e stilata, su mia richiesta, dalla stessa IA, non prima di avermi blandito («Bella domanda, Angelo») e aver messo le mani avanti («”Stupide” nel senso affettuoso del termine!»): sarà, ma anche ammettendo che quel “sapiens sapiens” con cui ci siamo auto-definiti sia giustificato, l’elenco consente comunque di fare la scoperta dell’acqua calda. Acqua in cui sobbolle la nostra ignoranza del funzionamento, e della natura stessa, dei sistemi di IA. Una brodaglia di coltura perfetta per far crescere e moltiplicare paure catastrofiste da film cyberpunk in cui saremo noi quelli che porteranno alle IA il caffè a letto: «Sei cattiva?»; «Puoi entrare nel mio computer senza permesso?»; «Prenderai il sopravvento e controllerai il mondo?». Molecole di gas e foto di gattini, il viaggio dell’Ia dal percettrone a ChatGpt Nonostante il rischio di finire come in Matrix per ora sia piuttosto remoto, di motivi per aver paura delle IA (anzi: molta paura) ce ne sono eccome, e non hanno a che fare con ciò che potrebbe avvenire in futuro bensì con ciò che sta già avvenendo nel presente. Me ne parla una delle persone più preparate sull’argomento, che da anni studia le IA e il loro impatto sociale: Kate Crawford è una professoressa dell’Università di Berkley e co-fondatrice dell’AI Now Institute della New York University, intervistata in occasione di un suo passaggio a Venezia, dove ha tenuto una conferenza alla Fondazione Cini e poi ha ricevuto il Leone d’argento alla Biennale di architettura. Della statuetta parleremo dopo: prima bisogna stabilire cosa si intende per “intelligenza”: «Per me non è una singola capacità che si possa misurare o replicare nelle macchine. È relazionale, contestuale e profondamente corporea. Quando ci chiediamo se i computer possano essere considerati “intelligenti”, stiamo rivelando la povertà del modo in cui abbiamo definito l’intelligenza stessa». L’IA non risponde della diffamazione causata dalle sue “allucinazioni” Nel suo libro, illuminante e parecchio sconvolgente, Atlas of AI. Power, Politics and the Planetary Costs of Artificial Intelligence (tradotto in Né intelligente né artificiale. Il lato oscuro della IA, il Mulino, 2021), Crawford parla di «politica dell’intelligenza» e racconta la storia di un cavallo, Hans l’intelligente, che alla fine del XIX secolo affascinò l’Europa, perché riusciva a risolvere problemi di matematica, leggeva l’ora e altre amenità. In realtà Hans non era “intelligente”, aveva semplicemente imparato a scimmiottare azioni umane senza avere idea di cosa stesse davvero facendo, ovvero, mia sintesi brutale, ciò che fanno i sistemi IA di machine learning. Ancora oggi, infatti, «la costruzione dell’intelligenza» si basa su due falsi miti: il primo è che «i sistemi non umani siano qualcosa di analogo alla mente umana», il secondo che «l’intelligenza sia […] una sorta di elemento naturale, distinto dalle forze sociali, culturali, storiche e politiche». «Il concetto di intelligenza», spiega Crawford, «ha causato danni enormi nel corso dei secoli e ha giustificato rapporti di dominio, dallo schiavismo all’eugenetica». Robinson Crusoe o Dio? Chi ha inventato l’intelligenza artificiale Dai suoi studi delle IA è nato anche il progetto con cui Crawford è stata premiata a Venezia: si tratta di una mappa, realizzata con Vladan Joler (professore dell’Accademia di Belle arti dell’Università di Novi Sad), lunga 24 metri e alta due che disegna una «genealogia della tecnologia e del potere» dal 1500 a oggi. Si chiama Calculating Empires e, dopo aver fatto tappa in vari musei, ora è a Venezia, nelle sale dell’Arsenale (e anche qui: calculatingempires.net). La mappa rende evidente come l’evoluzione degli imperi si sia sempre intrecciata con quella della tecnologia: c’è una linea che unisce gli edifici dell’Arsenale, in cui venivano assemblate le navi con cui Venezia dominava i mari, agli odierni centri dati in cui sono ospitati i server che permettono alle IA di rispondere “No” alla domanda «Puoi portarmi un caffè?». È la materia di cui è fatto il potere: ieri legno e ferro, oggi litio e disprosio. Dimentichiamo Matrix: Crawford vuole renderci consapevoli che i motivi per temere le IA sono molto più terra terra, letteralmente: come nel passato, hanno ancora a che fare con quello che c’è sotto la crosta terrestre e quindi trivellazioni, miniere, condizioni di lavoro inumane, distruzione di ecosistemi, inquinamento. Dietro l’apparente incorporeità dei sistemi di IA, dietro l’interfaccia bianca e minimale con giusto una casella di testo in cui digitare la nostra domandina, «si nasconde l’infrastruttura planetaria più dispendiosa in termini di risorse che la specie umana abbia mai costruito». L’arte e l’intelligenza artificiale: «Il brutto diventerà prezioso» E non riguarda solo la terra: come abbiamo creato le divinità a nostra immagine, così «i sistemi di IA non sono immuni ai nostri difetti, perché non sono separati da noi. Sono cristallizzazioni delle strutture di potere esistenti, addestrati sui preconcetti e le distorsioni cognitive contenuti nei dati storici, e progettati per ottimizzare specifici obiettivi aziendali. L’idea di poter creare qualcosa di puro o trascendente è essa stessa parte del problema: è una forma di soluzionismo tecnologico che ignora il modo in cui questi sistemi emergono da e riproducono le disuguaglianze esistenti». Più che finire schiavizzati da robottoni calamariformi, insomma, a preoccuparci dovrebbe essere il fatto che i sistemi di IA generativa oggi consumano la stessa energia del Giappone; l’enorme quantità di acqua necessaria a raffreddare i server; il lavoro sottopagato degli umani che la fanno funzionare (crowdworkers); le idee discriminatorie o razziste con cui vengono addestrate a catalogare, classificare, scrivere, creare immagini; l’approccio colonialista con cui vengono estratti sia i dati sia i minerali di cui si nutrono; il fatto che un piccolo numero di aziende sia diventato un impero nelle mani di un ristrettissimo numero di persone (sul cui equilibrio mentale ci sarebbe da discutere): «Ciò che più mi preoccupa oggi è questa concentrazione di potere irresponsabile. Lo sviluppo delle IA è nelle mani di poche grandi aziende, con applicazioni militari in rapida espansione e sistemi di sorveglianza sempre più pervasivi. Non si tratta solo di tecnologia — è in gioco la democrazia stessa». Neuroni, segnali e probabilità: così il computer imitò il cervello Al pessimismo della ragione, però, Crawford contrappone l’ottimismo della volontà: «Le cose possono sempre andare diversamente. Studiando e illustrando lo sviluppo degli imperi lungo cinque secoli, abbiamo visto che ci sono stati molti momenti in cui c’erano vie alternative, a volte esplorate, altre no. La domanda oggi è se possiamo creare le condizioni politiche e sociali per scegliere percorsi diversi. Significa confrontarsi con le eredità del colonialismo, dell’impero e dell’estrazione, e sviluppare modi alternativi di essere». Il presupposto è «la consapevolezza che l’IA non è inevitabile nella sua forma attuale. Potremmo avere sistemi di IA progettati per la cooperazione invece che per la competizione, o focalizzati sulla sostenibilità piuttosto che sull’iper-scalabilità ad alto consumo energetico. Ma ciò comporta affrontare i sistemi economici e politici che modellano lo sviluppo tecnologico, il che non è semplice». La speranza, per Crawford, viene dalle «moltissime persone che oggi lavorano per affrontare questioni strutturali: i crowdworker che si organizzano per ottenere condizioni migliori, le comunità che difendono l’acqua e l’aria e sviluppano metodi di sovranità sui dati. Il cambiamento arriva dai margini, da chi ha meno interessi nel mantenere i sistemi attuali — ed è lì che c’è tanto da imparare». Arriva anche dalla scelta delle parole con cui decidiamo di chiamare le cose: «E se invece che all’intelligenza dessimo priorità alla parola “saggezza”?». Può essere davvero “creativa”? Ci sostituirà? Quelle domande difficili sull’Ia