Per l’autore di More Everything Forever la paura di una superintelligenza che distrugga o salvi l’umanità non ha basi scientifiche e distrae dai danni già presenti: «La buona notizia è che con le regole democratiche possiamo cambiare l’ecosistema tecnologico»
Giornalista e astrofisico, Adam Becker è autore di More Everything Forever, un saggio sulla concentrazione di potere nelle mani delle Big tech e critico verso gli imprenditori della Silicon Valley convinti che siano la tecnologia e chi la controlla a poter decidere per l’umanità.
Il 26 settembre sarà al Dig Festival di Modena per il talk Imperi generativi e per l’anteprima italiana di Ghost in the Machine, documentario sulle radici politiche e culturali dell’intelligenza artificiale, diretto da Valerie Veatch. Due eventi per discutere sull’attualità dell’Ia, nel momento in cui il dibattito sul suo futuro si è acceso, con aziende come OpenAi e Anthropic che chiedono all’amministrazione degli Stati Uniti di regolamentare e rallentare lo sviluppo dei sistemi di intelligenza artificiale per evitare probabili gravi danni collaterali. E Trump che rifiuta di porre un freno al suo sviluppo per non perdere la competizione con la Cina.
In More Everything Forever sostiene che il racconto del “rischio esistenziale” rafforzi proprio le aziende che sviluppano l'Ia. Quello che sta accadendo conferma la sua tesi o c’è un pericolo?
Il rischio reale che vedo è che questa narrativa venga usata per concentrare ancora più ricchezza e potere nelle mani delle aziende che sviluppano l’Ia. L’idea che possa rappresentare un rischio esistenziale per l’umanità o, al contrario, salvarla, poggia soprattutto su scenari di fantascienza, non su basi scientifiche. Questa narrativa produce, però, effetti concreti: alimenta l’hype, attribuendo ai sistemi capacità quasi sovrumane. E sposta l’attenzione dai danni già presenti: gli effetti psicologici su chi li utilizza, le condizioni di chi lavora per addestrarli, l’appropriazione della proprietà intellettuale e l’enorme consumo di acqua ed energia dei data center, per fare alcuni esempi.
In Ghost in the machine c’è un’altra tesi molto forte: che alcune idee alla base dell’Ia abbiano radici razziste, misogine ed eugenetiche. Quell’eredità è ancora visibile?
Sì. Osservando alcune comunità di cui parlo anche nel libro - come gli altruisti efficaci, i razionalisti e altri sostenitori di quella che chiamo “ideologia della salvezza tecnologica” - si ritrova una logica eugenetica: l’idea che l’intelligenza sia qualcosa di unico, misurabile e migliorabile, un numero da far crescere. In questi ambienti esiste anche sostegno alla cosiddetta race science, la pseudoscienza che attribuisce differenze innate di intelligenza alle diverse razze, e a progetti neo-eugenetici come il pronatalismo. Sono comunità in larga maggioranza composte da maschi bianchi, in cui si ripetono casi di aggressioni sessuali. Questa eredità si riflette anche nei sistemi. Il paper Stochastic Parrots di Timnit Gebru, Emily Bender e altre ricercatrici mostra come i grandi modelli linguistici possano assorbire linguaggio e visione del mondo presenti nei dati su cui vengono addestrati e riproporli con un tono autorevole, riproducendo pregiudizi razzisti e sessisti già esistenti. È in questo senso che, come dice la filosofa Vallor, l’Ia è uno specchio della società: non inventa pregiudizi, ma può rifletterli, amplificarli e presentarli come neutrali.
Quindi dobbiamo andare contro l’Ia? O, se il problema è il modo in cui viene costruita e governata, che facciamo per cambiare lo stato delle cose?
Dipende da cosa intendiamo per Ia: Oggi è anche un termine di marketing. Se parliamo dei sistemi generativi attuali, come grandi modelli linguistici e chatbot, il problema è il modo in cui vengono costruiti, addestrati e controllati. Questo non significa rifiutarli in assoluto: alcuni usi possono essere utili. Ma serve un ecosistema tecnologico diverso. La buona notizia è che possiamo costruirlo: è un problema creato dagli esseri umani e può avere una soluzione umana. Anche la nostra dipendenza dalle infrastrutture delle Big tech non è inevitabile.
In un dibattito dominato da Usa e Cina, che ruolo ha l’Ue?
Con Trump gli Stati Uniti non guideranno la legislazione federale sulla tecnologia. Questo crea un’opportunità per l’Europa, che ha già mostrato leadership nella tutela della privacy. Potrebbe imporre limiti molto concreti. Se, per esempio, stabilisse che un modello capace di generare pornografia deepfake deve essere ritirato, costringerebbe le aziende a risolvere il problema oppure a rinunciare al mercato europeo. Sarebbe un modo per mostrare che esiste un modello diverso da quello americano: regole pubbliche capaci di imporre limiti alle aziende tecnologiche.
Quindi possiamo leggere nelle sue parole un messaggio di speranza: la democrazia che prevale sulla legge del più forte?
Sì, è quello che sto dicendo. Negli Usa ci sono troppi soldi nella politica, ma spendere più degli altri non significa vincere. Ci sono molti casi, a livello locale e federale, in cui il candidato con più soldi ha perso. Possiamo vincere questa battaglia. Sarà difficile, ma possiamo.
© Riproduzione riservata
