L’Ia è uno strumento? Sì, come una pistola. Perché servono regole prima che sia tardi

Non sono le armi che uccidono. Ma le persone». «L’intelligenza artificiale (Ia) è solo uno strumento. Le decisioni finali, il giudizio sulla base delle informazioni fornite, spetteranno sempre agli esseri umani». La prima affermazione riprende lo slogan con cui la National Rifle Association si oppose negli Usa alla regolamentazione dell’uso delle armi: Guns don’t kill people. People kill people. I liberal americani ne hanno contestato per decenni la logica: è ovvio, perché le armi non sparano da sole; fallace, perché una minore disponibilità di armi ridurrebbe il numero di persone in grado di usarle e quindi stragi e incidenti; ideologico, perché trasforma il possesso di armi in un fatto puramente individuale, ignorando istituzioni, tecnologia, condizioni sociali, cultura e interessi economici. Le armi di oggi, per esempio, non sono paragonabili a quelle dell’epoca del Secondo emendamento. E disagio sociale o pressione dell’industria possono amplificare i rischi e condizionare le regole. Le conquiste legislative sono rimaste modeste, ma questa contronarrazione ha avuto un merito: mostrare che la diffusione delle armi non è un dato di natura, bensì il risultato di precise scelte collettive. Lo stesso spirito critico è quasi mancato di fronte alla seconda affermazione, molto in voga in questi anni. Eppure il parallelismo è evidente. Dire che l’Ia è «solo uno strumento» e che alla fine saranno sempre gli esseri umani a decidere elude domande fondamentali: quali esseri umani? Con quali interessi, incentivi e potere? Per rispondere può essere utile descrivere come, e in quale direzione, queste tecnologie si stanno sviluppando. ÈlaprimagenerazionelaureataconChatGpt.Oraincombeillavoro Costi e ricavi Dal punto di vista tecnico-economico, la caratteristica più saliente sono gli enormi costi di sviluppo e mantenimento di queste tecnologie. Raccogliere ed elaborare i dati che “nutrono” i large language model (Llm) e consentono loro di rispondere alle richieste degli utenti richiede enorme potenza di calcolo, materiale per costruire “data center”, spazio per ospitarli, energia per attivarli, acqua per raffreddarli. E personale qualificato da retribuire profumatamente. L’opinione prevalente nel settore è che per migliorare i modelli sia necessario continuare ad aumentare questi investimenti, insomma che non ci siano economie di scala rilevanti. Ai costi elevati non corrisponde nulla di comparabile dal lato dei ricavi. Le stime più attendibili indicano che, a fronte di oltre 1.500 miliardi di dollari di investimenti complessivi, i ricavi effettivi annui degli Llm, vicini allo zero nei primi anni, sono oggi intorno ai 50 miliardi. Per ogni mille dollari di ricavi, inoltre, le spese operative sono tra i 3mila e i 5mila. Finora questo divario è stato crescente, e non si intravede il momento in cui la tendenza si invertirà, sia per mancanza di idee su come offrire con profitto questi servizi, sia per la concorrenza internazionale che spinge i prezzi al ribasso. La conseguenza è che soltanto poche imprese possono permettersi contemporaneamente investimenti giganteschi e perdite prolungate, nella speranza che il settore si concentri intorno a pochissimi vincitori capaci di ottenere rendimenti sufficienti a remunerare il capitale investito. E per convincere gli investitori di essere il cavallo vincente non basta migliorare i propri prodotti. Bisogna promettere cambiamenti epocali e imminenti. Da qui gli annunci sull’avvento dell’intelligenza artificiale generale (Agi), cioè macchine capaci di riprodurre o superare le capacità cognitive umane; il conio di espressioni come “intelligenza artificiale trasformativa” (di cosa?); la suspense sull’arrivo di modelli talmente potenti da dover essere tenuti segreti per proteggere un’umanità non ancora pronta a riceverli. A dare sostegno accademico a queste favole spesso intervengono (ahimè) anche studiosi di varia fama. In un contesto in cui università, laboratori e singoli ricercatori dipendono sempre più dai finanziamenti delle grandi aziende tecnologiche, è naturale preoccuparsi dei possibili conflitti di interessi di questi “esperti”. Cosìcisiamoconsegnati all’intelligenzaartificialedell’Impero Promesse appetibili Alle iperboli poi si aggiungono promesse di sviluppare queste tecnologie in direzioni appetibili per gli investitori e le imprese che potrebbero adottarle. Una promessa su tutte: ridurre i costi del lavoro, in termini di salari, occupazione, libertà e potere contrattuale. Molte imprese privilegiano la sostituzione del lavoro umano rispetto al suo rafforzamento e miglioramento, insieme a forme sempre più pervasive di sorveglianza dei dipendenti. Da possibilità incorporate nella tecnologia, automazione e vigilanza diventano una scelta che risponde a precisi incentivi economici. E, perché le imprese ottengano questi tagli in fretta e realizzino profitti, i finanziatori accettano spesso strutture societarie che garantiscono scarsa trasparenza o un potere eccezionale ai fondatori. Per riassumere: i modelli di Ia generativa e agentica hanno costi enormi e crescenti; non si vedono soluzioni che rendano il settore profittevole; gli investimenti si concentrano in poche imprese, e ognuna cerca di monopolizzarli; per ottenere questo primato, si promettono rivoluzioni come l’Agi, ma anche e soprattutto automazione e sorveglianza; a fronte di questi prospetti, gli investitori tollerano forme di governo delle imprese opache e con poteri concentrati in pochi individui. Insomma, è pur vero che le decisioni sulle direzioni che prenderà lo sviluppo dell’Ia dipendono da esseri umani. Ma queste persone si contano sulle dita magari non di una, ma di due mani. A loro stiamo delegando, di fatto, la configurazione di questa rivoluzione industriale. Tutti rigorosamente maschi, i membri di questo gruppetto includono suprematisti bianchi che con un click hanno cancellato programmi pubblici di aiuto allo sviluppo provocando la morte di migliaia di bambini, imprenditori che hanno configurato le loro piattaforme di social media per generare dipendenza psicologica e cognitiva, bugiardi seriali che mentono ai propri azionisti, pseudo-intellettuali che straparlano di incompatibilità fra libertà e democrazia, e spingono per un impiego sempre maggiore dell’IA in campo bellico, falsi sostenitori della libertà di stampa che silenziano i giornalisti, frequentatori diretti e indiretti di criminali pedofili. E, tutti o quasi, entusiasti spettatori all’inaugurazione della seconda presidenza Trump (ma anche, in precedenza, sostenitori di presidenti democratici). Ilcostoambientaledeidatacenter Sistemi inseparabili Nel frattempo siamo stati ammaliati dallo scrolling infinito e gratuito sui social media; impegnati nell’esegesi di chi mette un cuoricino a chi; sedotti dalla presunta “abbondanza” di informazione, merci e servizi a prezzi stracciati. Si è finito per banalizzare concetti complessi come efficienza, produttività e benessere, con la complicità di presunti esperti che hanno fatto strame di decenni di pensiero economico e sociale in cambio di un piatto di lenticchie e qualche volo in classe business. Nel diluvio di stimoli continui, è diventato sempre più difficile distinguere fatti e propaganda. Alcune narrazioni si impongono non per la loro validità, ma per la forza economica di chi le impone. E si ignora spesso il pensiero e i moniti di chi da anni descrive i rischi di un ritorno a società oligarchiche e plutocratiche: da Aaron Swartz a Cathy O’Neil, da Meredith Whittaker a Frank Foer, da Jill Lepore a Quinn Slobodian, da Cory Doctorow a Gil Duran e Safiya Noble. Questi autori convergono su un punto fondamentale: non si può separare una tecnologia – siano armi da fuoco o Llm – dal sistema economico, politico e istituzionale nel quale viene sviluppata e dalle direzioni che gli esseri umani decidono di darle. Il problema, quindi, non è se l’intelligenza artificiale possieda una volontà propria. Ovviamente non ce l’ha, così come non ce l’ha un kalashnikov. Il problema è chi la costruisce, ne possiede le infrastrutture, stabilisce gli obiettivi dei sistemi, decide dove applicarli, e ne trae profitto. Aspettare che gli effetti peggiori si manifestino pienamente prima di intervenire potrebbe essere troppo tardi. Regolare gli usi dell’Ia fin dall’inizio, e poi continuamente durante il suo sviluppo, attraverso istituzioni indipendenti e democraticamente responsabili, non è opporsi al progresso. Significa impedire che tecnologie presentate come destinate a trasformare l’intera società vengano sviluppate attraverso processi decisionali sui quali la società dispone di pochissimo controllo ma rischia di subirne tutti i rischi.