L’Ia può sterminare l’umanità, ma solo se avrà ucciso la politica

Come fosse l’incipit di un romanzo post-apocalittico, il 9 settembre scorso un giovane ricercatore ha affidato ai social media un’inquietante confessione. Jacob Coxon, dimessosi da Anthropic, ha scritto su X che le grandi corporation impegnate nello sviluppo dell’intelligenza artificiale tengono segreta una verità minacciosa: questa intelligenza non-umana, in grado di migliorarsi da sé e di porsi fini propri, sarà presto capace di sterminare l’umanità. Dentro Anthropic, non si sono alzate voci di smentita. All’opposto, alcuni colleghi rimasti in azienda hanno stimato il rischio, tutt’altro che nullo, a oltre il 10 per cento, mentre lo stesso cofondatore dell’azienda, Dario Amodei, ha ribadito la necessità di «rallentare il ritmo» dello sviluppo. Nel frattempo, lo scontro politico segue le consuete polarità: se l’autorevole figura di Barack Obama esorta il Partito Democratico a ideare un piano organico di supervisione pubblica dell’Ia, il governo statunitense in carica, anche per voce del suo vertice, ha derubricato la questione a un’ansia allucinatoria propria di taluni profeti di sventura, nella spavalda convinzione che chi vincerà la partita dell’Ia dominerà il mondo. Per un verso, potrebbe trattarsi di una ben congegnata strategia di marketing, con voci contrastanti che studiatamente si alternano tra preoccupati ammonimenti e rassicuranti inviti alla calma: paventare una potenza operativa così sviluppata significa pur sempre certificarne il valore. Per altro verso, però, proprio questo dubbio sulla natura più profonda del dibattito in corso desta allarme e pone con urgenza una questione di interesse pubblico: un nodo decisivo come lo sviluppo di una tecnologia in grado di cambiare il mondo è di fatto rimesso per intero all’autoregolazione delle aziende che da essa traggono profitto. Xi e il tycoon obbligati ad allearsi. Altrimenti l’Ia potrà deflagrare Tra Scilla e Cariddi La questione, allora, è di natura anzitutto politica. Come troppe volte è accaduto in passato, la regolazione tende a essere affidata alla buona volontà delle imprese e, dunque, a essere disegnata a loro vantaggio, nella misura in cui queste si rivelano capaci di mobilitare capitali ed esercitare pressioni sulle istituzioni. Si badi: questo cortocircuito tra produttore e regolatore riguarda non solo la messa a punto del quadro normativo, ma la produzione stessa della conoscenza su cui questo quadro dovrebbe fondarsi. Quando l’unico soggetto in possesso delle informazioni indispensabili per valutare la sicurezza di un farmaco, la tenuta di un derivato finanziario o la minaccia rappresentata da un modello di Ia è lo stesso soggetto che lucra sulla sua diffusione, le istituzioni pubbliche si affidano a un sapere prodotto e selezionato dalla parte interessata. Al di là, dunque, della sviante polemica da giallo fantascientifico, il tema dirimente riguarda il modo in cui lo sviluppo dell’Ia incalza e logora la capacità della politica di qualificare un bene come pubblico e di valutare i danni connessi alla sua produzione. Gli Usa fanno da testa d’ariete per un sistema di autoregolamentazione. L’ordine esecutivo firmato da Donald Trump l’11 dicembre 2025 mira a neutralizzare le leggi statali sull’Ia, in continuità con la linea sostenuta da David Sacks, fino a marzo scorso consigliere chiave della Casa Bianca nel settore: si esortano i laboratori a continuare a operare secondo linee guida tutte interne e a non curarsi delle invadenti pretese delle istituzioni. Sul fronte europeo il quadro sembra più rinfrancante e saldo, ma potrebbe trattarsi di un abbaglio. Dal 2 agosto 2026 l’AI Act dell’Unione europea impone che i contenuti generati da Ia siano dichiarati come tali, e affianca all’obbligo un apparato di reclami, canali per il whistleblowing e sanzioni pecuniarie. Il resto, però, è già slittato: il regolamento omnibus entrato in vigore il 27 luglio ha rinviato al dicembre 2027 gli obblighi di documentazione e conformità per i sistemi ad alto rischio, e al 2028 quelli per l’Ia incorporata nei prodotti regolati. Speriamo di arrivarci. Siamo quindi catturati tra la Scilla dell’autoregolazione e la Cariddi della tutela del consumatore. Questa Cariddi europea, per giunta, potrebbe rivelarsi più insidiosa delle aperte dichiarazioni d’amore di Trump per le corporations e la loro morale endogena. In effetti, come sostiene la giurista belga Nathalie Smuha, la cornice entro cui le istituzioni europee stanno tentando di governare il fenomeno è quella dei diritti fondamentali, quali dignità, privacy e non discriminazione: un impianto costruito su titolari di protezioni individuali chiamati ad agire in via di autotutela. Dietro gli allarmi apocalittici di Amodei, Altman & co c’è la sfida per il monopolio sull’Ia I limiti delle tutele Questo impianto liberale, individualista, rispettosissimo del libero mercato, non tiene conto della portata del problema e delle sue conseguenze, che eccedono di gran lunga l’interesse del singolo cittadino e del singolo consumatore. Ne va infatti di un bene dalle potenziali esternalità di natura inesorabilmente collettiva e sociale, in un contesto caratterizzato dalla pressoché totale opacità dei saperi e dalla limitata capacità di valutazione del danno da parte di soggetti individuali, che potrebbero prestare il consenso a pratiche dannose e di lungo corso in vista di un vantaggio immediato (si pensi, ad esempio, al consenso alla profilazione in cambio di un servizio gratuito – e qui chi è senza “accetta tutto” immediato, scagli il primo mouse). Piuttosto, la categoria che bisogna mobilitare per una regolazione piena ed efficace è quella di “bene comune”, per sua natura refrattaria alla gestione dei privati, come l’ambiente e l’acqua. C’è bisogno di un apparato di controllo condiviso e gestito collettivamente, che tratti i laboratori di Ia come infrastrutture essenziali, soggette a obblighi di gestione e a poteri speciali di intervento pubblico, innestati sulla categoria di “rischio sistemico”. Al contempo, occorre consentire agli istituti universitari e ai centri di studio indipendenti di esercitare un controllo sulle infrastrutture critiche, che certo non ne espropri la proprietà intellettuale, ma che vigili sulla produzione dei saperi e li sottoponga a costante scrutinio – anche in campi strategici come quello militare, a tutt’oggi colpevolmente escluso persino dalla più occhiuta regolazione europea. La battaglia infinita tra la democrazia e i tecnomiliardari Ripoliticizzare il diritto Invocare la categoria di bene comune significa imprimere un indirizzo politico allo sviluppo dei modelli di Ia, capace al contempo di reperire ingenti risorse e di assicurare che la ricerca scorra lungo binari decisi in sede pubblica, al di là dei confini nazionali. In questo senso, è il momento di utilizzare l’Ia e i rischi connessi per una ripoliticizzazione del diritto sovranazionale – esperimento sempre fallito ma troppo prezioso per un congedo definitivo – tramite un’agenda globale deliberata, con priorità e limiti. La politica, se tale dev’essere, non può rimettersi alla buona disposizione di chi investe e deve anzi saper porre un limite, persino, se necessario, a danno dello sviluppo economico. Impedire la fine della politica è, oggi come sempre, una scelta intimamente politica: ne va innanzitutto dell’autogoverno dei popoli, prima che del loro potenziale eccidio ad opera delle macchine.