L’Ia riscrive anche la guerra. Cercasi subito regole ad hoc

La guerra in Iran ha riportato al centro del dibattito il ruolo dell’Intelligenza artificiale nel contesto bellico. L’esercito americano sta impiegando sistemi supportati dall’Ia e in grado di fornire opzioni di attacco molto più rapidamente rispetto alle procedure tradizionali. Grazie all’Ia, la cosiddetta “kill chain", ossia il percorso che va dall’identificazione e dalla definizione delle priorità del bersaglio alla scelta dell’arma, fino alla valutazione dei danni, viene effettuato in un tempo molto più breve rispetto al passato e con un limitato intervento umano. In questo sistema definito del “man-in-the-loop”, il compito di dare il via libera all’attacco spetta ancora all’operatore umano, che si serve però dei dati elaborati dall’Intelligenza artificiale. Nel contesto della guerra in Iran, il Pentagono utilizza principalmente il sistema operativo Maven Smart System di Palantir, supportato dal modello Claude di Anthropic. Nel giro di qualche mese, però, Claude verrà sostituito da un modello creato da OpenAI, dopo che Anthropic ha deciso di rescindere il contratto con il Pentagono. L’azienda ha rotto con l’amministrazione americana perché non ha ricevuto garanzie sul fatto che il suo modello non sarebbe stato utilizzato per sorvegliare i cittadini americani e per lo sviluppo di armi completamente autonome. Lo scontro tra Pentagono e Anthropic non è un problema solo americano. L’Intelligenza artificiale continua ad avanzare in tempi molto rapidi, mentre sono stati fatti pochi passi in avanti nella sua regolamentazione. A livello internazionale l’Onu ha nominato, a febbraio, un comitato scientifico composto da 40 membri che studierà i rischi, le opportunità e gli impatti dell’Intelligenza artificiale e il segretario generale, António Guterres, ha raccomandato agli stati di approvare entro il 2026 uno strumento giuridicamente vincolante che vieti i sistemi di armi autonome letali. Tuttavia, nonostante anni di discussioni su un possibile quadro regolamentare, manca ancora un accordo tra le grandi potenze. Stati Uniti, Russia e Cina sono contrari a un Trattato che proibisca l’uso delle armi autonome, preferendo invece l’adozione di un loro «uso responsabile». Noi, arresi alla macchina. L’intelligenza artificiale è una gabbia perfetta Mancanza di responsabilità Uno degli argomenti più discussi nella regolamentazione dell’Ia nei contesti bellici è quello dell’accountability. Il diritto internazionale si basa fondamentalmente sul giudizio umano per garantire principi come quello della proporzionalità, facilitando così l’attribuzione di responsabilità, che si tratti di quella individuale o statale. Le armi autonome, però, portano con sé livelli di complessità tali da rendere altamente problematico dimostrare l'intenzionalità o la negligenza da parte di sviluppatori, militari o semplici operatori. Anche i bias presenti nei modelli Ia non sono da sottovalutare. Come spiega il Sipri, distorsioni indesiderate e involontarie nei sistemi di Ia militari possono essere introdotte in diversi momenti durante il loro sviluppo e utilizzo. In ambito militare, ciò comporta rischi per i civili, che potrebbero essere invece identificati come soggetti attivi nel conflitto. Questo rischio è particolarmente evidente nelle armi autonome, ma anche i sistemi che lasciano la decisione finale all’uomo possono indurre a questo errore. L’operatore umano è portato ad avere fiducia nelle conclusioni tratte dall’Ia, senza considerare che la soluzione offerta potrebbe invece essere compromessa a causa di un database distorto. Anche a livello europeo la situazione non è delle migliori. L’Unione ha approvato l’Ai Act, ma il regolamento non si applica ai sistemi di Intelligenza artificiale sviluppati o utilizzati «esclusivamente per scopi militari, di difesa o di sicurezza nazionale», secondo quanto stabilito dall’articolo 2 comma 3. Nel mentre, però, il settore della difesa europeo continua a sviluppare e implementare sistemi che utilizzano l’Ia senza dover sottostare alle limitazioni imposte in ambito civile a tutela dei diritti dei cittadini europei. Ciò significa che i sistemi di Ia militari possono essere addestrati su set di dati classificati e che possono presentare dei bias operativi. Inoltre, viene meno quella valutazione di conformità alle norme in materia di gestione del rischio, governance dei dati e sicurezza informatica che si applica invece al settore civile. L’esclusione del settore militare dall’Ai Act non tiene in considerazione un altro fatto: le tecnologie sviluppate per la difesa possono essere usate anche per la sicurezza. Le forze di polizia, quindi, potrebbero usare uno strumento creato per scopi militari che non è dovuto passare per i controlli imposti dal regolamento europeo nel suo processo di creazione. Tutte queste criticità dovrebbero essere affrontate rapidamente a livello europeo, anche perché esistono già dei progetti di difesa finanziati con fondi comunitari che stanno sviluppando sistemi di Ia con potenziali applicazioni a duplice uso. La forzatura del Pentagono: costringere Anthropic a un’intelligenza artificiale amorale