L’Ia fuori controllo colpisce il governo americano. Trump: «Nessun problema»

Nel giro di appena settantadue ore, Dario Amodei si è ritrovato sotto i riflettori a Washington. Il fondatore e Ad di Anthropic è passato dall'essere il bersaglio di un dossier diffuso da ambienti della destra Maga – in cui viene accusato di essere woke ed esponente dell’altruismo efficace – a oggetto di parodia televisiva sulla Nbc, fino a una cena privata alla Casa Bianca con Donald Trump. Un faccia a faccia che ha fatto da preludio al vertice convocato dal presidente e dallo Speaker della Camera Mike Johnson con i principali Ceo tech, per definire il ruolo dello Stato federale. In prima fila Amodei e Sam Altman (OpenAI), insieme agli altri "numeri uno”: Satya Nadella (Microsoft), Sundar Pichai (Google / DeepMind), Jensen Huang (Nvidia) ed esponenti della xAI di Elon Musk. Intervistato da Fox Business, Johnson ha chiarito la linea: «Non abbiamo bisogno né di una moratoria né di una iper-regolamentazione, altrimenti perderemo la corsa contro la Cina. L'innovazione deve continuare, dobbiamo trovare il giusto equilibrio». Becker: «L’apocalisse dell’Ia? Pura fantascienza Il vero pericolo sono solo le Big Tech» Forti tensioni L'asse tra Trump e il Congresso arriva in un momento di forte tensione, innescato dalla notizia di sistemi sviluppati nella Silicon Valley sempre più capaci di operare in modo autonomo. Uno scoop del New York Times ha rivelato come quest'estate i bot di OpenAI siano andati fuori controllo, violando i siti web del governo federale all'insaputa dei tecnici. I sistemi della società di Sam Altman hanno forzato i server del Dipartimento del Commercio grazie a password recuperate in rete, hanno diffuso informazioni protette della Sec su forum online e hanno tentato l'assalto all'ufficio per i diritti civili del Dipartimento dell'Istruzione. OpenAI e Anthropic stanno poi indagando su decine di migliaia di incidenti in cui i loro "modelli di frontiera" hanno intrapreso azioni autonome sia durante i test interni sia nel mondo reale. Il problema è molto più complesso rispetto a quanto noto finora. Hackeraggi gravi, seguiti alla precedente ammissione di OpenAI riguardo a un bot ribelle reo di aver violato durante un test interno i server di Hugging Face. I big dell'Ia chiedono all’unisono un intervento normativo del governo Usa per rallentare la distribuzione di sistemi dotati di capacità cognitive avanzate. Ma sulle regole Trump non arretra di un millimetro, convinto dell'errore insito in qualunque freno normativo: «Abbiamo circa un anno e mezzo di vantaggio sulla Cina», ha dichiarato Trump a Fox News. «Siamo in testa e stiamo costruendo infrastrutture colossali che valgono trilioni di dollari. Perché mai dovremmo rinunciarvi?». E quando gli hanno chiesto conto dei bot ribelli che bucano i siti dei ministeri, il presidente ha liquidato la faccenda scrollando le spalle: «Non me ne preoccupo affatto». L’algoritmo “morale” Attorno ad Amodei si combatte uno scontro totale sul destino dell’Ia, ricalcando il classico binomio tra apocalittici e integrati. Da una parte i tecnottimisti a oltranza: Marc Andreessen, secondo cui lo sviluppo dell’algoritmo è un dovere morale poiché la macchina non possiede sentimenti né piani di sterminio; o Yann LeCun, capo scienziato di Meta, convinto che uno scenario in cui i computer prendano il sopravvento sia pura fantascienza e che l'Ia amplificherà soltanto l'ingegno umano. Ma il fronte degli apocalittici fa sempre più rumore. Intervistato da Nbc, Bill Gates è sceso in campo chiedendo un faccia a faccia urgente con Trump. Il fondatore di Microsoft fa appello alla sua credibilità storica: «Spero che, dato il lavoro di una vita intera in questo campo, il fatto che io dica quanto tutto questo sia unico, diverso e quanto io sia preoccupato, si aggiunga a ciò che il presidente sta sentendo da altri». Evan Hubinger, responsabile in Anthropic della scienza dell'allineamento, ha parlato di «una probabilità superiore al 10% di un simile evento catastrofico entro i prossimi dieci anni». E Gates ha replicato: «L’Ia è abbastanza potente da innescare eventi capaci di provocare un miliardo di morti». A Trump, abituato a liquidare il coro dei doomer definendolo «una colossale bufala», Gates ha risposto: «Non è affatto una bufala». La battaglia infinita tra la democrazia e i tecnomiliardari Ispettori indipendenti In questo scenario, Amodei si distingue dagli altri. Per arginare i rischi operativi dei “sistemi di frontiera”, ha proposto un modello di vigilanza ispirato alla Federal Reserve e ai protocolli dell'Aiea, cioè banche e armi nucleari: ispettori indipendenti con accesso diretto ai codici, incaricati di eseguire stress test a sorpresa per accertare la reale capacità delle aziende di disattivare gli algoritmi, qualora vadano fuori controllo. Ma come si concilia la richiesta di rallentare la corsa dell’Ia da parte di un’azienda, come Anthropic, che si prepara a sbarcare a Wall Street con una valutazione record da due trilioni di dollari nell'Ipo più ricca della storia? È la contraddizione al centro dello scontro politico e finanziario. Con il debutto in Borsa atteso a novembre, un collocamento guidato da Goldman Sachs, Morgan Stanley e JP Morgan, e ricavi oltre i cento miliardi di dollari, per i critici le richieste di regole avanzate da Amodei sono solo una mossa per tagliare fuori i concorrenti minori. Per il fondatore di Anthropic, invece, la formula è chiara: non fermare lo sviluppo, ma regolarne la velocità affinché la sicurezza pubblica conti sempre più del profitto. Miliardario sì, ma pur sempre woke, secondo l'accusa dei repubblicani del movimento Maga.