Anthropic ha rinunciato al rilascio del suo ultimo modello più performante Claude Mythos. Lo strumento verrà dato in dotazione ad alcune aziende selezionate, così da aumentare le proprie difese. Iniziativa simile l’ha presa OpenAI. Ma la politica, specie americana, va in un’altra direzione
Troppo potente, talmente potente da non poter essere usato. È il paradosso dell’ultimo modello di Anthropic, Claude Mythos Preview, il più performante mai realizzato. Non fosse stato per la fuga di notizie di Fortune a cui la startup ha dovuto dare spiegazioni, nessuno ne sarebbe venuto a conoscenza. Il motivo del mancato rilasciarlo va ritrovato nelle capacità del nuovo strumento di intelligenza artificiale. Le sue funzioni sono oltre l’immaginabile. «Non ci sentivamo a nostro agio nel divulgarlo al pubblico», ha spiegato alla Cnn il responsabile della sicurezza dei modelli, Logan Graham.
«Riteniamo che ci sia ancora molta strada da fare per garantire misure adeguate». Durante i test di prova, Mythos ha spaventato gli sviluppatori per le sue funzioni in materia di cybersicurezza. In realtà, ha spiegato il ceo Dario Amodei, «non lo abbiamo addestrato specificamente per essere bravo nel cyber, ma per essere bravo nel codice. Ma come effetto collaterale, è anche bravo nel cyber». L’aggettivo è riduttivo. Il modello infatti è stato in grado di rilevare migliaia di vulnerabilità zero-day – dunque sfruttabili fin da subito – nei principali sistemi e browser. Fino ad oggi, erano sfuggite ai precedenti controlli.
Mythos è stato capace di trovare falle vecchie di 27 anni nel sistema open source OpenBSD, considerato tra i più affidabili. Fosse stato rilevato da qualche male intenzionato, si sarebbe potuto mandare fuori gioco un computer da remoto. Ne ha scovata una vecchia di 16 anni nella piattaforma Ffmpeg, quando cinque milioni di test non erano stati sufficienti. Infine ne ha trovata un’altra che era nel sistema operativo FreeBSD, utilizzato in ambito server, con cui chiunque poteva ottenere l’accesso nei dispositivi.
«Se i modelli saranno così efficaci, e probabilmente anche migliori, dobbiamo prepararci in fretta», ha avvertito Graham. «Il mondo sarà molto diverso se queste capacità dei modelli entreranno a far parte della nostra vita». Il punto è sempre lo stesso, solo ribadito con più forza. La tecnologia non è di per sé buona o cattiva. Il problema è chi la utilizza. Se Claude Mythos finisse nelle mani sbagliate gli effetti potrebbero essere drammatici. Con un modello così penetrante, gli hacker di tutto il mondo potrebbero infilarsi in qualsiasi sistema. Come quelli che reggono le infrastrutture energetiche, tanto per dirne una.
Rafforzare le difese
Al posto di Claude Mythos, Anthropic ha lanciato il Project Glasswing. Si tratta di una coalizione di Big Tech selezionate che sfrutteranno una versione del modello «per scansionare e proteggere sia i sistemi proprietari che quelli open source», si legge sul blog della startup. Ne fa parte anche Apple, che intende aumentare le difese dei suoi dispositivi proprio grazie all’Ia. Un’iniziativa molto simile a quella promossa da OpenAI, riportata da Axios. La startup di Sam Altman aveva appena rilasciato il suo modello più innovativo GPT-5.3-Codex che, allo stesso modo di Claude Mythos, doveva essere gestito nel corretto modo. Per questo la società ha dato vita al programma Trusted Access for Cyber, così da permettere ad alcune aziende prescelte di utilizzare «modelli ancora più avanzati o permissivi in ambito informatico, al fine di accelerare le legittime attività difensive».
Può sembrare illogico che le aziende di intelligenza artificiale pongano un freno allo sviluppo tecnologico. Eppure sono le prime ad avvertire sui rischi che l’Ia può provocare. Nell’ultimo periodo il settore è cresciuto a dismisura, compiendo grandi balzi in avanti. Quella che si pensava essere una realtà del futuro accade già oggi. Le capacità di hacking potrebbero paralizzare interi sistemi critici e intrufolarsi nelle istituzioni nemiche.
La palla passa quindi alla politica. Ma la situazione è confusionaria. Chi propende per la regolamentazione, come l’Unione europea, deve applicarla sui modelli altrui, visto che non ci sono eccellenze europee. Chi invece ce l’ha, come gli Stati Uniti, va nella direzione opposta. Su consiglio di David Sacks, ex zar dell’Ia diventato il ponte tra Casa Bianca e Silicon Valley, l’amministrazione di Donald Trump vuole enfatizzare il ruolo dell’intelligenza artificiale. Il diktat del governo di Washington agli Stati federali è di non legiferare per non rallentare il progresso e vincere la partita con la Cina. Dipende però a quale prezzo.
© Riproduzione riservata
