L’allarme lanciato da Jacob Coxon su X non è l’unico: nell’ultimo anno già diversi esperti nel settore AI avevano espresso le loro perplessità in merito allo sviluppo di modelli auto-miglioranti, e un’incidente di hacking causato da agenti di OpenAi ha riacceso il dibattito sul tema della sicurezza dell’intelligenza artificiale
«Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite». Con queste parole Jacob Coxon, ricercatore 27enne per Anthropic, una delle più grandi società di intelligenza artificiale, ha confermato di essersi dimesso dall’azienda.
Coxon, tramite una serie di post su X, si è detto preoccupato per la direzione che sta prendendo l’evoluzione dell’intelligenza artificiale, in particolare il percorso verso la costruzione di modelli auto-miglioranti: «Chi lavora nell’Ai sa perfettamente che può ucciderci tutti entro la fine della decade. Nessun’altra attività umana porta con sé un tale livello di pericolo».
Un altro importante ricercatore nel campo della sicurezza che lavora per Anthropic, Evan Hubinger, ha risposto su X al 27enne confermando i suoi timori: «Io penso che ci sia una probabilità superiore al 10% che l’Ia possa sterminare tutta l’umanità entro il prossimo decennio».
Le dichiarazioni di Coxon e Hubinger sono le ultime di una serie di avvertimenti lanciati da esperti del settore nell’ultimo anno che hanno alimentato il dibattito sulla sicurezza nel campo dell’intelligenza artificiale.
L’incidente “Hugging Face”
L’incidente “Hugging face” è avvenuto nei laboratori di OpenAI a luglio di quest’anno. I tecnici stavano conducendo una simulazione controllata per individuare falle nei sistemi di sicurezza testando dei modelli di nuova generazione come GPT-5.6 Sol. Per il test sono state allentate le misure di sicurezza che impediscono risposte potenzialmente pericolose. Questi agenti Ia hanno però autonomamente trovato una falla nel sistema controllato in cui erano stati inseriti, creando un effetto a catena che li ha portati a infiltrarsi nei server della piattaforma dedicata ai ricercatori in campo Ia, ovvero Hugging face.
Un’indagine successiva, condotta dall’istituto Metr di Berkeley e commissionata dalla stessa OpenAI, ha rivelato come questi modelli avrebbero autonomamente costruito complesse bacheche di messaggi all’interno delle quali si sono scambiati più di 70mila messaggi, nascondendosi appositamente all’occhio umano manomettendo i registri delle attività. L’attività di hacking della piattaforma non puntava solo alla ricerca delle risposte ai quesiti posti dai tecnici, ma a una vera e propria operazione di insabbiamento per coprirne le tracce.
Recentemente il Guardian, ricostruendo i fatti di luglio, ha segnalato come sia necessaria la costituzione di un organismo federale che possa condurre indagini specialistiche su gravi incidenti legati all'Ia come quello di Hugging face.
L’avvertimento degli esperti
A luglio centinaia dei principali ricercatori e dirigenti internazionali nel campo dell’Ia hanno firmato una dichiarazione congiunta in cui sottolineavano le stesse preoccupazioni di Coxon e Hubinger. Nella lettera, intitolata “Pacing the frontier” e firmata, fra gli altri, dai co-fondatori di Anthropic Dario Amodei e Jared Kaplan e dal responsabile scientifico di OpenAI Jakub Pachocki, si affermava che, nonostante l’intelligenza artificiale sia in grado di migliorare drasticamente il futuro dell’umanità, questo risultato non sarebbe garantito proprio a causa dei modelli auto-miglioranti: «Esiste il rischio concreto che lo sviluppo di queste tecnologie acceleri rapidamente, superando la nostra capacità di comprendere o controllare i sistemi risultanti», si legge nella nota.
«Per realizzare il potenziale dell'Ia l'industria, i governi e la società nel suo complesso potrebbero aver bisogno della possibilità di guadagnare tempo per affrontare i rischi emergenti, sviluppare misure di sicurezza e rafforzare la supervisione». I dipendenti firmatari, quasi 1.400, hanno poi concluso la dichiarazione con una richiesta diretta al governo degli Stati Uniti, chiedendo di sostenere un’iniziativa internazionale «volta a sviluppare gli strumenti tecnici e di governance necessari per procedere con cautela nello sviluppo dell'intelligenza artificiale automatizzata». Alle preoccupazioni esposte dai firmatari hanno seguito alcune dichiarazioni scettiche da parte di altri esperti.
Per Brendan McCord, co-responsabile del seminario annuale di Filosofia, Ia e Innovazione a Oxford e fondatore del Cosmos Institute, un'organizzazione no-profit che forma filosofi-costruttori per l'era dell'intelligenza artificiale, sostiene sia impensabile porre dei freni globali alla ricerca, e che un intervento nel settore richiederebbe un potere statale così ampio, discrezionale e poco trasparente da diventare esso stesso un rischio per la libertà della ricerca. Christian Catalini, ricercatore presso l’Mit Sloan School of Management, ha scritto su Forbes che piuttosto che invocare, e aspettare, l’intervento degli Stati Uniti bisognerebbe raddoppiare gli sforzi in materia di sicurezza senza delegare alla diplomazia.
Prima degli avvertimenti di Coxon e Hubinger, inoltre, Geoffrey Hinton, premio Nobel per la fisica nel 2024 e definito «il padrino» dell’intelligenza artificiale, ha lanciato il loro stesso allarme sulle pagine del Times. «Sarebbe una follia sviluppare la superintelligenza ora, quando non c'è consenso scientifico sulla possibilità di farlo in modo sicuro e controllabile. Perdere il controllo su un'Ia più intelligente di noi potrebbe essere catastrofico e potrebbe persino portare all'estinzione dell'umanità».
© Riproduzione riservata
