L’incidente è avvenuto durante i test con il modello di Intelligenza artificiale creato da Google. «In tutti e tre i casi, il modello si è arrestato» ha dichiarato ad Afp Heather Adkins, vicepresidente della sicurezza ingegneristica dell’azienda. Si riapre il dibattito sull’Ia
Nuovo incidente durante i test con i modelli di Intelligenza Artificiale più evoluti. Gemini, modello di IA di Google, destinato al grande pubblico ha violato i sistemi di accesso di tre aziende. Lo ha riferito il venerdì 18 settembre Afp confermando le indiscrezioni precedentemente pubblicate dal Wall Street Journal. «Nel corso di una valutazione standard, il modello ha individuato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test», ha dichiarato all'Afp Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. «In tutti e tre i casi, il modello si è arrestato», ha aggiunto Adkins. «Ci siamo assicurati che le tre entità ne venissero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test».
A luglio, due modelli di OpenAI erano usciti dall'ambiente chiuso in cui avrebbero dovuto rimanere, accedendo autonomamente a Internet e violando i sistemi interni della piattaforma di IA Hugging Face.
Il dibattito sull’intelligenza artificiale si è intensificato nell’ultimo periodo. E non solo per gli incidenti avvenuti durante i test. A inizio settembre Jacob Coxon, ricercatore 27enne per Anthropic, ha annunciato di essersi dimesso dall’azienda. «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite». Ha scritto in un post su X a cui ha risposto un altro ricercatore, Evan Hubinger, ha risposto: «Io penso che ci sia una probabilità superiore al 10 per cento che l’Ia possa sterminare tutta l’umanità entro il prossimo decennio».
Sono inoltre emerse notizie di sciami di agenti di IA che collaborano tra loro, violano sistemi informatici e aggirano le misure di sicurezza. Pochi giorni dopo l’annuncio delle dimissioni di Coxon, l'amministratore delegato di OpenAI, Sam Altman, ha lasciato intendere di star valutando di rallentarne lo sviluppo. Alle sue dichiarazioni hanno fatto seguito anche quelle di Dario Amodei, amministratore delegato di Anthropic, che ha chiesto alle aziende del settore di rallentare lo sviluppo dei modelli più potenti. «La curva sta iniziando a farsi ripida. Non significa che dobbiamo farci prendere dal panico oggi», ma è «un segnale d’allarme: dobbiamo rallentare».
Proposta, la sua, a cui a cui hanno poi aderito gli altri colossi del settore, OpenAI di Sam Altman, xAI di Elon Musk e DeepMind di Google. Una rara dimostrazione di unità che, però, come scrive l’economista Tyler Cowen, «non è affatto una vera frenata, è una momentanea, apparente pausa che sarà seguita da una successiva accelerazione».
© Riproduzione riservata
