Anche i ricercatori di Anthropic, dopo le dimissioni di Jacob Coxon, lanciano l’allarme sul fatto che alcuni modelli di Ia «potrebbero mettere a rischio le nostre vite»
OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’intelligenza artificiale fuori controllo. A riportarlo è l'agenzia Bloomberg, secondo la quale - durante una riunione interna svoltasi questa settimana - l'amministratore delegato Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo.
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di Ia in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione. Ad agosto un agente Ia è sfuggito all'ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.
Alla fine di luglio oltre mille dipendenti delle principali aziende di Ia hanno firmato una petizione per chiedere l'adozione di meccanismi volti a rallentare lo sviluppo dell'intelligenza artificiale. Nel frattempo, OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre.
Le dichiarazioni arrivano dopo che, nelle ultime settimane, i dipendenti delle principali aziende del settore hanno espresso pubblicamente preoccupazione per i crescenti rischi associati ai sistemi avanzati. Il responsabile scientifico di OpenAI, Jakub Pachocki, ha pubblicato un articolo nel quale avverte dei pericoli dell'intelligenza artificiale e sostiene che le aziende dovrebbero coordinarsi per rallentarne lo sviluppo quando necessario. Pachocki auspica che le pause volontarie diventino una pratica abituale fino alla definizione di limiti comuni di sicurezza.
Le preoccupazioni di Anthropic
Ma non solo OpenAi. Dopo le dichiarazioni dell'ex ricercatore Jacob Coxon sull'intelligenza artificiale, anche altri ricercatori e membri dello staff di Anthropic, sturtup specializzata in Ia, concorrente di OpenAi, si sono detti pubblicamente d'accordo con lui, pubblicando a loro volta allarmi altrettanto gravi.
In risposta, Elon Musk e altre figure conservatrici hanno definito su X il coro di preoccupazioni una «montatura» e «un'operazione psicologica». Gli addetti ai lavori di Anthropic temono che la tecnologia che stanno sviluppando possa diventare così avanzata e pericolosa da causare l'estinzione umana entro un decennio e affermano che molti dei loro colleghi la pensano allo stesso modo, pur non avendolo dichiarato pubblicamente.
Questi ricercatori e membri dello staff - scrive il Guardian - stanno rispondendo a un thread – diventato virale – di Coxon, che mercoledì ha annunciato le sue dimissioni dall'azienda perché né Anthropic né OpenAI, per cui aveva anche lavorato, stanno sviluppando modelli di intelligenza artificiale in modo responsabile e stanno «mettendo a rischio le nostre vite».
Anna Wang, che si occupa di sicurezza dell'intelligenza artificiale generale presso Anthropic e in precedenza ha lavorato presso DeepMind di Google, ha dichiarato ieri che molti in Anthropic desiderano rallentare lo sviluppo per elaborare un piano che mitighi i rischi potenzialmente associati a questi modelli di intelligenza artificiale.
© Riproduzione riservata
