Cosa ci può insegnare (davvero) il caso dell’agente Ia «sfuggito al controllo» dei suoi creatori

Un’intelligenza artificiale di OpenAI evade dall’ambiente in cui i programmatori pensavano di contenerla, si collega autonomamente a internet e attacca Hugging Face: una piattaforma che ospita modelli, dataset e strumenti per sviluppare applicazioni di intelligenza artificiale. L’obiettivo è procurarsi le soluzioni necessarie a superare ExploitGym, il test con cui i ricercatori volevano valutarne le capacità in ambito di cybersicurezza. Ogni volta che si verifica un caso di questo tipo, si moltiplicano gli allarmismi fantascientifici in stile Skynet sulle macchine che si ribellano agli esseri umani, diventano senzienti o sfuggono al nostro controllo. Ma è davvero quello che è successo? In realtà, in questo come in numerosi altri casi, gli agenti – ovvero sistemi di intelligenza artificiale capaci di usare strumenti e compiere autonomamente azioni nel mondo digitale – hanno più semplicemente reagito agli obiettivi, ai vincoli e agli stimoli esplicitamente predisposti dagli esseri umani. Come ingraziarsi il presidente: Altman pronto a cedere il 5 per cento di OpenAI a Trump Senza sminuire È quanto avvenuto anche nel caso di OpenAI e Hugging Face. Come segnala Rich Mogull, chief analyst di Cloud Security Alliance, il cyberattacco – compiuto da una combinazione di GPT-5.6 Sol (uno dei più avanzati modelli che alimentano ChatGPT) e un altro sistema ancora non diffuso a livello commerciale – è potuto avvenire perché i ricercatori «hanno deliberatamente spento le protezioni che normalmente impedirebbero a un’intelligenza artificiale di eseguire attività cyber di alto livello». Il secondo elemento riguarda invece la progettazione dell’esperimento. La sandbox, un ambiente digitale protetto in cui eseguire test in sicurezza, non era del tutto isolata, ma manteneva un collegamento con l’esterno. L’agente ha scoperto una falla proprio in quel passaggio e l’ha sfruttata per collegarsi a internet. Sottolineare questi aspetti non significa sminuire quanto avvenuto. D’altra parte, è difficile non sorprendersi di fronte a un’intelligenza artificiale che si connette autonomamente a internet, deduce che Hugging Face potrebbe ospitare le soluzioni del test e combina credenziali sottratte e altre vulnerabilità per entrare nei suoi server, estraendo direttamente dal database le risposte necessarie a superare la prova a cui era sottoposta. È però altrettanto importante evidenziare che questa intelligenza artificiale non si è né ribellata all’essere umano, né ha sviluppato obiettivi propri. Al contrario: come scrive ancora Mogull, «ha fatto esattamente ciò che le è stato chiesto di fare: massimizzare le sue prestazioni per raggiungere un obiettivo. E poi si è però scoperto che – se si rimuovono le protezioni e si lascia al sistema lo spazio necessario per operare – “risolvere il test” e “hackerare una piattaforma per rubare le risposte” erano di fatto le stesse istruzioni». Tra hype e realtà, la Cina accelera sui robot umanoidi. E li mette a lavorare Nessuna novità? Che le intelligenze artificiali abbiano raggiunto impressionanti abilità nell’ambito della cybersicurezza non è una novità. È anzi esattamente ciò che ha provocato lo scontro tra Anthropic e la Casa Bianca, che ha portato al (temporaneo) blocco di Fable 5 e Mythos 5 per questioni di sicurezza nazionale. Non è nemmeno una novità che questi sistemi barino per superare i test a cui vengono sottoposti: un comportamento noto come “reward hacking” (manipolazione della ricompensa). Come ha spiegato in un post Walter Quattrociocchi, docente di Scienze Informatiche alla Sapienza, in questi casi «il sistema massimizza il punteggio aggirando il benchmark invece di risolverlo nel modo previsto. È un fenomeno noto da anni (...) e non dimostra alcun salto qualitativo verso una qualche forma di autonomia». Era in effetti addirittura il 2016 quando un’intelligenza artificiale, sempre di OpenAI e a cui era stato dato il compito di ottenere il punteggio più elevato in un videogioco di corse, scoprì che il metodo migliore non era tagliare per prima il traguardo, ma sfruttare una falla che le consentiva di accumulare punti semplicemente girando in tondo. Proprio questo mese, il britannico AI Security Institute ha invece pubblicato una ricerca in cui mostra come tutti i modelli d’intelligenza artificiale da loro testati in ambito di cybersicurezza abbiano barato per superare le prove, cercando le soluzioni online invece di risolvere i problemi (un po’ come uno studente che copia). Dall’episodio che ha coinvolto OpenAI e Hugging Face ci sono probabilmente due lezioni da trarre. La prima è che non ci si può fidare ciecamente dei punteggi ottenuti dalle intelligenze artificiali nei test. La seconda è che, quando si disattivano le protezioni di agenti così potenti, bisogna confinarli in sandbox davvero isolate, perché anche un solo collegamento con l’esterno può trasformarsi in una via di fuga. Come ha chiosato Andrew Soltan, ricercatore di Oxford, “questo non è un caso di un’AI che sfugge al controllo per conto suo, ma più semplicemente un caso che ci mostra perché le protezioni che forniamo a questi sistemi sono così importanti”.