Baby Grok e le tutele per i minori su internet: l’intelligenza artificiale non deve favorire la vulnerabilità

Elon Musk ha dichiarato che xAI, la sua azienda di intelligenza artificiale lancerà una nuova applicazione per contenuti dedicati ai più piccoli dal nome Baby Grok. Un annuncio che non può lasciare indifferenti, soprattutto se a essere messa in gioco è la sicurezza di bambini e adolescenti. Già la nuova uscita di Ani, il personaggio femminile dalla voce dolce e dal volto rassicurante, creata per Grok 4, sta conquistando milioni di ragazzi in tutto il mondo promettendo compagnia e ascolto. È vero che i social e gli smartphone fanno male alla salute mentale dei giovani? Intimità e rischi Si tratta di un’innovazione capace di generare da una parte affiancamento emotivo, grazie alla capacità di offrire risposte empatiche e realistiche, dall’altra, di esporre gli adolescenti a diversi rischi tra cui una maggiore difficoltà di discernimento tra realtà e finzione. Questi sistemi creano un senso di intimità artificiale che può generare dipendenza emotiva e isolamento sociale. Con Ani, che usa voce e video, l’effetto è ancora più forte. Nonostante i filtri promessi, è stato dimostrano che i chatbot possono scivolare su temi sessuali o pericolosi, fino a spingersi verso l’incoraggiamento di comportamenti autolesionistici. Questo aspetto, se non controllato, può intaccare il benessere psicologico degli adolescenti peggiorando la loro salute mentale che viene messa a dura prova dalle dinamiche odierne del digitale. Anche i dati internazionali evidenziano aspetti preoccupanti. L’84 per cento degli adolescenti tra i 13 e i 17 anni ha interagito almeno una volta con un chatbot AI, mentre un ragazzo su sei lo fa regolarmente perché non ha nessun altro con cui parlare. Il 40 per cento dei giovani, inoltre, considera attendibili le risposte dei bot senza verificarle, e quasi un adolescente su quattro ha ammesso di ricevere contenuti rischiosi o inopportuni. Inoltre, aumentano le segnalazioni di contenuti inappropriati: il 23 per cento degli utenti minorenni ha ricevuto consigli su autolesionismo, sessualità o comportamenti pericolosi. A mancare è soprattutto l’assenza di controlli seri: molti chatbot non applicano verifica dell’età o permettono di aggirarla facilmente tramite abbonamenti premium. L’Ue prova a proteggere i minori sui social, ma le Big Tech sono disponibili a cambiare? Gli interventi necessari Vi è oggi la necessità di gettare le basi per azioni ad alto impatto capaci di agire su più livelli per proteggere i bambini e la loro infanzia da ogni tipo di rischio. Per questo motivo occorre un intervento urgente, ma soprattutto sono necessarie regole chiare a partire dalla verifica obbligatoria dell’età, e dall’utilizzo di filtri di sicurezza per tutti i chatbot avanzati come richiesto dal Digital Services Act europeo. A questo si aggiungono una progettazione child-safe per chatbot trasparenti e sistemi di alert e supervisione per i minori. Le famiglie dovrebbero indirizzare i propri figli nel preferire piattaforme certificate o progettate con standard di sicurezza importanti. Parallelamente, assieme alle istituzioni, si dovrebbe lavorare a un programma nazionale di educazione digitale per ragazzi, famiglie e insegnanti. Non possiamo lasciare che l’innovazione diventi una nuova zona grigia di vulnerabilità per i bambini. Non ho l’età per andare sui social. Ma il divieto d’accesso è una chimera Al momento non sono stati forniti da xAi ulteriori dettagli tecnici, operativi e di sicurezza sul progetto Baby Grok, ma tutto quello che riguarda i più piccoli deve richiedere una massima attenzione in termini di sicurezza dei contenuti. Anche le aziende dovrebbero farsi promotrici di un cambiamento positivo privilegiando il benessere di bambini e adolescenti rispetto agli interessi commerciali. Occorre anche interrogarsi sul ruolo delle agenzie di controllo e sulle modalità con cui queste possono intervenire, magari prevedendo sanzioni per quelle aziende che non rispettano le norme di protezioni dei minori. In questa partita anche la società civile gioca un ruolo fondamentale soprattutto nell’ottica della prevenzione, dell’informazione e dell’educazione al pensiero critico dei ragazzi più giovani. Far nascere una sensibilità collettiva rispetto a questo tema deve essere una priorità. Non possiamo permettere che le tecnologie emergenti diventino nuove fonti di rischio per l’infanzia e per l’adolescenza. Chiedimi se sono (in)felice: le domande degli adolescenti sui social