OpenAI ha annunciato una versione del chatbot per gli utenti dai 13 ai 17 anni. Per Andrea Monti, docente della Sapienza di Roma, la sicurezza di un minore non può dipendere solo dalla piattaforma: «Come non daremmo le chiavi della macchina a un ragazzino, non dovremmo consentirgli di usare strumenti che ritieniamo pericolosi»
OpenAI ha annunciato ChatGpt for Teens, una versione del chatbot pensata per gli utenti dai 13 ai 17 anni. La scelta arriva dopo una serie di casi che hanno portato ChatGpt nelle pagine di cronaca per l’uso, in alcuni casi improprio, dell’intelligenza artificiale da parte degli adolescenti. Ci sono state accuse legate a suicidi, problemi di salute mentale, dipendenza e risposte pericolose, alcune delle quali sono arrivate fino in tribunale.
ChatGpt for Teens applica automaticamente protezioni più severe nelle conversazioni considerate a rischio e limita alcune interazioni che possono favorire comportamenti pericolosi o una dipendenza emotiva dal chatbot. I genitori possono impostare limiti sugli orari di utilizzo e disattivare alcune funzioni, oltre a ricevere avvisi se il sistema rileva una situazione particolarmente grave. Non hanno però accesso diretto alle conversazioni dei figli.
C’è anche una modalità di studio, pensata per usare ChatGpt come un tutor: invece di fornire subito la risposta, il chatbot accompagna lo studente nel ragionamento attraverso quiz e spiegazioni.
Per applicare queste misure, OpenAI deve accertare che l’utente sia minorenne. Il sistema parte dall’età dichiarata al momento della registrazione e la confronta con una stima automatica basata su segnali comportamentali e conversazionali.
La privacy
È proprio il sistema di stima dell’età a sollevare i primi dubbi. Secondo Andrea Monti, professore di Identità digitale, privacy e cybersecurity alla Sapienza di Roma, il metodo scelto da OpenAI non è affidabile dal punto di vista giuridico. «Questa opzione, peraltro ipotizzata anche da altri fornitori di servizi di piattaforma, è priva di senso», sostiene. In Italia, spiega, l’età si accerta attraverso un documento di identità. Online, «l'identità può essere verificata tramite Spid e, quando sarà pienamente funzionante, tramite il wallet europeo del quale l'italiano IT Wallet rappresenta un’applicazione in avanzato stato di realizzazione».
Il ricorso ad altri sistemi, in particolare alla valutazione dell'età attraverso parametri biometrici, «non ha un reale valore giuridico e serve essenzialmente ad accumulare ancora più dati su una persona».
La raccolta di dati è del resto uno dei meccanismi su cui le piattaforme hanno costruito il proprio modello. Chi ha provato a farne a meno non ha avuto vita facile. Monti cita WT.Social, il social network fondato dal co-fondatore di Wikipedia Jimmy Wales, nato con la promessa di non profilare gli utenti e finanziato attraverso un piccolo abbonamento. Il progetto, però, non è mai realmente decollato. «La morale della favola è che da un lato gli utenti si lamentano per la "violazione della privacy" ma, dall'altro, non sono disposti a compiere anche minimi sacrifici per proteggerla», sostiene.
La responsabilità dei genitori
«La responsabilità genitoriale non è delegabile a uno strumento tecnologico». È da qui che parte Monti parlando dei controlli parentali. Il rischio, a suo parere, è quello della «deresponsabilizzazione dei genitori»: le decisioni sull’accesso dei minori alle piattaforme spettano alla famiglia e non possono essere affidate a sistemi di Ia. «Così come un genitore non darebbe le chiavi della macchina a un ragazzino, allo stesso modo non dovrebbe consentirgli di utilizzare strumenti che ritiene pericolosi, inclusi i social network».
L’Ia come prodotto
Resta poi la questione della responsabilità giuridica delle aziende che sviluppano questi sistemi. Per Monti, il problema è anche il modo in cui il software viene inquadrato dal punto di vista legale. «Oggi, un software, compresa l'Ia, è considerata un’opera creativa, come la Divina Commedia, e non come un prodotto che dovrebbe essere costruito rispettando precise regole di sicurezza».
Monti richiama una causa avviata in Florida dai genitori di un minore morto suicida dopo le interazioni con una piattaforma di Ia. In quel caso, spiega, «i legali non hanno impostato il processo su concetti fantascientifici come il fatto che l'Ia sia "cosciente" o "viva" ma, più concretamente, sul fatto che l'Ia è un prodotto e se è destinato ai minori deve essere sviluppato con particolari cautele».
A suo parere, considerare il software un prodotto permetterebbe di definire standard tecnici e responsabilità più precise: «Ci sarebbero degli standard di progettazione che consentirebbero di garantire chiarezza sul livello di sicurezza della piattaforma». Oggi, invece, conclude «si può compiere soltanto un atto di fede e sperare che non accada il peggio».
© Riproduzione riservata