L’impiego dell’intelligenza artificiale nella sicurezza è stato introdotto da un decreto del governo. Con molte cautele che però non bastano a mettere al riparo i diritti e le libertà fondamentali dal rischio di eccessi e abusi. Senza un’adeguata formazione la verifica finale da parte di operatori umani non è una garanzia
Il 10 giugno il governo ha approvato in esame preliminare uno schema di decreto legislativo sull’impiego dell’intelligenza artificiale nelle attività di polizia. Il comunicato stampa che ne dà conto ha toni rassicuranti: l’Ia potrà essere usata solo entro un perimetro rigoroso, senza sorveglianza massiva; per l’identificazione biometrica sarà necessaria l’autorizzazione giudiziaria; la segnalazione dell’algoritmo non potrà tradursi automaticamente in controlli, fermi o altri atti di polizia, ma dovrà sempre essere valutata da operatori umani.
Non siamo dunque di fronte alla sorveglianza biometrica generalizzata (come disgraziatamente capita oggi in alcuni regimi autocratici), ma alla sua regolazione selettiva. E tuttavia qualche motivo di preoccupazione resta. Regolare una pratica, infatti, non significa soltanto limitarla, ma anche legittimarla, inserendola stabilmente nell’ordinamento.
Il problema non è se sia lecito che la polizia usi strumenti tecnologici avanzati in casi eccezionali: in situazioni di pericolo grave e imminente – per esempio nella ricerca di persone scomparse o nel contrasto a reati gravissimi – l’uso di tecnologie sofisticate può essere giustificato.
Alcune domande però sono legittime: quali condizioni impediranno che l’eccezione diventi routine? Chi controllerà l’effettiva proporzionalità dell’uso dell’IA? Quali banche dati verranno interrogate? Per quanto tempo saranno conservati gli esiti? Cosa potrà fare un cittadino erroneamente identificato? E, soprattutto, quale trasformazione subirà lo spazio pubblico quando sarà tecnicamente predisposto all’identificazione biometrica?
Il rischio, insomma, non è quello di una distopia autoritaria imminente, ma di una progressiva normalizzazione dell’identificazione automatizzata, presentata di volta in volta come mirata, eccezionale e necessaria per prevenire un crimine, condurre un’indagine o fronteggiare un’emergenza. Una società libera non si misura solamente dal fatto che lo Stato non controlla tutti costantemente, ma anche dalla possibilità, per i cittadini, di circolare nello spazio pubblico, partecipare a una manifestazione o incontrarsi con altri senza essere potenzialmente trasformati in dati biometrici utilizzabili per identificarli.
L’essere umano non è una garanzia
La garanzia della decisione umana, inoltre, non deve essere sopravvalutata. Nei sistemi complessi, infatti, l’essere umano può divenire il punto debole del processo: non perché sia sostituito dalla macchina, ma perché può essere indotto a ratificarne acriticamente l’esito.
Come mostrano vari studi, se un sistema di riconoscimento facciale propone una corrispondenza, l’operatore può considerarla più affidabile di quanto sia realmente. È questo il documentato rischio dell’automation bias: la nostra inconsapevole deferenza verso l’apparente oggettività di un sistema artificiale.
Per questo motivo non basta dichiarare che la decisione ultima sugli atti da compiere sulla base della segnalazione algoritmica sarà affidata agli esseri umani; occorre far sì che la persona chiamata a prendere tale decisione abbia le competenze per valutare il funzionamento del sistema, il tempo necessario per esaminare la segnalazione e l’autorità per metterla eventualmente in discussione, assumendone piena responsabilità.
Anche nel caso del riconoscimento facciale retrospettivo occorre cautela: il fatto che venga usato dopo la commissione di un reato non lo rende automaticamente innocuo. Se applicato a grandi archivi video, a immagini raccolte nello spazio pubblico o a banche dati estese, il riconoscimento retrospettivo può produrre una forma differita di sorveglianza: non saremmo identificati mentre passiamo in un certo luogo, ma potremmo esserlo dopo, in base alla ricostruzione dei nostri movimenti, delle nostre presenze, delle nostre relazioni. La differenza tra identificazione immediata e riconoscimento retrospettivo è giuridicamente importante; ma dal punto di vista delle libertà civili entrambe le forme incidono sul rapporto tra cittadino, spazio pubblico e potere statale.
Una scelta politica
Il punto decisivo, allora, è che l’uso dell’IA per la sicurezza non deve essere valutato soltanto in termini di efficienza investigativa: occorre considerarlo anche in rapporto ai diritti fondamentali.
Una tecnologia può essere utile al contrasto del crimine e tuttavia corrodere in profondità le condizioni della libertà democratica. Per questo lo schema di decreto legislativo dovrebbe essere discusso non come un semplice aggiornamento tecnico delle attività di polizia, ma come una scelta politica di grande rilievo: quella di introdurre, sia pure entro limiti dichiarati, l’identificazione biometrica nello spazio pubblico.
Questo provvedimento, dunque, non ci avvia di per sé verso uno Stato di sorveglianza. Costruisce però l’infrastruttura normativa e tecnica attraverso cui determinate forme di sorveglianza diventano ordinarie, accettabili e amministrabili. Ed è questo il modo in cui spesso le libertà fondamentali si restringono: non con una rottura improvvisa, ma per mezzo di eccezioni apparentemente ben motivate che con il tempo si stabilizzano.
Il 19 giugno, con inizio alle 9, presso l’Aula Magna del Rettorato dell’Università Roma Tre verrà inaugurata la Cattedra UNESCO in Ethics of AI and Practical Wisdom, che avrà come titolari Mario De Caro (Roma Tre) e Benedetta Giovanola (Macerata). Parteciperanno ai lavori, oltre ad esponenti delle istituzioni e molti esperti, Marianna Bergamaschi Ganapini, Diego Marconi, Roberto Navigli, Enrico Panai e Luca Zanetti.
© Riproduzione riservata
