Non esistono soluzioni smart per uscire dalla pandemia, e non saranno una app o un drone a salvarci. In compenso l’uso massiccio di sistemi di tracciamento messo in piedi nell’èra Covid-19 porta con sé un rischio: sta trasformando la sorveglianza nella nuova normalità.

Questa è la sintesi di un rapporto che Domani ha visionato in anteprima, e che sarà reso pubblico oggi. Automating Covid responses. The impact of automated decision-making on the Covid-19 pandemic è il lavoro di ricognizione fatto per tutto il 2021 da AlgorithmWatch con il progetto “Tracing The Tracers”, “Tracciare chi ci traccia”, che è guidato da Fabio Chiusi. «Durante la pandemia, una parte ingombrante dei decisori politici ci ha presentato app e strumenti tecnologici come soluzioni immediate, innovative e seducenti per problemi che in realtà sono complessi».

Da esperti di tecnologia, i ricercatori di AlgorithmWatch sono i primi a rifiutare ogni «soluzionismo tecnologico»: «Gli strumenti tech possono essere un valido contributo quando sono uno strumento all’interno di una più complessiva e valida strategia di sanità pubblica. Ma da soli non ci salvano, e far credere il contrario significa creare aspettative che verranno inevitabilmente deluse».

Chi controlla i controllori?

Aspettative deluse: è proprio quel che è successo in molti casi con le app di tracciamento dei contagi. Sono state quindi un fallimento? La realtà è che l’uso di quei dispositivi per le politiche di sanità pubblica non è stato accompagnato da un processo di valutazione in corso d’opera: nella maggior parte dei casi non esistono dati a sufficienza per poter decretare quanto un sistema ha funzionato.

E questa è forse una delle conclusioni più allarmanti del dossier: “Tracing The Tracers” ha l’obiettivo di tracciare chi ci traccia, ovvero di sottoporre a scrutinio pubblico chi “ci controlla” con la tecnologia. Ma in fase emergenziale l’uso di sistemi tecnologici ha fatto il paio con la mancanza di verifiche sulla loro reale efficacia.

Il declino del tracciamento

Il caso delle app di tracciamento dei contagi è significativo: lanciate con roboanti annunci dai governi all’esordio della pandemia, con stridente silenzio sono finite ora nel dimenticatoio. «Dai dati che abbiamo, in vari paesi i download sono fermi, e laddove è possibile conoscere il numero di utenti attivi, risultano in calo». Da quando si è diffuso il green pass, nota Chiusi, «queste app di tracciamento sono state in linea generale sostituite dal pass. Dipende poi da paese a paese che le si usi ancora in qualche modo, o che le si sia abbandonate del tutto». Se il declino è rapido quanto l’ascesa, questa è già una prima attestazione di mancata riuscita.

L’app serve?

A luglio 2021, le app di tracciamento erano state scaricate da meno di un italiano su cinque, dal 19 per cento degli spagnoli, da un tedesco su tre, e da molti meno croati – due su cento – o polacchi – il quattro per cento. In generale numeri non spettacolari.

Ma anche in quei paesi dove i download sono stati notevoli, come Irlanda e Finlandia (49 e 45 per cento), l’alto numero di persone che hanno scaricato la app non è corrisposto a una efficacia del tracciamento. Gli esperti finlandesi hanno concluso che la app Korinavilkku non ha dato grandi benefici, mentre il parlamento irlandese che ha commissionato una ricerca sul tema si è sentito rispondere che «anche se la app è scaricata molto più che altrove, i suoi effetti sembrano essere marginali».

Non basta una app

Il Trinity College di Dublino ha proseguito l’analisi della app irlandese di tracciamento, Covidtracker, tra ottobre 2020 e aprile 2021. «In quei mesi – hanno rilevato i due ricercatori Stephen Farrell e Dough Leith – solo uno su quattro degli utenti risultati positivi al Covid hanno utilizzato pienamente la app così da dare l’allerta. Più di recente, solo il 15 per cento lo ha fatto». Per Farrell e Leith questi dati indicato «che le soluzioni technology-first possono essere inefficaci, e sarebbe meglio testarle prima di diffonderle».

Anche l’esperienza belga suggerisce conclusioni analoghe, per quel che è possibile visto che «mancano i dati e perciò anche la valutazione di efficacia nel prevenire i contagi è difficile da misurare», come notano Bram Visser e Rosamunde Van Brakel che hanno curato la sezione belga del dossier di AlgorithmWatch. La scarsa trasparenza e la mancanza di serie valutazioni di impatto è una questione che è stata sollevata anche da giornalisti e accademici. Quel che è certo è che «di quel 25 per cento di belgi che ha scaricato la app – il che non vuol dire necessariamente che la abbia anche usata – solo il 3 per cento di chi si è contagiato la ha usata per notificarlo ai contatti».

La app di per sé non basta, così come la tecnologia non è in sé la soluzione; specialisti del tracciamento comme l’epidemiologo Wouter Arrazola de Onate notano proprio che «il contact tracing artificiale su scala industriale fa saltare passaggi chiave come il contatto con il paziente». Quando la app non è inserita dentro una strategia sanitaria complessiva, anche la app finisce per non funzionare: «Anche in Italia lo abbiamo visto», dice Chiusi. «Se il sistema sanitario è sovraccarico, anche nell’ipotesi che la app sia tecnicamente perfetta, rimane la difficoltà di gestire le notifiche, e infatti molte regioni non ci sono riuscite».

Apparato di sorveglianza

Agli albori della pandemia, cioè già ad aprile 2020, l’Organizzazione mondiale della sanità aveva già fatto una importante raccomandazione: «L’intelligenza artificiale non è un silver bullet», non è una bacchetta magica. Lo ha ribadito lo scorso giugno, contestando «un approccio noto come “soluzionismo tecnologico”, e cioè l’idea che l’intelligenza artificiale da sola possa rimuovere ogni barriera sociale, economica e strutturale».

Ma l’invito dell’Oms a soppesare «la reale efficacia e i rischi» è rimasto in gran parte inascoltato. «Durante la pandemia – osserva Chiusi – c’è stata una crescita esponenziale degli apparati di sorveglianza, basti pensare a quella biometrica, ai termoscanner.

Se combiniamo questa tendenza pandemica con quella, parallela, a utilizzare infrastrutture di sorveglianza ai confini per controllare i flussi migratori, appare sempre più evidente quanto la sorveglianza si stia normalizzando». Un punto chiave, secondo i ricercatori di AlgorithmWatch, è che ciò avviene in assenza di un robusto dibattito democratico. «Colpisce quanto poco si sia discusso della normalizzazione della sorveglianza in contesti come il posto di lavoro e la scuola, con il telelavoro e la didattica a distanza».

Modelli positivi

Durante il primo lockdown, in Belgio, per controllare che il distanziamento sociale venisse rispettato, sono stati inizialmente mobilitati droni e inoltre sono state dirottate allo stesso scopo anche le telecamere di sicurezza di cui si era dotato il paese in funzione antiterroristica.

L’apparato di sorveglianza anti-terrore imbastito dal 2014 ha cambiato funzione, ma era già in piedi. Uno scenario analogo si può verificare in futuro con l’apparato di sorveglianza imbastito durante l’emergenza pandemica. «La pandemia ha accelerato un processo, già in corso, di normalizzazione dell’apparato di sorveglianza. Quando è che verrà dismesso? Va definito un ritorno alla normalità», prima che l’emergenza diventi la nuova norma.

A controbilanciare queste tendenze non restano che i diritti, e l’Ue in fatto di privacy è considerata una potenza normativa globale: ha un regolamento per la protezione dei dati (Gdpr) che è apripista. Ora lavora a nuove regole anche per l’intelligenza artificiale.

© Riproduzione riservata