Deepfake e propaganda. In India si sperimenta la campagna elettorale ai tempi dell’intelligenza artificiale

La popolazione dell’India ha superato quella cinese e il paese governato da Narendra Modi conta oggi il più alto numero di abitanti al mondo, oltre 1,4 miliardi. Di questi, circa 650 milioni posseggono uno smartphone, numeri che rendono il mercato indiano un’occasione di business enorme per le compagnie del tech. Google, X e Meta forniscono l’infrastruttura online su cui si basa la propaganda degli schieramenti principali per le prossime elezioni indiane: il Bharatiya Janata Party (Bjp) dell’attuale primo ministro Modi, che guida la coalizione National Democratic Alliance (Nda), e l’Indian National Congress (Inc), parte della coalizione avversaria chiamata Indian National Developmental Inclusive Alliance (I.N.D.I.A.). Entrambi gli schieramenti stanno utilizzando deepfake e influencer politici in questa campagna elettorale. Per questo nell’anno che vedrà alle urne il maggior numero di votanti della storia, osservare come le nuove tecnologie vengono utilizzate nella democrazia più popolosa al mondo offre spunti di analisi interessanti. In particolare, l'intensificazione delle frizioni tra le maggiori piattaforme online e il governo locale sta mostrando come politica e grandi aziende del tech interagiscono cercando di tutelare i propri interessi. Il calo demografico spaventa la Cina, rischia di restare senza lavoratori L’industria del deepfake Come successo in altri paesi, un esempio tra tutti l’Argentina, l’utilizzo dei deepfake creati con l’intelligenza artificiale generativa rappresenta la novità principale di questa campagna elettorale. Secondo un’inchiesta di India Today, si può parlare di un’industria del deepfake esplosa durante la campagna per le elezioni del Lok Sabha, la camera inferiore del parlamento indiano. Intervistato con una telecamera nascosta, Rohit Pal, fondatore di The Digital Publicity, ha dichiarato che la sua compagnia identifica i candidati da contattare e propone contratti di 5 lakh ciascuno, poco più di 5.500 euro, per la gestione dei contenuti fake. «Miglioriamo la loro immagine online, creando un’immagine positiva. Produciamo video animati, mostriamo gli errori dei candidati degli altri partiti e li facciamo sembrare stupidi», ha dichiarato. Parlando invece con Rohit Kumar, responsabile politico di un'azienda digitale chiamata Obiyan Infotech, i reporter investigativi di India Today hanno messo in luce anche tecniche di manipolazione più subdole: «La maggior parte degli interventi si concentra sulla modifica dei discorsi», ha dichiarato, spiegando come le informazioni vengono distorte. L’inchiesta ha ovviamente alzato l’attenzione sull’uso dei deepfake e le sue conseguenze, anche legali, ma già da tempo il tema era diventato rilevante. Colpa delle piattaforme A fine gennaio, la polizia di Delhi aveva arrestato il creatore di un video fake che ritraeva l’attrice Rashmika Mandanna, il cui volto era stato sovrapposto ad un video dell’influencer britannica Zara Patel. L’episodio era solo l’ultimo di una serie di contenuti diventati virali su X dall’autunno precedente. Expressing my heartfelt gratitude to @DCP_IFSO 🙏🏼 Thank you for apprehending those responsible. Feeling truly grateful for the community that embraces me with love, support and shields me. 🇮🇳 Girls and boys - if your image is used or morphed anywhere without your consent. It… — Rashmika Mandanna (@iamRashmika) January 20, 2024 A Mumbai, infatti, la cyber police locale aveva già espresso la sua preoccupazione sull’app utilizzata per creare deepfake di un famoso gamer, ma soprattutto sul ruolo di Meta ed X nella diffusione dei contenuti, chiedendo agli utenti di segnalare i video sintetici e alle piattaforme l’obbligo di fornire risposte immediate, come il blocco dei contenuti “artificiali”. Se da una parte le istituzioni sembrano quindi andare a cercare i responsabili della creazione e della diffusione di questi contenuti, dall’altra spostano la responsabilità sulle piattaforme in cui circolano. Rajeev Chandrasekhar, ministro per la Tecnologia, ha dichiarato che il governo sta elaborando regole più severe, nell'ambito dell'Information Technology Act, per garantire la conformità delle piattaforme social, aggiungendo che la disinformazione da deepfake sta diventando una questione problematica e che il governo monitorerà le misure correttive adottate da queste compagnie. E per proteggersi da eventuali ripercussioni, le aziende proprietarie dei social media dovranno mostrare di agire in modo convincente. epa10952369 India's Technology Minister Rajeev Chandrasekhar speaks at the AI Safety Summit 2023 at Bletchley Park in Bletchley, Britain, 01 November 2023. The two-day summit was prompted by UK concerns about powerful artificial intelligence models expected to be released next year, which will have capabilities the government fears not even developers understand. EPA/CHRIS J. RATCLIFFE / POOLEPA Le chat private La stretta del governo su social come Instagram, Facebook ed X ha solo parzialmente cambiato le strategie dell’industria del deepfake. «I [deepfake] video vengono condivisi sulle piattaforme social pubbliche, ma quando vengono segnalati e rimossi, sono già circolati in centinaia di gruppi WhatsApp», ha raccontato a Business Outlook India India un consulente politico che ha lavorato con due aziende leader del settore. «È proprio questo il nostro obiettivo», continua, «i video di Instagram o i post su X sono solo un effetto successivo del nostro lavoro». Questi video sono specificamente progettati per essere diffusi proprio nelle chat private, dove possono generare reazioni evitando ogni tipo di moderazione. Qui però la questione si fa più complessa, perché c’è di mezzo la crittografia. Una sezione delle It Rules 2021 nota come “disposizione sulla tracciabilità”, garantisce al governo la possibilità di chiedere alle piattaforme di messaggistica di rivelare il mittente originale di un messaggio. WhatsApp ha contestato questa disposizione presso l’alta corte di Delhi, sostenendo che la tracciabilità di un singolo messaggio richiederebbe il monitoraggio di tutti i messaggi, cosa che comprometterebbe il servizio di crittografia end-to-end che fornisce. La posta in gioco è alta, per limitare i deepfake, o anche solo per far rispettare le leggi indiane, l’azienda rischia di mettere in discussione una delle sue caratteristiche tecniche e l’idea che sia una piattaforma sicura. Tra le proposte per preservare la crittografia end-to-end e limitare i contenuti fake c’è infatti un metodo noto come “scansione lato client”: in pratica un pre-screening delle immagini prima dell’invio. In sostanza, l'applicazione dovrebbe controllare l'hash dell'immagine o del video con un database di hash di contenuti proibiti. Ma non è chiaro come questo approccio potrebbe funzionare per i deepfake e si tratterebbe di una violazione della privacy che potrebbe avere un effetto di repressione della libertà di parola. L’India ha un dilemma digitale: continuare a crescere o controllare Le accuse di censura Nonostante praticamente tutti gli schieramenti in campo stiano utilizzando i deepfake, l’impressione è che a beneficiare maggiormente della situazione attuale sia il governo in carica, che ha la possibilità di monitorarli e chiederne la rimozione. Almeno questa è l’opinione del partito di opposizione I.N.D.I.A., i cui leader hanno scritto a Mark Zuckerberg e Sundar Pichai, i ceo di Facebook e Google, chiedendo di garantire net neutrality e libertà di informazione durante la campagna elettorale. L’accusa è che le piattaforme citate siano compiacenti rispetto alle richieste del governo, e i firmatari hanno dichiarato di essere in possesso di dati che proverebbero che la moderazione algoritmica dei contenuti promuove i partiti al governo e sopprime quelli all’opposizione. E a giudicare da quello che è successo negli ultimi anni, potrebbe essere una versione realistica dei fatti. Incontri segreti Secondo un report del Washington Post, il governo indiano avrebbe organizzato meeting segreti con i manager di Twitter, Facebook e YouTube, in cui si discutevano i contenuti e i profili da bloccare. Con la sigla “69A”, la sezione dell’Information Technology Law dedicata alla censura, venivano nominati gli incontri in cui erano coinvolte le agenzie governative di intelligence, sicurezza e informazione, che presentavano ai social media i post da rimuovere “per questioni di sicurezza nazionale”. epa10757018 Indian Prime Minister Narendra Modi talks to the media upon his arrival with other cabinet ministers to attend the monsoon session at the Parliament House in New Delhi, India, 20 July 2023. Modi said 'My heart is filled with pain and anger because of the Manipur incident that has come into the light. It is a shameful incident for any civilized society. This incident is an insult to the whole nation. I assure the citizens that the guilty will not be spared', after a video of two women being paraded naked by a mob in Manipur surfaced on social media. EPA/HARISH TYAGIEPA I numeri sono impietosi: le richieste di rimozione di account e post sono cresciute da 471 nel 2014 a 6.775 nel 2022 – i dati erano consultabili sul sito del governo. Solo su Twitter i profili sospesi sono stati 77 nel 2020 e quasi 1.400 nel 2021– la compagnia ha smesso di pubblicare i Transparency report dopo quell’anno. I dirigenti aziendali contrari, come quelli della defunta Twitter, rischiavano di finire in carcere e le loro compagnie espulse dal mercato indiano. «[Se] non vi piacciono le [nostre] regole, non operate in India», aveva dichiarato allora il ministro Chandrasekhar. Le leggi indiane infatti permettono di considerare penalmente responsabili le piattaforme che non rispondono alle richieste di cancellazione. Un esempio L’importanza della questione va oltre i confini dell’India. Secondo diversi esperti ed attivisti, le leggi della maggiore economia sud asiatica hanno già ispirato i governi di altri paesi come la Nigeria, il Bangladesh e il Myanmar. L’impatto sulla privacy di queste politiche, in particolare di quelle relative al controllo delle chat private, potrebbe generare pericolosi spill over in altri paesi. Per questo monitorare la situazione nella “più grande democrazia al mondo” è fondamentale per capire in che direzione si stanno muovendo i rapporti tra le grandi aziende del tech e i governi dei paesi in cui operano.