Meta, lavoratori discriminati dall’algoritmo

Discriminati dall’algoritmo. Avevano usufruito di un congedo di maternità o parentale, si erano assentati per motivi di salute o avevano richiesto tutele legate a una disabilità. Oggi sostengono che proprio quei diritti abbiano pesato sulla decisione di licenziarli: perché così ha determinato l’Ia. È l’accusa di 26 dipendenti di Meta, che due settimane fa hanno portato l’azienda davanti a un tribunale federale della California sostenendo che sistemi di intelligenza artificiale siano stati utilizzati per valutare le prestazioni dei lavoratori e individuare chi avrebbe dovuto lasciare l’azienda. Secondo i ricorrenti, l’algoritmo avrebbe assegnato valutazioni peggiori a chi si era assentato dal lavoro senza distinguere tra assenze ingiustificate e diritti tutelati dalla legge. La denuncia riferisce il caso di una scienziata licenziata mentre era in congedo di maternità, informata due giorni prima del parto. Un ingegnere sostiene di aver ricevuto una valutazione negativa dopo un periodo di assenza per un infortunio. Un manager, in congedo per malattia, racconta invece di essere stato licenziato dopo appena sedici giorni di assenza. Per questi lavoratori il licenziamento può comportare anche la perdita dell’assicurazione sanitaria aziendale durante una gravidanza o una terapia, oltre a problemi legati al visto per i dipendenti stranieri. Meta respinge le accuse e sostiene che le decisioni finali siano state prese da persone, non dall’algoritmo. Il giudice federale della California ha respinto la richiesta di sospendere in via d’urgenza i licenziamenti, ritenendo non dimostrato il danno irreparabile. La vicenda, però, non è chiusa: proseguirà in arbitrato e potrebbe tornare davanti al tribunale se emergeranno nuove prove sul ruolo effettivamente svolto dai sistemi di Ia. Per capire perché questi sistemi possono discriminare bisogna partire dal modo in cui apprendono. Meta e Google condannate negli Usa: «Creano dipendenza tra i giovani» Come funziona l’Ia «Gli algoritmi non funzionano attraverso regole scritte direttamente dal programmatore», spiega a Domani Caterina Viola, docente di Informatica all’Università di Catania. «Durante l’addestramento imparano dai dati e individuano correlazioni statistiche che permettono di formulare previsioni». Un algoritmo non ragiona come una persona. Non sa distinguere tra uno schema utile e uno ingiusto. Non ha una cultura del diritto. Se apprende da dati che riflettono discriminazioni già esistenti, tenderà a riprodurle. «Il pericolo dell’Ia nelle aziende è amplificare le disuguaglianze e portare a decisioni dannose per la società», aggiunge Viola. Meta e Google saranno responsabili della dipendenza da social dei bambini Software maschilisti Non è la prima volta che un algoritmo finisce sotto accusa. Nel 2018 Amazon rinunciò a un software sviluppato per selezionare i candidati dopo aver scoperto che tendeva a penalizzare i curriculum delle donne. Il sistema era stato addestrato utilizzando dati storici di assunzione in un settore dove i ruoli tecnici erano ricoperti soprattutto da uomini. L’algoritmo aveva così imparato a considerare quei profili come il modello di riferimento. Come spiega Viola, «se un sistema viene addestrato su dati che, per ragioni storiche e culturali, privilegiano gli uomini rispetto alle donne, continuerà a riprodurre quella preferenza». Un caso più recente riguarda Workday, società che sviluppa software utilizzati dalle aziende per gestire candidature e percorsi professionali. A giugno un giudice federale della California ha stabilito che potrà andare avanti una class action che accusa gli strumenti dell’azienda di aver escluso alcuni candidati in modo discriminatorio, in particolare persone con disabilità. Su questi temi Europa e Stati Uniti seguono strade diverse. L’AI Act europeo considera ad alto rischio i sistemi utilizzati per assumere o licenziare lavoratori e impone obblighi di trasparenza, controlli e supervisione umana. «L’Ue riconosce che questi strumenti possono incidere direttamente sui diritti delle persone e, proprio per questo, richiedono garanzie specifiche», spiega a Domani Maria Romana Allegri, docente di Istituzioni di diritto pubblico alla Sapienza. Negli Stati Uniti, invece, manca ancora una legge federale dedicata all’intelligenza artificiale e i lavoratori possono fare affidamento solo sulle norme antidiscriminatorie già esistenti. A detta di Allegri, questa scelta dipende «dal peso economico e politico delle grandi aziende tecnologiche, che hanno interesse a mantenere maggiore libertà di azione». Come ha spiegato Luciano Floridi, professore alla Yale University e all’Università di Bologna, uno dei rischi principali dell’Ia nasce quando si attribuisce a un sistema automatico un’autorità decisionale che non dovrebbe avere. È il cosiddetto bias dell’automazione: «Più il sistema è sofisticato e sembra non sbagliare, più dovremmo controllarlo e avere le competenze per valutarne le decisioni». L’algoritmo di Meta e i rischi per la democrazia, l’indagine della Commissione europea è ancora ferma