Nella sua prima enciclica, dedicata all’intelligenza artificiale, papa Prevost denuncia il rischio della creazione di monopoli di pochi privati, critica le ideologie postumanista e transumanista, chiede maggior controllo politico dei processi economici, che devono sempre tenere al centro l’occupazione e i lavoratori, oltre a nette limitazioni dell’uso dei sistemi di Ia in scenari di guerra
«Innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme»: è questo il bivio di fronte cui si trova la «magnifica umanità» che dà il titolo a Magnifica Humanitas, la prima enciclica di Leone XIV, dedicata all’intelligenza artificiale. La digitalizzazione, l’Ia e la robotica sono le res novae che interrogano la Chiesa nel 135° anniversario della Rerum Novarum di Leone XIII: in Magnifica Humanitas il papa mette soprattutto in guardia dal rischio dell’oligopolio, la concentrazione di queste tecnologie nelle mani di pochi, dicendo inoltre che questi sistemi vanno “disarmati”, cioè «sottratti alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva».
Ma chiede anche che l’utilizzo dell’Ia in ambito bellico sia governato da criteri stringenti («non esiste algoritmo che possa rendere la guerra moralmente accettabile») e che i processi di trasformazione che l’intelligenza artificiale sta portando nel mondo del lavoro sia governato mettendo al centro il bene dei lavoratori. E rifiuta il pensiero postumanista o transumanista, nella convinzione che «non c’è un momento o una condizione dell’umano che non sia degno di Dio».
Babele e Gerusalemme
L’enciclica, divisa in cinque capitoli, più un’introduzione e una conclusione, si apre con due scene diverse di costruzione nell’Antico Testamento: da una parte c’è la torre di Babele, nella Genesi, dall’altra la ricostruzione delle mura di Gerusalemme.
Nel primo caso, scrive il papa, «l’impresa appare imponente: un’unica lingua, un’unica tecnologia, un’unica direzione. Tuttavia, il progetto nasconde una profonda insidia: è un’opera concepita senza riferimento a Dio, sostenuta da un’uniformità che elimina la diversità e che, invece della comunione, sceglie l’omologazione».
Nel secondo, l’immagine è tratta dal libro di Neemia, che torna a Gerusalemme dopo la cattività babilonese e vedendo la città distrutta chiede di ricostruirla: «Il racconto mostra come la città rinasca non grazie all’iniziativa di una singola persona, ma attraverso la responsabilità condivisa di tutto il popolo: sacerdoti, artigiani, capifamiglia, donne e giovani. È un’opera che ha Dio al centro e ricostruisce i legami prima ancora delle pietre. L’antica Gerusalemme ritrova così una lingua comune, non quella dell’uniformità, ma quella della comunione».
Le due icone bibliche servono al pontefice per spiegare che la tecnologia non è né una soluzione a tutti i problemi, né in astratto un male: «Ma, concretamente, non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa. Per questo la prima scelta non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme».
Il cammino della dottrina sociale
Il primo capitolo di Magnifica Humanitas è dedicato a ripercorrere le tappe fondanti della dottrina sociale della Chiesa. Dalla Rerum Novarum fino alle encicliche di Francesco, Laudato si’ e Fratelli Tutti, passando per i documenti del Concilio Vaticano II, per la Pacem In Terris di Giovanni XXIII e per la Populorum Progressio di Paolo VI.
Nel secondo, il pontefice prosegue elencando fondamenti e principi della dottrina sociale della Chiesa. Ricorda come fondamento del magistero l’idea che uomini e donne siano creati a immagine e somiglianza di Dio, da cui deriva la dignità intrinseca di ogni persona umana, l’inviolabilità dei diritti umani (tra cui il papa cita il diritto alla vita «dal concepimento fino alla fine naturale») e la tutela dei diritti delle minoranze. Passa poi ad elencare i principi della Dottrina sociale della Chiesa: quello del bene comune (che «non può mai essere separata dal rispetto del diritto dei popoli ad esistere», per cui è «inaccettabile» ogni «tentativo o progetto di sottomettere o eliminare una nazione»), quello della destinazione universale dei beni, quello della sussidiarietà, quello della solidarietà e quello della giustizia sociale.
Nell’enunciare il principio della destinazione universale dei beni, in particolare, il papa sottolinea che «oggi, tra i beni che sono universalmente destinati a tutti, dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati».
Non moralmente neutra
È nei capitoli tre e quattro che Leone XIV arriva a toccare più direttamente il tema dell’intelligenza artificiale. Senza provare a descriverla in termini troppo tecnici, sottolineando che il suo sviluppo procede a una velocità che rende presto obsoleta ogni definizione, si concentra sempre innanzitutto sulla questione del “monopolio” sottolineando che non sono gli stati ma «grandi attori economici e tecnologici» a fissare «le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione» nel contesto digitale.
«Quando un potere di tale portata si concentra in poche mani», scrive il papa, «tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze». Leone parla anche del rischio di interpretare l’Ia come «moralmente neutra» e invoca «prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’Ia», non come atto contro il progresso ma come «cura responsabile verso la famiglia umana».
Il pontefice, che cita anche il grande impatto ambientale che hanno i sistemi di Ia, chiede «la possibilità di discutere il codice etico» per l’intelligenza artificiale, da sottoporre «a criteri di giustizia sociale condivisa». Perché «non serve un’Ia più morale se questa morale è decisa da pochi», scrive Prevost, invocando anche una maggiore presenza e controllo della politica nei processi.
Il papa denuncia poi le ideologie del transumanesimo e del postumanesimo, sottese a molto dello sviluppo dell’intelligenza artificiale. Mentre quelle correnti di pensiero predicano in qualche modo il superamento dei limiti umani, Prevost afferma che è «nel nostro essere limitati che trovano spazio la compassione, la sincera inquietudine di fronte ai bisogni degli altri, la generosità che sorprende anche in mezzo all’oscurità e al fallimento, l’esperienza spirituale e l’adorazione di Dio».
Il papa dedica poi ampio spazio alle «ricadute concrete» che lo sviluppo delle intelligenze artificiali ha avuto e sta avendo sulla società. Parla delle possibilità di manipolazione che l’Ia offre, ricordando che la verità è un bene comune, e invoca un’alleanza educativa per affrontare la sfida pedagogica posta da questi sistemi.
E parla molto anche di lavoro, chiedendo che l’occupazione venga tutelata e che i sistemi mantengano al centro la persona e non il profitto: «Ogni introduzione di automazione e Ia» scrive «essere accompagnata da scelte verificabili di tutela dell’occupazione, di riqualificazione e di partecipazione dei lavoratori, perché la tecnologia sia orientata a liberare tempo e capacità umane, non a produrre esclusione». Il papa chiede anche che la formazione e l’adattamento siano resi accessibili a tutti e non scaricati sui singoli.
Il pontefice affronta anche le disuguaglianze generate dal lavoro umano che sta dietro lo sviluppo tecnologico, in particolare la questione della «nuova schiavitù» resa visibile nei «corpi segnati, mutilati, consumati» delle persone che lavorano nell’estrazione delle terre rare. E denuncia il rischio di nuove forme di colonialismo.
Guerra e algoritmi
In un capitolo in cui si trova anche una difesa del diritto internazionale e una denuncia della crisi del multilateralismo, il papa si dedica all’impatto dell’Ia in ambito bellico. La tecnologia, scrive, «non sottrae il conflitto alla sua intrinseca disumanità, può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa, con le vittime ridotte a dati».
Il pontefice, che parla anche della necessità di superare in questo contesto «la teoria della “guerra giusta”» («troppo spesso invocata a giustificare qualsiasi guerra, fermo restando il diritto alla legittima difesa intesa nel senso più stretto», scrive), chiede regole stringenti sull’utilizzo dell’Ia sul campo di battaglia: vanno garantite tracciabilità e possibilità di ricostruire la catena decisionale per ogni sistema utilizzato, la scelta di usare la forza letale non può essere mai delegata «a processi opachi o automatizzati», ma deve restare umana, infine vanno stabilite regole a livello internazionale per fermare la corsa agli armamenti tecnologici.
Il papa invita ciascuno, a tutti i livelli della società, a costruire «la civiltà dell’amore», espressione introdotta da Paolo VI in opposizione alla corsa agli armamenti nucleari durante la Guerra Fredda.
Magnificat
Nella conclusione, papa Prevost rivolge lo stesso invito di san Paolo nella Prima lettera ai Corinzi: «Ciascuno stia attento a come costruisce» e ricorda ai credenti che «l’uomo è chiamato a essere collaboratore nell’opera della creazione, anziché spettatore rassegnato di processi tecnologici che ne limitano la libertà e la responsabilità» e che «nessun sistema di calcolo, per quanto sofisticato, genera un cuore che si consegna, né una coscienza che discerne il bene”». E invita infine ad assumere il punto del Magnificat, la preghiera della Vergine Maria in visita ad Elisabetta nel vangelo di Luca, per guardare il mondo dal basso e non dalla prospettiva dei potenti.
© Riproduzione riservata
