Papa Leone XIV, nell’enciclica Magnifica Humanitas, dice che non basta regolare l’intelligenza artificiale: va disarmata e resa ospitale. Un lessico che sembra evocare un terreno armato e di conseguenza inospitale, come un’isola col mare cristallino dove però si trova una base militare. Ma chi disarma l’Ia? Il “disarmare” dell’enciclica sembra una profezia in senso biblico
Papa Leone XIV, nell’enciclica Magnifica Humanitas, dice che non basta regolare l’intelligenza artificiale: va disarmata e resa ospitale. Propongo una lettura di questo aspetto, non interpretativa, ma intensiva in senso linguistico.
Mi interessa la parola disarmare e anche il gesto successivo: rendere ospitale. Quello che evoca. L’intelligenza artificiale (di seguito, “Ia”) qui sembra un territorio, un luogo. Un terreno armato e di conseguenza inospitale, non per forza un terreno che sarebbe inospitale in sé. Penso a un’isola col mare cristallino dove però si trova una base militare. L’isola non è disarmata e non è ospitale. Ma potrebbe divenire ospitale se disarmata.
La parola “disarmare” fa pensare a una guerra. In atto, ma anche in potenza. Stato di tensione, condizione presente di incertezza. Si può essere armati senza essere in guerra. “Disarmare un soggetto” non dice nulla sullo scopo del soggetto: si può essere armati senza fare nulla con le armi. Però, se si è armati, si fa paura. Le armi producono una minaccia propria, indipendente dalle intenzioni di chi le ha. Non vorreste disarmare un bambino che entri in possesso di una pistola? Si può essere armati senza saperlo.
Armati
Ma chi è il soggetto armato? L’enciclica suggerisce che è l’Ia stessa a trovarsi armata, ma per forza a sua insaputa, visto che l’Ia non ha coscienza. Su questo la Chiesa è risoluta: l’Ia non ha coscienza. È armata nel senso che è immersa in una logica di competizione economica, cognitiva, geopolitica che la trasforma in un soggetto armato. Tutti vogliono avere il controllo dell’Ia. Risuona il concetto di corsa agli armamenti: tutti si armano perché gli altri si armano. La spirale è nella struttura.
Disarmare in italiano ha anche un’accezione tecnica che si usa in edilizia. Liberare una struttura dalle armature provvisorie, una volta che è in grado di reggersi da sola. Si disarma un arco, un tetto, si tolgono i sostegni temporanei perché la costruzione è diventata stabile. In inglese, la lingua madre del papa, “to disarm” può significare anche disattivare un dispositivo di sicurezza o un allarme: togliere uno stato di allerta.
Sono immagini diverse dalla guerra. Forse sono immagini interessanti, al di là delle intenzioni dell’enciclica (che restano linguisticamente complesse). L’Ia come struttura edilizia che non si regge in piedi da sola senza l’armatura della competizione. Che ha bisogno della corsa per giustificarsi, per trovare finanziamenti. Disarmarla significa renderla capace di stare in piedi senza quella protesi, restituirla a una logica diversa dalla gara. Non nel senso di stare in piedi da sola, per sua volontà, ma per volontà collettiva.
C’è poi quella seconda parola accanto a “disarmare”. L’Ia va resa “ospitale”. Non solo sicura o regolamentata. Ospitale. La parola introduce un rovesciamento: non più la tecnologia che cattura, profila, estrae, ma che accoglie. L’ospitalità implica vulnerabilità, lentezza, spazio condiviso, limite all’estrazione. Implica che chi arriva sull’isola cambia il volto dell’isola, e implica che l’isola stessa cambia chi ci approda. È una relazione. Fra due entità diverse, non una relazione umana o simil-umana, ma comunque non una transazione. Una tecnologia ospitale non è solo una tecnologia meno pericolosa. È una tecnologia che ha smesso di trasformare ogni incontro in vantaggio.
Il limite
Il limite della parola disarmare è politico. Il disarmo richiede una forza esterna, un trattato, una resa, una potenza capace di imporlo. Gli accordi sul disarmo sono possibili perché esistono, per esempio, superpotenze con un incentivo simmetrico a non distruggersi. Oggi, nella competizione tecnologica, questo incentivo simmetrico non esiste. Gli attori sono asimmetrici, i confini porosi, il vantaggio è tutto nell’accelerare. Il rischio è diffuso, lento, difficile da attribuire e da distribuire, e fermarsi significa perdere terreno rispetto agli altri.
Chi disarma l’Ia? Il “disarmare” dell’enciclica non è una proposta operativa. È qualcosa di più vicino alla profezia in senso biblico, non previsione del futuro, ma enunciazione di ciò che dovrebbe essere contro ciò che è. Nominare la realtà così da renderla visibile.
Non dimentichiamo, infine, che se qualcosa viene disarmato significa che chi opera il disarmo è disarmante. Disarmante: qualcosa o qualcuno che, per la sua ingenuità, semplicità o immediatezza, riesce ad azzerare ogni ostilità, diffidenza o capacità di replicare.
Siamo nel campo dell’amore. Un sorriso disarmante. A disarming smile, nella lingua madre di chi ha scritto l’enciclica.
© Riproduzione riservata
