Sin recurrir al lenguaje mayestático del “Nosotros”, León XIV inicia el capítulo central de Magnifica Humanitas desde el punto de vista de su contenido con unas pocas y sencillas palabras: “Después de haber recordado los principios que iluminan la Doctrina social, deseo dirigir la mirada hacia algunos desafíos que afectan a nuestro modo de vivir este tiempo”.
Que esos desafíos tienen que ver con la revolución digital lo ha dicho ya; que tienen que ver con la relación entre inteligencia artificial y dignidad humana lo anuncia en el título de este capítulo: “Técnica y dominio. La grandeza humana ante las promesas de la IA” y las posibilidades de su uso ―humanizadora o deshumanizadora― al recordar las imágenes bíblicas referidas en la introducción: la construcción de la Torre de Babel y la reconstrucción de Jerusalén en tiempos de Nehemías y, en el subtítulo de la sección final “Dos ciudades y dos amores” que dan valor al subtítulo que di a mi primer asomo a esta encíclica: “La Ciudad de Dios de León XIV”…
El carácter crítico-profético del capítulo central desde el punto de vista del desarrollo de la Doctrina Social de la Iglesia de esta encíclica se muestra ya desde sus primeros párrafos, en los que cita al Papa Francisco, quien, en “Laudato si’”, denunciaba “el creciente afianzamiento de un paradigma tecnocrático” con su “tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas” y a San Paulo VI, quien, en un discurso ante la FAO, advertía, en el ya lejano 1970: “los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre”.
Este creciente afianzamiento del paradigma tecnocrático, escribe el Papa, “se ha extendido rápidamente en los últimos años, también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología” y, aun reconociendo que “en sí mismas, dichas innovaciones pueden ser una gran ayuda para el desarrollo humano integral y el cuidado de la Casa común”, subraya que “precisamente por su poder, pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político”.
En ese contexto, “los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario: la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos”.
Después de afirmar que no es posible dar una definición única y completa de la IA, la describe comparándola y distinguiéndola de la inteligencia humana.
Los sistemas de inteligencia artificial “imitan ciertas funciones de la inteligencia humana” y “a menuda la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos”… Sin embargo [siempre aparece el Eppur galileano], “esta potencia sigue ligada exclusivamente al tratamiento de datos” la “inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio”.
Lo aquí referido y todo lo que ha dicho en esta parte de su encíclica lleva al Papa a escribir: “A la luz de cuanto se ha dicho, podemos comprender mejor por qué la IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso”.
En el ámbito personal, llama la atención sobre tres aspectos: “la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana”.
En el ámbito social, destaca el hecho de que “los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva” y que, “con el aumento de la complejidad […] crecen las necesidades de potencia y de cálculo y capacidad de almacenamiento”, por lo que “es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medio ambiente y cuidar nuestra Casa común”.
Y, como era de esperarse, da paso al juicio moral y social derivado del discernimiento a la luz de los cinco principios de la Doctrina Social de la Iglesia y expresado en lenguaje crítico profético:
“Hablar de bien común en un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA.
Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación.
Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio.
Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos.
Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño”.
