Hoy lunes 25 de mayo, el Papa León XIV presenta en persona su primera encíclica. Se titula Magnifica Humanitas y está dedicada a la inteligencia artificial. La decisión es inédita: ningún pontífice había presentado personalmente un documento de esta naturaleza.

El detalle no es menor. Cuando una institución de dos mil años decide salir de su práctica habitual para subrayar un tema, no está haciendo un gesto simbólico. Está enviando un mensaje deliberado.

Y ese mensaje es preciso. La encíclica fue firmada el 15 de mayo, en el aniversario 135 de la Rerum Novarum, el texto con el que León XIII enfrentó en 1891 los estragos sociales de la Revolución Industrial. León XIV eligió su nombre por esa herencia. El paralelo no es interpretación de los analistas: es la tesis deliberada del propio Vaticano.

Conviene leer ese mensaje con cuidado, porque dice más de lo que parece.

La Iglesia rara vez interviene doctrinalmente sobre fenómenos pasajeros. Cuando lo hace, es porque identifica transformaciones capaces de alterar las bases culturales y humanas de una época. Está colocando a la inteligencia artificial en esa categoría. No como una innovación más, sino como una mutación de alcance civilizatorio capaz de alterar la propia condición humana.

Como hemos insistido en distintas ocasiones, la discusión de fondo no consiste únicamente en qué puede hacer la inteligencia artificial, sino en qué ocurre cuando instituciones y sociedades empiezan a delegar criterio, sin comprender plenamente las implicaciones de dicha delegación.

Hay un dato que vuelve esto todavía más revelador. En el panel de presentación no están solo teólogos. Junto a especialistas en doctrina social y ética cristiana, participará un cofundador de Anthropic, una de las empresas que desarrollan los modelos de inteligencia artificial más avanzados del mundo.

Es decir: una de las instituciones espirituales más influyentes de Occidente sienta en la misma mesa a la frontera tecnológica y a la reflexión ética. Esa convergencia es el verdadero acontecimiento. Mucho más que cualquier frase del documento.Porque allí se confirma algo que venía gestándose en silencio.

Durante años, la inteligencia artificial ha sido presentada como un asunto técnico. Cosa de ingenieros, laboratorios y empresas. Se habla de algoritmos, productividad y capacidad de procesamiento. De hecho, un debate reservado para expertos.

Eso pareciera estar terminando. De ser así, el campo de la gobernanza ética de la inteligencia artificial estaría dejando de ser una cuestión tecnológica para volverse un problema geopolítico, institucional, ético y profundamente humano.

Y eso podría ayudar a reordenar la conversación.

Porque una parte creciente de la preocupación mundial ya no gira únicamente alrededor de la tecnología en sí misma, sino alrededor de la enorme concentración de poder que ha permitido que determinados actores privados, muchas veces sin contrapesos democráticos equivalentes, influyan sobre infraestructuras digitales, sistemas de información, modelos de vigilancia, capacidades predictivas e incluso visiones sobre el futuro de la humanidad. La expansión del poder tecnológico de figuras como Peter Thiel ha evidenciado hasta qué punto el desarrollo acelerado de capacidades tecnológicas sin marcos robustos de gobernanza ética puede terminar desplazando decisiones de enorme impacto colectivo hacia círculos cada vez más reducidos de poder económico y tecnológico.

Como antecedente a esta nueva actitud, desde el año 2020, el Vaticano lanzó el llamado «Rome Call for AI Ethics», impulsado por la Pontificia Academia para la Vida junto a gigantes como Microsoft e IBM, la ONU y líderes de las grandes religiones monoteístas, entendido como el pilar práctico del Vaticano para humanizar la tecnología a través de la «algorética» (ética de los algoritmos). Este manifiesto ecuménico y transversal busca comprometer a la industria y a la ciencia bajo seis principios fundamentales —transparencia, inclusión, responsabilidad, imparcialidad, fiabilidad y seguridad—, asegurando que el desarrollo de la inteligencia artificial no responda únicamente a la eficiencia técnica o comercial, sino al resguardo absoluto de la dignidad humana y el bien común.

Pero hay otra diferencia decisiva respecto a 1891. La Revolución Industrial transformó la fuerza física y los sistemas de producción. La inteligencia artificial interviene sobre algo más delicado: el criterio humano, entendido como la capacidad de analizar, interpretar y decidir.

En ese nuevo contexto, la discusión se centra en qué ocurre cuando personas e instituciones empiezan a delegar el análisis y la decisión, sin comprender del todo las implicaciones de esa delegación. No hablo solo de riesgos tecnológicos. Hablo de riesgos cognitivos, organizacionales y éticos. Ese sigue siendo el punto ciego de esta transición.

Por otra parte, la AI está avanzando de forma exponencial mientras las organizaciones y las personas siguen operando con estructuras mentales y normativas diseñadas para un mundo que está desapareciendo.

Entonces, ¿Qué pasa cuando una institución depende de sistemas cuyos criterios internos no comprende? ¿Cuando el análisis automatizado sustituye la deliberación humana? ¿Cuando la velocidad desplaza la reflexión y la eficiencia erosiona la responsabilidad?

Estas preguntas ya dejaron de ser filosóficas para convertirse en problemas de gobernanza. El mensaje, traducido a hoy, es incómodo pero claro. La industria de la inteligencia artificial no debe gobernarse sola. La autorregulación tiene un límite estructural: nadie es buen juez de su propio poder.

Por eso importa que actores ajenos al mercado —Estados, universidades, organismos internacionales y, ahora, instituciones morales— entren de lleno al debate, dejando atrás el ritmo lento y burocrático que muchas mantienen. 

Porque esa es, en el fondo, la paradoja de esta era.Construimos sistemas cada vez más sofisticados para ampliar nuestras capacidades, mientras todavía no logramos desarrollar la velocidad, la lucidez y las formas de gobernanza necesarias para preservar el equilibrio humano que exige administrar ese nuevo poder. Y toda ampliación de poder sin una ampliación equivalente de conciencia, responsabilidad y gobernanza termina volviéndose peligrosa.

La inteligencia artificial amplifica capacidades pero también amplifica incoherencias y conductas maliciosas. Como hemos venido señalando tanto en esta columna como en distintas investigaciones y artículos, el problema no radica únicamente en la sofisticación de las herramientas, sino en las condiciones humanas, institucionales y culturales desde las cuales se utilizan. De hecho, tenemos herramientas de comunicación extraordinarias y, a la vez, más polarización y desinformación. Acceso masivo al conocimiento, sin mayor claridad colectiva.

Por ello, el desafío actual está en preguntarnos qué clase de humanidad será capaz de gobernar inteligencias cada vez más veloces y poderosas, sin perder el control ético, político y humano de sus propias decisiones.

No estamos ante un debate pasajero. Estamos ante una etapa histórica en la que la relación entre humanidad, tecnología y poder tendrá que ser redefinida a través de un nuevo contrato social. Por eso el tema dejó de pertenecer a ingenieros y empresas. Porque lo que está en juego ya no es una herramienta. Es la forma en que la humanidad decidirá gobernar su propio poder.

Dra. Mireya Rodriguez PhD/ Experta en gobernanza ética en AI y transformación digital CEO de VORTEX AI SOLUTIONS S.A. de C.V.