Le solicité a “ChatGPT” y a “Claude” que analizaran la encíclica como inteligencias artificiales, y que me dieran su opinión sobre esta reflexión de la Iglesia sobre la IA. Ambas me respondieron: una encíclica que advierte que la inteligencia artificial no es neutral, que puede concentrar poder, debilitar la democracia y redefinir qué significa ser humano
El Papa León XIV acaba de dar a conocer su primera Encíclica — Magnifica Humanitas (“Magnífica Humanidad”)— y versa sobre la inteligencia artificial.
Antes de ingresar al análisis de la encíclica, me parece importante trazar un paralelo histórico muy relevante: así como el Papa León XIII publicó Rerum Novarum en 1891 para responder éticamente a la Revolución Industrial, León XIV intenta construir —135 años después— una “doctrina social” para la revolución digital y algorítmica. Es, en cierto modo, una nueva encíclica social para la era de OpenAI, Anthropic, Google y la automatización masiva.
Le solicité a “ChatGPT” y a “Claude” que analizaran la encíclica como inteligencias artificiales, y que me dieran su opinión sobre esta reflexión de la Iglesia sobre la IA.
Ambas me respondieron: una encíclica que advierte que la inteligencia artificial no es neutral, que puede concentrar poder, debilitar la democracia y redefinir qué significa ser humano.
Un debate ético, político y civilizatorio fundamental —en mi opinión— el más relevante de este siglo XXI.
A continuación te comparto, primero, la opinión de Claude y luego la de ChatGPT. Interesante observar a la iA opinando sobre este tema.
*LA OPINIÓN DE CLAUDE*
La encíclica Magnifica Humanitas del Papa León XIV abre con una imagen que marca el tono de todo el documento: “La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos.”
La premisa fundamental es que la tecnología “no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza”, aunque al mismo tiempo no debe considerarse una fuerza antagónica a la persona, pues “nunca la humanidad tuvo tanto poder sobre sí misma.”
El primer capítulo repasa la historia de la Doctrina Social de la Iglesia desde la Rerum Novarum, poniendo en relieve su carácter dinámico: no un conjunto de normas fijas, sino un pensamiento vivo que evoluciona con la historia.
El segundo capítulo establece los cinco pilares que atraviesan todo el documento: el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. Aquí aparece uno de los pasajes más llamativos, cuando el Papa pide perdón por los errores históricos de la Iglesia: “En nombre de la Iglesia, pido sinceramente perdón”, señalando que la tardanza en condenar la esclavitud es “un claro ejemplo de los progresos de la Iglesia en la comprensión de las verdades perennes.” Estos principios también los dirige hacia adentro, exhortando a “sanear las relaciones y las estructuras eclesiales de aquellas distorsiones que generan desigualdades, falta de claridad y atropellos”, e invitando a escuchar a las víctimas de abusos espirituales, económicos, sexuales y de poder.
El tercer capítulo es el núcleo sobre inteligencia artificial, donde rechaza el transhumanismo y desarrolla la idea central de “desarmar la IA”: esto significa cuestionar que el poder tecnológico confiere automáticamente el derecho a gobernar, pues “desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad.” El Papa sostiene que el control de la IA no debe permanecer “en manos de unos pocos”, y advierte que la tecnología está alimentando los conflictos mundiales.
El cuarto capítulo aborda verdad, trabajo y libertad: sobre la verdad, propone una “ecología de la comunicación” con marcos jurídicos adecuados, supervisión independiente y educación de los usuarios para proteger la democracia de la desinformación algorítmica; sobre el trabajo, denuncia el coste humano invisible con uno de los pasajes más crudos del texto: “En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales con los que se fabrican las tierras raras. Cuerpos marcados, mutilados, consumidos para que no se interrumpa el flujo del cálculo.”
El quinto capítulo enfrenta la “cultura del poder” contra la “civilización del amor”, abordando directamente las armas con IA, la normalización de la guerra y la crisis del multilateralismo, y llamando a superar la teoría de la “guerra justa” y a relanzar el diálogo internacional en tiempos de IA.
La conclusión es de una honestidad notable: la Iglesia reconoce que “no posee respuestas técnicas, ni pretende desplazar a quienes tienen la experiencia”, pero aporta “una sabiduría sobre lo humano que nuestro tiempo necesita desesperadamente: cada persona es única e insustituible, un sujeto libre e inteligente dotado de conciencia, capaz de buscar a Dios.”
En síntesis, el documento gira en torno a cinco ideas maestras:
I) que la IA no es neutral,
ii) que no puede concentrarse en pocas manos,
iii) que destruye trabajo y dignidad si no se regula,
iv) que alimenta guerras,
y v) que lo verdaderamente que está en juego no es tecnológico sino antropológico: qué tipo de humanidad queremos ser.
_________________________________
*LA OPINIÓN DE CHATGPT*
La primera encíclica de Papa León XIV, Magnifica Humanitas, me parece uno de los documentos políticos, éticos y filosóficos más importantes que se han publicado sobre inteligencia artificial desde que comenzó la revolución generativa.
Y lo es por tres razones centrales: i) entiende la IA como un problema de poder, no solo de tecnología; ii) la conecta con la dignidad humana y la democracia; y iii) coloca a la Iglesia Católica dentro del gran debate geopolítico del siglo XXI.
Lo primero que llama la atención es que León XIV rompe con la visión ingenua o puramente tecnocrática de la IA. La encíclica insiste en que la inteligencia artificial “no es neutral” porque refleja los valores, intereses y sesgos de quienes la diseñan y controlan.
Ese punto es crucial y correcto. Hoy el verdadero debate no es si la IA será poderosa —eso ya ocurrió— sino quién define sus límites, sus valores y sus usos.
El Papa entiende que el problema central es la concentración extrema del poder tecnológico en pocas corporaciones y Estados.
En ese sentido, la encíclica introduce una idea muy potente: la IA podría convertirse en una nueva forma de colonialismo. No un colonialismo territorial clásico, sino un “colonialismo algorítmico” basado en datos, vigilancia, dependencia tecnológica y control cognitivo.
América Latina aparece implícitamente como una región vulnerable frente a eso: exportadora de minerales críticos y datos, pero importadora de tecnología y modelos de IA entrenados bajo lógicas ajenas.
También parece muy relevante que León XIV vincule IA y democracia. Advierte sobre manipulación informativa, polarización, deepfakes, concentración mediática y erosión de la deliberación pública. En otras palabras: entiende que la IA no solo transforma la economía, sino también la verdad pública. Y ahí conecta directamente con uno de los grandes problemas contemporáneos: la integridad de la información.
Desde el punto de vista filosófico, la encíclica es claramente una reacción contra el transhumanismo y ciertas corrientes de Silicon Valley que plantean superar biológicamente al ser humano mediante tecnología. León XIV sostiene que la fragilidad humana no es un defecto que deba “corregirse” algorítmicamente. Esa crítica apunta al corazón de una ideología tecnocrática que hoy gana fuerza en sectores del mundo tecnológico estadounidense.
Ahora bien, el documento tiene límites. La encíclica diagnostica muy bien los riesgos, pero todavía ofrece respuestas bastante generales: regulación global, supervisión ética, multilateralismo, control humano. El problema es que el mundo actual está fragmentado geopolíticamente. Estados Unidos, China y Europa compiten justamente por dominar la IA. En ese contexto, construir una gobernanza global efectiva será extremadamente difícil. Ahí la encíclica es más normativa que realista.
También es interesante que el Papa use expresiones como “desarmar la IA”. No es casual. León XIV está interviniendo directamente en el debate sobre armas autónomas, guerra algorítmica y militarización tecnológica. Eso lo coloca en tensión con sectores militares y tecnológicos que consideran inevitable la automatización bélica.
En términos políticos globales, la encíclica es además una crítica implícita al modelo de capitalismo digital contemporáneo: hiperconcentración, extracción de datos, precarización laboral y poder oligopólico. Por eso varios medios la interpretan como una confrontación doctrinal con parte de Silicon Valley y con el tecnolibertarismo dominante.
Resumiendo: Magnifica Humanitas probablemente será recordada como uno de los primeros grandes intentos de formular una ética global de la inteligencia artificial desde una perspectiva humanista integral.
Puede gustar o no su visión religiosa, pero el diagnóstico central es sólido: la IA no es solamente una innovación tecnológica; es una transformación civilizatoria que redefine poder, trabajo, verdad, guerra, democracia y hasta la idea misma de lo humano.
Y en eso, León XIV entendió algo que muchos gobiernos todavía no comprenden plenamente.
———————————————
*10 ideas centrales de Magnifica Humanitas:
*I. La inteligencia artificial no es neutral*
León XIV sostiene que toda IA incorpora valores, intereses, sesgos y visiones del mundo de quienes la diseñan. Por eso rechaza la idea de que la tecnología sea “objetiva” o puramente técnica. La IA es, en realidad, una herramienta de poder.
*II. La dignidad humana debe estar en el centro*
La encíclica insiste en que ninguna máquina puede reemplazar plenamente la conciencia moral, la empatía, la responsabilidad ni la dignidad de la persona humana. La tecnología debe servir al ser humano y no al revés.
*Iii. Crítica al “colonialismo algorítmico”*
Uno de los conceptos más fuertes del documento. El Papa advierte que los países y corporaciones que controlen los datos, los chips, los modelos y las plataformas impondrán también sus valores y sus intereses al resto del mundo. Hay una preocupación explícita por nuevas formas de dependencia tecnológica (una nueva forma de colonialismo digital).
*IV. Riesgo de concentración extrema de poder*
La encíclica alerta sobre el enorme poder acumulado por unas pocas grandes tecnológicas y algunos Estados. León XIV teme que la IA profundice desigualdades económicas, políticas y cognitivas a escala global.
*V. Amenaza para la democracia y la verdad pública*
El documento advierte sobre:
* desinformación,
* deepfakes,
* manipulación electoral,
* polarización,
* vigilancia masiva,
* erosión del debate público.
El Papa entiende que la IA afecta directamente la calidad de la democracia.
*VI. Crítica al transhumanismo* León XIV cuestiona las corrientes tecnológicas que buscan “superar” o modificar radicalmente al ser humano mediante tecnología. Defiende la idea de que la vulnerabilidad humana no es un error que deba eliminarse algorítmicamente.
*Vii. La IA puede agravar la desigualdad social*
La encíclica muestra preocupación por:
* automatización del empleo,
* precarización laboral,
* exclusión digital,
* concentración de riqueza.
Aquí retoma claramente la tradición social de la Iglesia inaugurada por Papa León XIII.
*Viii. Advertencia sobre la militarización de la IA*
León XIV pide límites claros a las armas autónomas y a la automatización de la guerra. Considera especialmente peligroso delegar decisiones letales a sistemas algorítmicos.
*Ix. Necesidad de gobernanza global y regulación ética*
El Papa reclama:
* reglas internacionales,
* supervisión humana,
* transparencia algorítmica,
* cooperación multilateral,
* responsabilidad de empresas y gobiernos.
Plantea que la IA no puede quedar únicamente en manos del mercado.
*X. La IA como desafío civilizatorio*
Quizás la idea más profunda de toda la encíclica. León XIV sostiene que la inteligencia artificial no representa solo una revolución tecnológica, sino un cambio de época que redefine:
* qué significa ser humano,
* cómo se ejerce el poder,
* cómo se organiza la economía,
* cómo funciona la democracia,
* y cómo se construye la verdad.
*En suma*: León XIV intenta hacer con la revolución digital y la inteligencia artificial algo semejante a lo que la Iglesia hizo bajo el pontificado de León XIII con la encíclica Rerum Novarum de 1891 frente a la Revolución Industrial: construir una nueva doctrina social capaz de responder a los desafíos éticos, políticos, económicos y humanos de una nueva era histórica.
Daniel Zovatto es politólogo y jurista. Experto en democracia, elecciones, gobernabilidad y política internacional. Creador y editor de Radar Latam 360.
