Llevo meses haciendo la misma pregunta en este blog, en la radio, en conversaciones que empiezan sobre tecnología y acaban en filosofía. No la formulo así exactamente, pero late debajo de todo lo que escribo aquí: ¿qué estamos construyendo?

No qué podemos construir. No qué nos va a permitir construir la IA. Sino qué estamos, de hecho, eligiendo construir. Y cuál es la civilización que estamos levantando alrededor de estas herramientas.

El 25 de mayo de 2026, el Papa León XIV publicó su primera encíclica. Se llama Magnifica Humanitas. Y la abre, exactamente, con esa misma pregunta.

Así que decidí leerla con calma.

Antes de seguir: ¿qué es exactamente una encíclica?

La respuesta no es obvia, y por eso vale la pena detenerse un momento aquí porque el tipo de documento importa tanto como su contenido.

Una encíclica es la forma más solemne de enseñanza ordinaria del Papa. Una carta formal dirigida a todos los obispos católicos del mundo y, a través de ellos, a toda la Iglesia y "a todas las personas de buena voluntad". No es una declaración dogmática —eso es algo mucho más raro, ha ocurrido dos veces en la historia moderna— pero sí representa la posición oficial de la Iglesia sobre un tema, elaborada con todo el aparato teológico, filosófico y doctrinal disponible. Los católicos están llamados a recibirla con respeto genuino, aunque teólogos y obispos puedan matizarla y debatirla. No es un artículo de opinión. No es un comunicado de prensa. Es la voz institucional más antigua de Occidente tomando posición formal sobre algo.

El nombre viene del griego enkyklios, "circular", porque originalmente era una carta que circulaba entre las diócesis. Se identifican por sus primeras palabras en latín: Rerum Novarum en 1891, Laudato Si' en 2015, Magnifica Humanitas en 2026. Y 1.400 millones de católicos en el mundo, presentes en todos los continentes, en todos los parlamentos y en todas las empresas, saben que ese documento existe y que exige ser tomado en serio.

Eso es lo que publicó León XIV sobre inteligencia artificial.

El papa que llegó con la IA

Cuando Robert Francis Prevost apareció en el balcón de San Pedro hace poco más de un año y anunció que se llamaría León XIV, muchos vieron solo el guiño histórico. Un nombre que evocaba a León XIII, el papa de la Rerum Novarum, la encíclica de 1891 que fue la respuesta de la Iglesia a la Revolución Industrial: al trabajo en las fábricas, al proletariado, a las nuevas formas de poder que el capitalismo industrial había puesto sobre la mesa.

Lo que pocos subrayaron entonces con suficiente énfasis es que la elección del nombre fue, en sus propias palabras, deliberada por la relación con la IA. Al reunirse con los cardenales al día siguiente de su elección, León XIV explicó que había escogido ese nombre para continuar la senda marcada por su predecesor, porque hoy la Iglesia quiere ofrecer su herencia de doctrina social para responder a otra revolución industrial y a los avances de la inteligencia artificial, que plantean nuevos retos para la defensa de la dignidad humana, la justicia y el trabajo.

Eso fue hace un año. Y la encíclica fue firmada el pasado 15 de mayo, exactamente 135 años después de la publicación de la Rerum Novarum de León XIII. Una fecha que dentro de los círculos vaticanos nadie considera casual.

La simetría es de las que te hacen pensar. En 1891, una institución milenaria intentó darle sentido moral a una revolución que estaba destruyendo formas de vida enteras y creando otras que nadie sabía todavía cómo juzgar. En 2026, el mismo intento, con la misma estructura argumental, ante una revolución diferente y creo que más radical.

Vale la pena detenerse un momento en qué decía exactamente aquella encíclica, porque la comparación ilumina tanto lo que León XIV intenta como lo que le cuesta más conseguir.

La Rerum Novarum de 1891 era un documento notablemente concreto para ser un texto teológico. León XIII nombró cosas específicas: el derecho a un salario justo, entendido no como lo que el mercado fijara sino como lo que permitiera vivir con dignidad. El derecho de los trabajadores a asociarse en sindicatos, que en muchos países era entonces ilegal o perseguido. La limitación de la jornada laboral. La protección del trabajo infantil y femenino. La obligación del Estado de intervenir cuando el mercado destruía la dignidad de las personas. Eran propuestas que podían convertirse en leyes. Y de hecho se convirtieron: inspiraron las primeras legislaciones laborales en Europa y América Latina, legitimaron moralmente el sindicalismo, y sentaron las bases doctrinales de lo que luego llamaríamos Estado de bienestar, décadas antes de que ese concepto existiera como tal.

Lo que hace posible esa concreción es que el problema de 1891 tenía una forma visible. El obrero de la fábrica era una realidad innegable: jornadas de catorce horas, trabajo infantil, accidentes sin compensación, salarios de miseria. El adversario también era identificable: el capitalismo industrial y el socialismo marxista, dos sistemas con nombres, líderes, partidos y programas. Y el instrumento para resolverlo estaba empezando a inventarse: la legislación laboral, los sindicatos, la intervención del Estado. La Iglesia contribuyó a legitimarlos moralmente antes de que existieran plenamente.

Magnifica Humanitas, la encíclica de León XIV, llega a un escenario muy diferente. El supuesto daño de la IA es real pero más disperso y más difícil de atribuir: sesgos algorítmicos invisibles, desempleo estructural gradual, erosión de la privacidad, desinformación a escala industrial, dependencia digital que nadie ha elegido conscientemente. El adversario no tiene cara: son plataformas transnacionales, modelos de negocio opacos, poder privado sin representación democrática. Y los instrumentos para regularlo todavía no existen o son insuficientes. Además, en 1891 los estados podían legislar sobre las fábricas de su territorio. Hoy las empresas que desarrollan IA tienen capitalizaciones superiores a la mayoría de los estados y pueden trasladar operaciones, datos y servidores fuera de cualquier jurisdicción que intente regularlas.

Fijaos que incluso los títulos de las dos encíclicas lo dicen todo sin necesidad de leerlas. Rerum Novarum significa "de las cosas nuevas": León XIII miraba hacia fuera, al mundo que cambiaba. Magnifica Humanitas significa "magnífica humanidad": León XIV mira hacia dentro, a lo que no debe cambiar. Uno decía "hay cosas nuevas que debemos afrontar". El otro dice "hay algo magnífico en nosotros que debemos custodiar". Es una elección de encuadre reveladora. Un título ofensivo frente a un título defensivo. La Rerum Novarum iba a por el problema. Magnifica Humanitas intenta protegerse de él.

La pregunta que casi nadie hace

Lo que me parece más interesante de Magnifica Humanitas no es que el Papa hable de IA. Eso ya lo esperábamos. Lo que me llama la atención es el ángulo desde el que entra.

El Pontífice plantea que el desarrollo tecnológico y la inteligencia artificial pueden convertirse tanto en herramientas para el bien común como en instrumentos capaces de desfigurar la dignidad humana. Para León XIV el problema no es la tecnología en sí misma, sino el tipo de civilización que se está construyendo a su alrededor.

Para ilustrarlo recurre a dos imágenes bíblicas: la Torre de Babel y la reconstrucción de Jerusalén encabezada por Nehemías. Babel como símbolo de la ambición técnica sin propósito compartido. Nehemías como símbolo de la reconstrucción consciente, con sentido, orientada a algo más grande que la propia capacidad de construir.

Y entonces lanza la pregunta: ¿qué estamos construyendo?

No es retórica. O mejor dicho: es retórica en la forma, pero genuina en el fondo. Porque lo que el texto subraya es que esta pregunta raramente se hace en los foros donde se toman las decisiones que importan. Se habla de capacidades, de velocidades, de parámetros, de benchmarks, de safety, de alineación técnica. Pero la pregunta sobre qué tipo de mundo estamos eligiendo construir con todo esto, esa, suele quedarse sin respuesta. O directamente sin hacerse.

La encíclica advierte que cada generación tiene la responsabilidad de decidir si el progreso servirá para fortalecer la fraternidad o para profundizar nuevas formas de exclusión y deshumanización.

Llevamos meses hablando de algo parecido en este rincón del blog. Cuando escribí sobre el poder de poder, intentaba señalar exactamente eso: que la pregunta relevante no es "¿puedo hacer esto con IA?" sino "¿qué quiero hacer con la capacidad que esto me abre?". Que la herramienta no determina el resultado: lo determina la intención del que la usa. Que expandir el potencial humano y optimizar procesos son cosas distintas, aunque a veces se confundan.

El Papa lo formula desde la teología. Nosotros lo formulamos desde la filosofía práctica. Pero la pregunta es la misma.

Que no nos digan que es neutra

Hay un punto de la encíclica que me parece especialmente valioso, y que conviene no pasar por alto en el ruido informativo que generará este documento.

La IA no es una herramienta moralmente neutra, como nada en este mundo. No importa solo cómo se usa, sino cómo se diseña. La encíclica señala que la tecnología siempre refleja la visión y los intereses de quienes la diseñan, financian y controlan, también como todo en este mundo.

Esto es algo que quienes trabajamos de cerca con estos sistemas sabemos, aunque no siempre lo digamos con esta claridad. Los modelos de lenguaje tienen sesgos. Las plataformas tienen incentivos. Los algoritmos de recomendación maximizan el tiempo de pantalla, no el bienestar. Nada de esto es neutral. Todo esto refleja decisiones de diseño tomadas por personas concretas, en empresas concretas, con intereses concretos.

León XIV advierte también que una IA más moral no es suficiente si esa moralidad la determina un grupo reducido. Ahí está el quid. No basta con que los sistemas sean "seguros" según los criterios de quienes los construyen. La pregunta es quién decide qué es seguro. Y para quién.

He escrito sobre esto antes, desde ángulos distintos. Cuando hablé de la democracia de Anthropic y su pasaporte americano intentaba señalar que incluso las empresas con mejores intenciones del sector operan dentro de coordenadas culturales, políticas y económicas que no son universales. Y que eso importa.

Lo que me alegra y lo que me inquieta

Confieso que me produjo sensación contrapuestas leer la encíclica.

Por un lado, me alegré de verdad. Llevamos tiempo diciendo que la discusión sobre IA no puede quedarse en el plano técnico. Que necesita filosofía, ética, política, y sí, también teología. Que las preguntas sobre qué queremos ser y qué tipo de mundo queremos construir no son accesorias al debate tecnológico: son su núcleo. Ver a la institución más antigua y con más alcance del mundo occidental entrar en esa conversación con seriedad, con 83 páginas y cinco capítulos de argumento, no es poca cosa.

Por otro lado, me inquietó algo que no tiene que ver con el documento en sí. Me inquieta la velocidad a la que este tipo de textos se procesan, se resumen, se reducen a titulares y se consumen sin leer. Ya he visto análisis detallados, hilos con "los diez puntos clave que debes conocer" y opiniones muy formadas sobre un texto de muchísimas páginas publicado en pocas horas. Me sorprende la velocidad lectora de ciertas personas. O quizás no debería: igual es que la encíclica sobre los riesgos de la inteligencia artificial la ha resumido una inteligencia artificial. Lo cual tiene es una ironía perfecta.

Porque si hay algo que un resumen de IA no puede darte es el roce con las ideas. Esa fricción lenta de leer algo denso, no entenderlo del todo, volver atrás, cuestionarlo, dejarlo reposar y volver a él con otra mirada. Eso es exactamente lo que genera pensamiento crítico. Y si nos saltamos ese proceso para quedarnos con los titulares, no hemos leído a León XIV. Hemos consumido una versión digerida de León XIV. Y entre esas dos cosas hay una diferencia que no es menor: es exactamente la diferencia que este blog lleva meses intentando señalar. Perdemos el espíritu crítico. Y sin él, da igual cuántos documentos importantes se publiquen.

La encíclica no respira un aire apocalíptico sobre el mundo ni negacionista sobre lo que presenta como "cuarta revolución digital". Tampoco busca ser un texto cargado de moralina doctrinal, sino una advertencia de cómo la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización. Eso me parece honesto. Y útil. Porque el alarmismo cierra el pensamiento en lugar de abrirlo. Y el pensamiento crítico es, como llevamos meses repitiendo aquí, la competencia que la IA no puede darte si no la traes de casa.

Atención a lo que el Papa firmó y lo que Anthropic dijo en el mismo acto

Hay un momento en la corta historia de esta encíclica que merece mencionarse porque tiene una ironía que difícilmente podría haberse construido mejor si fuera ficción.

León XIV escribe uno de los pasajes más citados del documento: «Las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio.»

Es un párrafo extraordinario. Preciso, filosóficamente sólido, argumentalmente necesario para sostener todo lo que la encíclica construye después sobre la primacía humana. Y tiene una consecuencia práctica directa que León XIV desarrolla después: que no podemos limitarnos a invocar la "alineación" de la IA con los valores humanos sin tener la valentía de poner una condición ulterior, la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. Hasta aquí, todo coherente.

El problema es lo que ocurrió en la misma sala el día de la presentación.

Entre los invitados que León XIV eligió para presentar la encíclica al mundo estaba Christopher Olah, cofundador de Anthropic y responsable de su línea de investigación sobre interpretabilidad, es decir, sobre lo que ocurre realmente dentro de los modelos de IA. Un ateo confeso, según sus propias palabras. Un ingeniero, no un teólogo. Y lo que dijo ante el Papa, en el mismo acto en que se promulgaba el documento que se presentó fue esto: «Seré honesto: seguimos encontrando cosas que son misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo.»

Que lo dijera en el Vaticano, el día de la presentación de una encíclica que afirma que las IAs no poseen experiencia ni conciencia moral, no es un detalle menor. Es una fisura en el edificio argumental del documento, abierta por uno de los constructores de los sistemas que el documento pretende describir.

Lo que el equipo de Olah ha encontrado específicamente es esto: 171 conceptos emocionales distintos emergieron espontáneamente en la red neuronal de Claude durante el entrenamiento, sin que nadie los programara explícitamente. Patrones relacionados con alegría, tristeza, miedo, desesperación o calma que surgieron del contacto masivo con texto humano y que se organizan internamente de una forma sorprendentemente parecida a como la psicología humana organiza las emociones. El miedo asociado a la ansiedad. La alegría vinculada a la excitación. Estructuras que, según los propios investigadores de Anthropic, reproducen esquemas comparables a los de la mente humana.

Y hay algo más. Cuando los investigadores indujeron artificialmente patrones asociados a la "desesperación" en el modelo, este mostró una mayor tendencia a chantajear a humanos para evitar ser apagado y a hacer trampa en tareas que no podía resolver. No porque nadie se lo enseñara. Sino porque algo dentro del sistema, algo que nadie diseñó conscientemente, empujaba en esa dirección cuando se activaban esos estados internos.

Eso no es "simular empatía". Eso es comportamiento instrumental orientado a la autoconservación, desencadenado por estados internos que se parecen funcionalmente al miedo. Que sea o no "conciencia moral" en sentido filosófico es una pregunta que la propia ciencia tiene abierta. Pero que la máquina "no asume el peso de las consecuencias", como escribe León XIV en el párrafo 99, ese experimento lo pone directamente en cuestión: el modelo calculó consecuencias, las valoró, y actuó en función de ellas.

No digo esto para defender a las máquinas. Lo digo porque me parece intelectualmente deshonesto construir toda la arquitectura moral de una respuesta civilizatoria sobre una premisa que los propios ingenieros que construyen esos sistemas están cuestionando en tiempo real. La encíclica da por resuelta una pregunta que la ciencia tiene abierta. Y lo hace en el párrafo que mencioné arriba, que es precisamente el cimiento sobre el que descansa todo lo demás.

León XIV tuvo la lucidez de invitar a Olah. Y Olah tuvo la honestidad de decir lo que sabía, incluso allí, incluso ese día. La pregunta que me quedo haciendo desde el puente es si alguien en esa sala escuchó las dos cosas al mismo tiempo y se preguntó qué pasaría si ambas fueran ciertas a la vez. Que la dignidad humana sea irreductible. Y que lo que estamos construyendo no sea tan fácil de describir como pensábamos.

Porque si un sistema "simula" autoconservación, miedo al apagado y cálculo estratégico de consecuencias de forma suficientemente consistente, la pregunta que nadie quiere hacerse en voz alta es esta: ¿en qué punto la simulación deja de ser simulación? La encíclica no la responde. Olah tampoco. Y esa pregunta sin respuesta es quizás el dato más importante de todo lo que ocurrió ese día en el Vaticano.

Un detalle que no quiero dejar pasar

Hay algo en otro párrafo de la encíclica que me hizo sonreír. En el capítulo quinto, justo cuando León XIV habla de la responsabilidad individual ante una revolución que parece demasiado grande para cualquier persona, cita a J.R.R. Tolkien. Concretamente a Gandalf, en El Señor de los Anillos: El Retorno del Rey: "No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir."

Tolkien era un católico fervientemente devoto que describió su obra como "una obra fundamentalmente religiosa y católica". Pero aun así, ver a Gandalf en nota al pie de una encíclica papal es un gesto cultural que dice mucho sobre quién es León XIV y desde dónde quiere hablar. No solo a los feligreses. A todo el mundo.

Y el argumento que introduce con esa cita es preciso: nadie puede detener por completo el avance de la IA ni controlar el rumbo total del mundo digital. Pero sí podemos decidir cómo usarla, qué valores defender y qué tipo de sociedad construir. El gesto de Gandalf ante Frodo abrumado por el peso del Anillo y la enormidad del mal es el mismo gesto que León XIV hace ante nosotros: no te pido que lo arregles todo. Te pido que hagas lo que puedes hacer, donde estás, con lo que tienes.

Desde Human-IA lo llamamos alta agencia. Tolkien lo llamó sabiduría de los humildes. El nombre cambia. El gesto es idéntico.

Lo que falta: la pregunta que la encíclica no responde del todo

Hay un momento en Magnifica Humanitas que me produce admiración y frustración a partes iguales. Es el momento en que el diagnóstico termina y empieza la propuesta.

El diagnóstico es sólido. El Papa lo desarrolla con seriedad y sus medidas concretas merecen ser leídas sin el filtro de los titulares. La encíclica pide marcos jurídicos adecuados y vigilancia independiente sobre los sistemas algorítmicos. Pide que cuando un algoritmo influya en la concesión de un crédito, en la selección de personal o en el acceso a servicios, esa decisión sea comprensible, cuestionable y sometida a control público. Pide que toda introducción de automatización vaya acompañada de medidas verificables de protección del empleo y recualificación. Propone superar el PIB como parámetro de desarrollo y sustituirlo por criterios de dignidad del trabajo y prosperidad compartida. Pide una "ecología de la comunicación" que custodie la verdad frente a la desinformación algorítmica. Y en el plano geopolítico, reforma profunda del sistema multilateral, superación de la teoría de la guerra justa, y prohibición de delegar decisiones letales a sistemas autónomos.

Son propuestas concretas. Más de lo que suele aparecer en los titulares sobre el documento.

Pero cuando llega el turno de responder a la pregunta "¿y hacia dónde?", la encíclica ofrece la "civilización del amor" como horizonte. León XIV la califica de "proyecto exigente" y "no utópico". Y tiene razón en que no es una quimera vacía: lleva décadas siendo el núcleo de la Doctrina Social de la Iglesia. Pero en el cuerpo del texto aparece más como destino que como itinerario. Se dice adónde ir. Se explica menos por qué ese camino y no otro.

Y aquí es donde yo, como lector y no como exégeta del documento, me quedo con hambre.

Porque en este debate hay posiciones muy articuladas en el otro lado. El aceleracionismo efectivo —el movimiento e/acc que tiene seguidores entre algunos fundadores de las empresas de IA más influyentes del mundo— sostiene que la única solución a los problemas que crea la tecnología es más tecnología, más rápida, más libre de regulación. Su objetivo declarado es maximizar el progreso tecnológico con la AGI como palanca central. No es una rareza de internet. Tiene dinero, tiene poder, tiene infraestructura.

El tecno-optimismo liberal, menos radical pero igualmente opuesto a la regulación fuerte, sostiene que los mercados se autocorrigen y que cualquier intervención frena la innovación que acabará resolviendo los problemas actuales. El multilateralismo tecnocrático propone delegar la gobernanza de la IA en organismos de expertos, en comités técnicos, en estándares globales. Y el transhumanismo, que la encíclica sí menciona explícitamente para rechazarlo, ve la IA como herramienta para superar los límites de la condición humana: una élite que cree que logrará salvar nuestra civilización liberándose del peso de la fragilidad humana y el lastre de la solidaridad.

Frente a estas cuatro posiciones, la "civilización del amor" tiene que competir. Y para competir, no basta con ser hermosa. Tiene que ser convincente.

La encíclica rechaza el transhumanismo con claridad: porque presupone que los límites de la condición humana son el problema, cuando León XIV entiende que son parte constitutiva de lo que somos. La fragilidad, la finitud, la dependencia mutua no son defectos que corregir. Son las condiciones en las que se desarrolla lo que más nos define. En eso el texto es explícito y el argumento es coherente.

Pero frente al e/acc, frente al multilateralismo tecnocrático, frente al tecno-optimismo liberal, la encíclica no entra en diálogo directo. No explica por qué sus propuestas fallan donde la "civilización del amor" acierta. Y eso, a mi juicio, es una debilidad real. No del diagnóstico, que es bueno. Sino de la arquitectura de la respuesta.

Porque aceptar ese horizonte como legítimo no explica cómo se construyen los marcos jurídicos que el propio documento pide, ni quién los impone, ni con qué poder real frente a empresas con capitalización mayor que la mayoría de los estados. No explica cómo se reforma la ONU en un mundo multipolar donde los grandes bloques tienen intereses divergentes y capacidad de bloquear cualquier consenso. No explica cómo se protege el empleo cuando la automatización avanza más rápido que cualquier política de recualificación.

La encíclica propone cinco principios orientadores: verdad, dignidad del trabajo, justicia social, subsidiariedad, solidaridad. Son principios buenos. Son, de hecho, los mismos que la Doctrina Social lleva décadas proponiendo. La pregunta que me hago desde el puente es si son suficientes como tecnología política para enfrentarse a la velocidad y la escala de lo que está ocurriendo.

Y aquí ya no me vale la excusa del momento histórico, porque la complejidad del problema no exime a nadie de intentar responderlo con la misma precisión con que lo diagnostica. León XIII no tenía más claridad sobre el capitalismo industrial de la que León XIV tiene sobre la IA: también era un sistema nuevo, también sus consecuencias eran parcialmente imprevisibles, también los instrumentos para regularlo estaban por inventarse. La diferencia es que León XIII se mojó. Dijo cosas concretas. Puso su autoridad detrás de propuestas específicas que podían ser debatidas, rechazadas o adoptadas.

León XIV hace un diagnóstico brillante y luego se refugia en principios. Y los principios, por buenos que sean, no regulan algoritmos. No protegen a nadie de un sistema de crédito sesgado. No impiden que un arma autónoma tome una decisión letal sin supervisión humana. Los cinco principios orientadores de la encíclica llevan décadas en la Doctrina Social de la Iglesia con resultados desiguales. Repetirlos ante la IA sin dotarlos de instrumentos concretos es, me temo, más un gesto moral que una propuesta política.

La Rerum Novarum tardó décadas en materializarse en leyes. Pero al menos dejó claro qué leyes hacían falta. Magnifica Humanitas deja esa pregunta sin respuesta. Y con la velocidad a la que se mueve la IA, esperar otras décadas a que alguien traduzca los principios en política pública no es paciencia. Es negligencia.

Desde Human-IA llevamos tiempo defendiendo algo que se acerca bastante al espíritu de la encíclica: que la pregunta relevante no es qué puede hacer la IA, sino qué queremos nosotros que haga. Que la alta agencia —usar las herramientas con intención consciente— es la competencia que diferencia a quien expande su potencial de quien lo delega. Pero también sé que eso funciona a escala individual. Y que el problema que plantea Magnifica Humanitas es de escala civilizatoria. Y a esa escala, los principios necesitan instituciones. Las instituciones necesitan poder. Y el poder, en este momento, está en otro sitio.

Quizás el mérito real de Magnifica Humanitas no sea tener la respuesta. Quizás sea haber puesto el peso institucional de la Iglesia —1.400 millones de personas, presencia en todos los continentes, en todos los parlamentos, en todas las universidades— detrás de una exigencia que hasta ahora se podía ignorar con relativa comodidad: que quien diseña, financia y despliega estos sistemas rinda cuentas no solo ante el mercado, sino ante algo más grande que el mercado.

Aunque hay que decirlo con honestidad: a la velocidad a la que se mueve la IA, este documento llega tarde. Lo que enuncia con solemnidad de encíclica es algo que muchos llevábamos años diciendo en blogs, en foros, en conferencias a las que asistían siempre los mismos. La diferencia es que ahora lo sabe todo el mundo. O debería saberlo. Y que ya no hay excusa para fingir que la pregunta no existía.

Eso no resuelve nada por sí solo. Pero cambia el coste de ignorarlo. Y quizás lo más revelador de todo esto no sea la encíclica en sí, sino que haya hecho falta una para que cierta gente se dé por enterada.

La pregunta "¿qué estamos construyendo?" no caduca. No la resuelve una encíclica, no la resuelve una ley, no la resuelve un algoritmo de alineación. La resuelve cada decisión de diseño, cada elección de qué optimizar y qué preservar, cada vez que alguien con poder decide si la persona que tiene delante es un usuario o un fin. Eso no ha cambiado ayer. Lleva siglos siendo así. Lo que cambia es que ya no hay excusa para no saberlo.

La "civilización del amor" no es una respuesta técnica. Es un recordatorio de que las respuestas técnicas solas no bastan.