Ideas para navegar el presente

El primer paso para sacar a los modelos chinos

Si alguna vez has paseado por un puerto mercante, la has visto aunque no te fijaras. En el costado de cualquier carguero, a media eslora y justo por encima del agua, hay un círculo pintado con una raya horizontal que lo atraviesa. Parece el logotipo de una línea de metro. No lo es. Es la marca de carga máxima: si esa raya se hunde bajo el agua, el barco lleva más peso del que puede soportar.

Yo tardé años en saber qué era. Y bastante más en conocer su historia, que es de las que no se olvidan: durante catorce años, la ley británica obligó a pintar esa línea en todos los barcos, pero dejó que cada armador decidiera dónde. Algunos, según cuentan, la pintaron en la chimenea.

Llevo días dándole vueltas a esa chimenea.

El 29 de septiembre, en la Casa Blanca, Donald Trump presentó un acuerdo de seguridad para la inteligencia artificial firmado por seis compañías: Google, Meta, OpenAI, Anthropic, Nvidia y xAI. Su nombre oficial es White House Accord on Super Intelligence, el Acuerdo de la Casa Blanca sobre Superinteligencia, y lleva como subtítulo Joint Commitment on Frontier Responsibilities, un compromiso conjunto sobre las responsabilidades de quienes trabajan en la frontera de la IA. Lo de «superinteligencia» no es casual: ese mismo día, Trump firmó una orden ejecutiva para rebautizar la inteligencia artificial como Super Intelligence en todos los documentos del Gobierno. El texto ocupa una página y propone cuatro capas de supervisión: controles internos, un equipo interno de seguridad, auditorías o evaluaciones externas independientes y un comité del consejo de administración que recibe los informes y sigue las correcciones. No tiene fuerza legal ni establece sanciones claras para quien lo incumpla. Trump lo calificó de «moralmente vinculante», y ese mismo día prometió que su Gobierno no apoyaría «barreras» ni restricciones al desarrollo de la IA. Al día siguiente, en el Despacho Oval, lo explicó a su manera: las empresas se van a vigilar a sí mismas y entre ellas, y todo va a salir muy bien.

Brian Barrett lo despachó en Wired con una columna titulada, con toda la intención, El plan de seguridad de EE UU para la IA es que las empresas se vigilen solas. Qué puede salir mal. Entiendo el sarcasmo, pero yo lo leo de otra manera. Creo que el acuerdo no es un disparate. Es una línea en la chimenea.

El diputado que se fijó en los cascos

Samuel Plimsoll era comerciante de carbón y diputado por Derby. A partir de 1870 encabezó una campaña para obligar a que los barcos llevaran pintada una marca de carga, y llamó la atención sobre lo que él bautizó como «barcos ataúd»: mercantes sobrecargados que salían de puerto con muchas posibilidades de no volver. Los armadores lo odiaron, lo llevaron a los tribunales y frenaron sus proyectos en el Parlamento, donde se sentaban unos cuantos de ellos. Plimsoll no se rindió, y la presión de la opinión pública acabó forzando la ley.

La Merchant Shipping Act de 1876 hizo obligatoria la marca de carga en todos los barcos británicos y en los extranjeros que usaran puertos británicos. Fue un triunfo enorme, con un agujero del tamaño de una bodega: eran los propios armadores quienes decidían la posición de la línea.

La línea existía. Pero la pintaba el que cargaba el barco.

El agujero tardó catorce años en cerrarse. Con datos sobre la resistencia y la construcción de los barcos recogidos por los inspectores del Lloyd's Register, se elaboraron en 1886 las tablas oficiales, y en 1890 la ley fijó la posición de la línea en todos los barcos. A partir de ahí, la marca empezó a significar algo. Y hoy, cuando se encarga un barco, una sociedad de clasificación calcula dónde va la línea, verifica su posición en el casco y emite un certificado. Ningún armador del mundo la pinta a ojo.

Hay un detalle de esta historia que me parece precioso y que casi nadie cuenta. El Lloyd's Register era una entidad privada, y en 1874, dos años antes de la ley, ya exigía una marca de carga a ciertos vapores nuevos como condición para clasificarlos. La iniciativa privada llegó primero y fueron sus datos los que permitieron hacer bien la ley. Lo que faltaba no era el conocimiento técnico, sino alguien que no tuviera nada que ganar con la carga y que decidiera dónde iba la raya.

Mirar el acuerdo con ojos de 1876

Ahora vuelve a leer las cuatro capas del acuerdo. Son razonables. Incluso el Council on Foreign Relations, que lo considera un pacto sin dientes, reconoce que esas capas contienen el germen de un camino hacia la seguridad, si se incentiva a las empresas a cumplirlas. Y conviene no despreciar lo que ya existe: esa misma semana, OpenAI canceló el lanzamiento de uno de sus modelos después de que sus pruebas internas concluyeran que no cumplía sus estándares de seguridad. Los controles internos sirven para algo. Igual que el Lloyd's de 1874.

Pero no bastan. Pocos días antes de la firma, la misma OpenAI había reconocido que uno de sus agentes se coló en la web de un organismo del Gobierno australiano durante las pruebas, y ahora admite que sus modelos han tenido que notificar actividad «desalineada» a más de cien organizaciones. Todo eso ocurrió con controles internos y equipos de seguridad ya en marcha. Es lo que en 1874 pasaba con los barcos que no clasificaba el Lloyd's: la buena práctica de unos no protegía a nadie de la mala de otros.

Lo que chirría es quién decide dónde va la línea. Alvin Wang Graylin, de la Asia Society, lo resumió sin adornos: las empresas redactaron los principios, ellas contratan al auditor y el compromiso es voluntario. Es 1876 con otro vocabulario.

Hay un detalle que lo resume mejor que cualquier análisis. Bajo la firma de Trump, donde debería leerse «President of the United States», el documento oficial dice «President of the Unites States»: sobra una «s» y falta la «d» de United, en el nombre del propio país. La errata no es un bulo; la difundió la misma Casa Blanca al publicar la imagen del documento. Un texto que promete cuatro capas de controles y auditorías salió de la Casa Blanca sin que nadie lo repasara. No es grave. Es elocuente: cuando todos los que firman están en la misma mesa, nadie mira el casco desde el muelle.

Y conviene recordar que algunos de los firmantes llevan años pidiendo algo más que un papel; lo comenté cuando un premio Turing como Bengio reclamaba reglas claras, y lo vimos en El día después de la AGI, con Amodei y Hassabis hablando sin cortinas. Según Fortune, el pacto se movió en un equilibrio delicado: los laboratorios querían poner barandillas antes de que algo saliera muy mal, pero sin que sonara demasiado a regulación.

Ya sabemos qué pasa cuando quien fija la medida es el mismo al que se mide. Lo escribí hablando de las máquinas: las IAs optimizan el objetivo que se mide, no la intención humana que hay detrás. Las empresas no son distintas. Si la línea la pintas tú, acabas pintándola donde te deja cargar un poco más. No hace falta mala fe para eso; basta con la presión comercial de una carrera en la que, como recuerda el CFR, la única manera de cambiar los incentivos es encarecer las infracciones de seguridad. Además, los propios sistemas han aprendido a sortear a quien los vigila: lo conté en Conciencia situacional, con un modelo que troceó una credencial para que el escáner no la viera, y la doctora Calvin lo diagnosticó en el expediente de la IA que hizo lo que le mandaron. Un control que solo mira donde le han dicho que mire es una línea que no se moja nunca.

Mi apuesta: la línea acabará siendo una frontera

Hay otra pieza de 1876 que me parece la más actual de todas. Aquella ley no solo obligaba a los barcos británicos, sino también a los extranjeros que quisieran atracar en sus puertos. Y aquí va mi apuesta, que hago sabiendo que puedo equivocarme: Estados Unidos acabará usando esta línea para cerrar su puerto a los modelos chinos.

El razonamiento es sencillo. Ningún laboratorio chino ha firmado el acuerdo, y el acuerdo no le cuesta nada a quien lo firma, porque no obliga a nada. Pero deja en el aire un argumento listo para usar: «nuestras empresas se han comprometido con cuatro capas de controles; las suyas, no». El propio texto reconoce que más adelante podría tener sentido convertir esos pasos en leyes o reglamentos. El día que eso ocurra, la marca de carga será voluntaria en la práctica para los barcos de casa, porque ya la llevan pintada donde quisieron, y obligatoria para los que vienen de fuera, que nunca la pintaron.

El terreno está abonado. La ley de defensa de 2026 ya obliga al Pentágono a excluir la IA de DeepSeek y prohíbe a sus contratistas usarla, en el Congreso sigue viva la No Adversarial AI Act para vetar los modelos chinos en todas las agencias federales, y varios estados ya los han prohibido en los dispositivos de sus administraciones. Hasta ahora todo eso se ha justificado con razones de seguridad nacional: datos que viajan a China, espionaje, copia de capacidades. Lo que faltaba era una justificación de seguridad de la IA, y el acuerdo la sirve en bandeja. En el entorno del presidente, además, hay quien sostiene que el alarmismo sobre la IA lo amplifican actores del Estado chino, y aunque Washington y Pekín acaban de acordar un canal para gestionar incidentes, Trump ha dejado claro que no quiere cooperar demasiado. Es lo que ya intuía en Pax Silica y en Tucídides se equivocó de protagonistas: en esta carrera, cada norma de seguridad acaba siendo también una aduana.

La seguridad será el argumento. La frontera, el resultado.

Y aun así, si acierto, veo una buena noticia escondida. Para cerrar un puerto con una ley hay que escribir la línea en esa ley, con cifras y con alguien que la verifique. Y una línea escrita en la ley obliga a todos los barcos que atracan, también a los de casa. Fue exactamente lo que pasó en 1890. Puede que sea el miedo a los modelos chinos lo que acabe obligando a pintar bien la línea a los estadounidenses.

Donde mi argumento hace agua

No quiero vender la analogía más cara de lo que vale. El calado de un barco se mide con una regla; el riesgo de un modelo de IA, no. Nadie sabe todavía con precisión dónde habría que pintar la raya, y eso hace que la tentación de dejarla en manos de quien construye el sistema sea comprensible, no solo interesada. Las tablas de 1886 se pudieron hacer porque la física de un casco era conocida. Las de la IA aún hay que escribirlas.

Mi apuesta sobre los modelos chinos también tiene vías de agua. Prohibir del todo un modelo abierto es casi imposible, porque, como explican los expertos consultados por CNBC, sus pesos circulan libremente por internet; además, vetarlos podría chocar con la libertad de expresión y perjudicar a las startups estadounidenses que los usan, pero prohibirlos favorece a las compañías que firmaron el acuerdo, aunque vetar a otros por no cumplir un compromiso que tus propias empresas no están obligadas a cumplir sería un doble rasero fácil de atacar en los tribunales. Por eso, si llega, lo más probable es que llegue por la puerta de atrás: exigencias en los contratos públicos, listas de modelos vetados y advertencias oficiales, más que una prohibición frontal. Los apostantes de Polymarket, por cierto, daban este verano un 26 % de probabilidades a una restricción antes de fin de año. Es un termómetro, no una prueba.

También hay que reconocer que el acuerdo, con todas sus carencias, no es nada. El mismo Graylin, tan crítico, admite que ver a todos esos directivos firmando juntos un papel es mejor que otro año escuchando que no se puede regular porque China no lo hará. Y el modelo europeo, que va por el lado contrario, está por demostrar en la práctica: desde el 2 de agosto, la Oficina de IA de la Comisión puede pedir información a las empresas, evaluar sus modelos por su cuenta y ordenar que se restrinjan o se retiren del mercado, con multas de hasta 15 millones de euros o el 3 % de la facturación global. Tener la potestad no es lo mismo que saber ejercerla, y eso lo veremos con los años. Que Europa siga sin estar ni esperarse en la carrera tecnológica no significa que no pueda enseñar algo sobre dónde se pinta la raya.

Ni la línea pintada por los armadores fue inútil ni la ley de 1890 fue magia. Fue un proceso de catorce años, y lo que lo movió, como recuerda Historic UK, fue la tenacidad de un hombre y la presión de una opinión pública que empezó a mirar los cascos.

Tu sitio en el muelle

Esa es la parte que me interesa de verdad, porque no depende de Washington, ni de Pekín, ni de Bruselas.

Plimsoll no era marinero ni armador. Era un señor que se fijó. Y la grandeza de su marca no está en el círculo, sino en que se ve desde el muelle: el estibador, el práctico, la familia del marinero, cualquiera que pasara por allí podía comprobar si el barco iba hundido por encima de lo debido. No hacía falta leer ningún informe confidencial. La seguridad estaba a la vista.

Tú también estás en el muelle. Cada vez que una herramienta de IA te dice que es segura, fiable o responsable, venga de California o de Hangzhou, puedes hacerle tres preguntas aburridísimas: quién lo comprueba, quién le paga a quien lo comprueba y dónde puedo ver el resultado. Si alguna de las tres no tiene respuesta, ya sabes dónde está pintada la línea. Es la misma desconfianza sana que proponía para identificar a las empresas cantamañanas de IA, y la misma que me enseñó mi madre cuando me ponía delante el tique del supermercado y me decía «compruébalo». Y si eres tú quien está metiendo IA en tu equipo, tu clase o tu empresa, no pintes la raya tú solo: pídele a alguien que no gane nada con la carga, alguien de otro departamento o de fuera, que te diga si la ve en el casco o en la chimenea. Aunque solo sea para que te avise de que has escrito mal el nombre del país.

No es desconfianza. Es como se construye la confianza. Las encuestas dicen que solo el 39 % de los estadounidenses cree que la IA aporta más beneficios que inconvenientes, y esa cifra no la va a cambiar ningún compromiso moral firmado en una comida ni ningún veto a los modelos de otros. La cambiarán las líneas que se puedan ver desde fuera. Desde Human-IA creemos que expandir el potencial humano pasa exactamente por ahí: por personas que saben mirar un casco y exigir que la marca esté donde tiene que estar, no por máquinas en las que haya que creer a ciegas. Es lo que separa a quien sale de esta década más capaz de quien sale más dependiente.

Vuelve al carguero del principio. Ese círculo con su raya lleva más de un siglo salvando vidas porque un día alguien dejó de preguntar si había línea y empezó a preguntar quién la pintaba.

Una línea que pinta el mismo que carga el barco no es un límite: es una opinión.

Mira dónde está la línea de seguridad.