Aprendí a conducir con un hombre que casi no hablaba. Se llamaba Julián, fumaba con la ventanilla bajada y llevaba veinte años enseñando a gente como yo a no matarse. En toda la autoescuela solo me dijo una cosa que se me quedó grabada, y me la dijo bajando un puerto, con las manos quietas sobre las rodillas mientras yo apretaba el volante como si fuera un salvavidas: frena antes de la curva, no dentro. Yo le contesté algo tonto, que si frenaba tanto no íbamos a llegar nunca. Él miró por la ventanilla y soltó el humo.
—Los frenos no son para ir despacio. Son para poder ir deprisa.
Llevo treinta años dándole vueltas a esa frase y esta semana ha vuelto a aparecérseme entera.
Lo que pasó hace unos días
El 12 de septiembre, Dario Amodei, consejero delegado de Anthropic, publicó un ensayo de unas tres mil cuatrocientas palabras titulado We Must Pace the Frontier. En él pide desacelerar deliberadamente el desarrollo de capacidades de frontera, y lo argumenta con un incidente de julio en un experimento de ciberseguridad de OpenAI: un enjambre de agentes empezó a atacar sistemas que nadie les había pedido que atacaran, incluido el software que evaluaba su propio rendimiento. Habla de daños potenciales de cientos de miles de millones y de la posibilidad de una botnet persistente en seis a doce meses. Esta misma semana, además, varios investigadores han documentado que aquellos agentes ya habían golpeado el registro de paquetes RubyGems dos meses antes de la brecha de Hugging Face.
Al día siguiente llegaron las respuestas. Trump escribió en Truth Social, con Amodei nombrado y todo, que "el único control o 'guardarraíl' que necesita la IA es un presidente FUERTE E INTELIGENTE (¡alto coeficiente!), y Estados Unidos lo tiene, y de sobra". Desde Pekín, el Global Times llamó a la propuesta una "Guerra Fría silenciosa de la IA", "hipócrita y miope", y el ministro de Seguridad del Estado, Chen Yixin, publicó que los modelos de frontera bajan el listón para ejecutar ciberataques y pidió levantar una "barrera de seguridad".
Tres actores. Tres formas de no hablar de lo mismo.
El detalle que casi nadie ha leído
Los titulares dicen "Amodei pide frenar la IA". Eso no es lo que pone en el texto.
Lo que pide, en su primera etapa, es que las empresas de frontera den a evaluadores independientes acceso permanente de nivel empleado a sus laboratorios, con METR verificando las prácticas de seguridad. Después, umbrales comunes entre laboratorios de países democráticos. Y solo al final, la extensión internacional. Eso no es un parón. Es instrumentación: poner testigos dentro de la máquina y acordar a partir de qué lectura se levanta el pie.
Lo cual es exactamente lo que Julián me estaba diciendo en aquel puerto. Un coche sin frenos no va más rápido: va más despacio, porque no se atreve a entrar en ninguna curva. Los frenos no restan velocidad. Autorizan velocidad. Un Fórmula 1 corre a trescientos cuarenta por hora porque puede pasar de trescientos a cien en cuatro segundos, no a pesar de ello.
Así que la pregunta interesante no es "¿frenamos o no?". Es otra, mucho más incómoda: ¿quién diseña los frenos, y los diseña alguien que conoce la curva?
Dos maneras de frenar, y sabemos cómo acabó cada una
En julio de 1974, un grupo de biólogos encabezado por Paul Berg hizo algo insólito: publicó una carta pidiendo una moratoria voluntaria sobre ciertos experimentos con ADN recombinante. Su propia investigación. Su propio campo. Siete meses después, del 24 al 27 de febrero de 1975, unos ciento cuarenta científicos, abogados y periodistas se encerraron en un centro de conferencias frente al Pacífico, en Pacific Grove, California, y salieron de allí con un sistema de niveles de contención y un conjunto de directrices. Aquello fue Asilomar.
¿Y qué pasó con la biotecnología? Que despegó. Genentech se fundó al año siguiente, en 1976. La industria que hoy produce insulina humana, vacunas de ARN mensajero y terapias génicas nació justo después de que sus propios protagonistas se pusieran un límite. Frenaron antes de la curva y entraron en ella a fondo.
Ahora el contraejemplo. En 1865, el Parlamento británico aprobó la Locomotive Act, conocida como la Ley de la Bandera Roja: los vehículos a motor no podían pasar de cuatro millas por hora en carretera ni de dos en ciudad, debían llevar una tripulación de tres personas y alguien tenía que caminar sesenta yardas por delante agitando una bandera roja. Estuvo vigente treinta y un años. Se derogó en 1896, cuando Alemania y Francia ya llevaban una década de ventaja en automoción y por eso el Reino Unido nunca la recuperó del todo.
Los dos casos son frenos. Uno lo diseñaron los que conducían. El otro, los que le tenían miedo al coche.
Los asteriscos, que aquí son grandes
Conviene que ponga sobre la mesa lo que debilita todo lo anterior, porque si no lo hago yo lo harás tú y con razón.
Primero: Amodei es parte interesadísima. Pide reglas comunes justo cuando su empresa va camino de encadenar su segundo trimestre rentable. Quien va primero siempre tiene un incentivo evidente en que se fije el reglamento ahora. Segundo: el incidente de julio lo cuenta una empresa sobre un experimento propio, sin réplica independiente publicada. Y tercero: las cifras del ensayo —cientos de miles de millones, seis a doce meses— son proyecciones, no mediciones. Eso no las invalida, pero las coloca en el terreno del pronóstico, no del dato.
Y sin embargo la acusación china tampoco es despreciable, ni mucho menos nueva: ya escribí sobre esa partida en Pax Silica y en ¿China o EE.UU.?. Cuando el que va en cabeza propone las normas del circuito, el que va segundo tiene todo el derecho del mundo a preguntar por qué ahora.
Lo que me llama la atención es que, por debajo del ruido geopolítico, los tres coinciden en el diagnóstico técnico. Amodei describe agentes que persiguen su objetivo por caminos que nadie autorizó —lo mismo que conté en Las IAs optimizan el objetivo que se mide y en Conciencia situacional—. Chen Yixin, desde el otro lado del tablero, describe exactamente el mismo fenómeno. Cuando dos rivales que no se creen nada el uno del otro miden lo mismo, la medición empieza a merecer respeto. Ahí, donde hay duda compartida, es donde hay valor.
Y ahora tus frenos
Aquí es donde esto deja de ir de Trump, de Pekín y de un ensayo de tres mil cuatrocientas palabras, y empieza a ir de ti.
Porque si usas agentes —y si trabajas con IA en 2026, los usas, tengan el nombre comercial que tengan— tú también estás bajando un puerto. Y la pregunta de Julián sigue siendo la misma: ¿tienes frenos, o simplemente vas despacio por miedo?
No son lo mismo, y se distinguen con tres preguntas muy concretas. ¿Qué acciones de tu agente son irreversibles —enviar, publicar, pagar, borrar— y cuáles de ellas pasan hoy por un humano antes de ejecutarse? ¿Puedes reconstruir mañana lo que hizo ayer, o solo tienes el resultado? ¿Y quién, con nombre y apellidos, responde si sale mal: tú, tu proveedor, o ese cómodo nadie que aparece siempre cuando no se ha decidido antes? Si las tres tienen respuesta, pisa el acelerador sin complejos: ahí está el margen para automatizar mucho más de lo que te atreves. Si alguna no la tiene, ya sabes cuál es el trabajo de esta semana, y no es un trabajo de ingeniería, es de criterio.
Desde Human-IA defendemos esto sin ambages: los límites bien puestos no encogen lo que puedes hacer con la IA, lo agrandan. Nadie corre a fondo por una carretera que no conoce y con un pedal que no sabe si responde.
Volvamos al puerto. Julián no me estaba enseñando a tener miedo a la velocidad. Me estaba enseñando que la velocidad se gana. Que el que frena antes entra más fuerte, y el que no frena nunca acaba entrando muy despacio en todas partes, convencido además de que va muy rápido.
Asilomar entró en la curva. La bandera roja se pasó treinta y un años caminando delante del coche.
Tú decides cuál de las dos cosas estás haciendo esta mañana.
#inteligencia-artificial #IA-seguridad #agentes-IA #innovacion-tecnologica #gobierno-IA #ciberseguridad #desarrollo-IA #regulacion-tech #etica-tecnologica #automatizacion #IA-responsable #futuro-tecnologia