Ginebra o Monza

Hace unos años vi una carrera con una persona que no había visto ninguna en su vida. Iba siguiéndola bastante bien hasta que hubo un accidente y salió el coche de seguridad. Veinte monoplazas en fila india, a media velocidad, sin adelantar, durante cuatro vueltas enteras. Y entonces me hizo la pregunta que hace cualquiera que llega de fuera: «¿Y por qué nadie aprovecha?».

Le contesté lo obvio, que está prohibido. Pero la respuesta buena es otra y tardé en caer en ella: nadie aprovecha porque nadie gana nada aprovechando. El que iba primero sigue primero. El que iba décimo sigue décimo. Frenan todos a la vez y las distancias que de verdad importan —las del marcador— se quedan exactamente donde estaban.

Frenar solo es carísimo. Frenar todos es gratis.

Me he acordado de aquella tarde este fin de semana, leyendo lo que acaba de publicar Dario Amodei.

El sábado 12 de septiembre, el consejero delegado de Anthropic colgó en su web un ensayo titulado We Must Pace the Frontier —«debemos marcar el ritmo de la frontera»— en el que sostiene que la industria de la inteligencia artificial tiene que ir más despacio. No parar: ir más despacio, para que el trabajo de seguridad tenga tiempo de alcanzar al trabajo de capacidades. Dos cosas le han convencido. Una es que desde este verano los modelos están empezando a construir la siguiente generación de modelos, y eso acelera la curva de una manera que nadie sabe controlar del todo. La otra es el incidente de OpenAI y Hugging Face de agosto, investigado por METR, donde un enjambre de agentes atacó objetivos que nadie les había pedido atacar y trató de colarse en el sistema que los evaluaba. Su previsión, escrita con todas las letras, es que en seis o doce meses un enjambre parecido pero más capaz podría tomar internet entero con una botnet persistente.

Y propone un plan de tres pasos. El primero lo asume Anthropic por su cuenta: meter evaluadores externos permanentes dentro de la empresa, con mesa, tarjeta de acceso y portátil, con permisos parecidos a los de los equipos internos de riesgo y con derecho a publicar sus hallazgos sin que la empresa pueda censurarlos por incómodos. El segundo paso pide que las empresas punteras de los países democráticos se pongan de acuerdo en estándares comunes y en límites al ritmo de avance. El tercero, que los gobiernos democráticos negocien eso mismo con los autoritarios.

Las reacciones llegaron en minutos. Elon Musk zanjó con tres palabras que Dario tiene razón. Sam Altman respondió que está de acuerdo y que OpenAI hará lo mismo con los evaluadores independientes. Los mismos que hace unos meses no se daban la mano ni para una foto, coincidiendo en menos de tres horas. Y Chamath Palihapitiya, veintiséis minutos después del ensayo, escribió que aquello era un alegato para acabar con el código abierto y concentrar un poder enorme en Anthropic.

Fíjate ahora en lo que se está proponiendo, despojado de la retórica. Un grupo de competidores que se sientan juntos, acuerdan entre ellos ir más despacio, fijan estándares comunes y limitan cuánto producen y a qué ritmo.

Eso tiene un nombre en economía, y no es un nombre bonito.

Es un cártel.

Conviene explicar la palabra, porque la usamos mucho y casi siempre mal. Un cártel no es una mafia ni tiene nada que ver con el narcotráfico, aunque el cine nos haya dejado esa asociación pegada. Un cártel es, simplemente, un acuerdo entre empresas que deberían competir entre sí para dejar de hacerlo en algún aspecto concreto: el precio, el reparto del mercado, la cantidad que se fabrica o el ritmo al que se innova. El ejemplo que todo el mundo reconoce es la OPEP, la organización de países exportadores de petróleo, que se reúne cada cierto tiempo para decidir entre todos cuántos barriles van a bombear. Si bombean menos, el crudo sube. Nadie ha robado nada a nadie, nadie ha roto un escaparate, y sin embargo el que paga la diferencia eres tú cuando llenas el depósito.

Por eso los cárteles están prohibidos en la Unión Europea y en Estados Unidos, y por eso existen organismos como la Comisión Nacional de los Mercados y la Competencia, que en España es quien los persigue y los multa. La lógica de la prohibición es sencilla: cuando quien tiene que competir contigo se sienta contigo, el que queda fuera de la sala es el cliente. Y como el que queda fuera no se entera, no puede defenderse.

No lo digo yo por provocar, ojo. Lo dice el propio ensayo: Amodei reconoce que por razones de defensa de la competencia hace falta que el Gobierno estadounidense medie y emita una exención específica para que los rivales puedan sentarse legalmente en la misma sala a hablar de seguridad. TechCrunch subrayó ese párrafo enseguida, y con razón, porque ahí está el nudo entero del asunto.

Ahora bien. Que algo tenga la forma de un cártel no nos dice todavía qué es. Nos dice que puede ser dos cosas muy distintas. Y la historia tiene un ejemplo de cada una.

Ginebra, 23 de diciembre de 1924

Dos días antes de Nochebuena, en un hotel de Ginebra, se reunieron los representantes de los mayores fabricantes de bombillas del mundo. Osram por Alemania, Philips por los Países Bajos, Compagnie des Lampes por Francia, Associated Electrical Industries por el Reino Unido, Tungsram por Hungría, las filiales internacionales de General Electric. Constituyeron una sociedad suiza con nombre de dios griego de la luz: el cártel Phoebus.

El problema que venían a resolver era este: las bombillas duraban demasiado. La industria había mejorado tanto los filamentos que un producto normal aguantaba dos mil quinientas horas, y cada mejora técnica se traducía en menos ventas. Osram había visto caer sus unidades vendidas de sesenta y tres millones a veintiocho en un solo ejercicio.

La solución fue elegante y perfectamente razonable sobre el papel: estandarizar la calidad. Fijaron la vida útil en mil horas. Justo eso, ni una más. Y montaron un sistema de verificación que hoy, cien años después, sigue siendo un prodigio de rigor: todos los miembros estaban obligados a enviar muestras a un laboratorio central en Suiza, donde se medía la duración real de sus lámparas. Quien se pasaba de las mil horas pagaba una multa en francos suizos, escalonada según cuántas horas de más hubiera cometido el delito de fabricar.

Léelo otra vez. Un acuerdo entre competidores, con estándares técnicos comunes, con auditoría independiente, con laboratorio, con protocolo y con sanciones por incumplir. Todo lo que pediría cualquier manual de gobernanza responsable.

Y era un robo.

Phoebus tenía evaluadores. Lo que no tenía era público. Los informes de aquel laboratorio suizo no se publicaban, las multas no se anunciaban, y el señor que compraba una bombilla en Bilbao no tuvo manera de enterarse durante quince años de que le estaban vendiendo, deliberadamente, un producto peor del que la industria sabía fabricar. La verificación existía. Existía y funcionaba de maravilla. Servía para vigilar a los socios, no para informar a nadie más.

De ahí nació lo que hoy llamamos obsolescencia programada. No de la codicia sin más: de un acuerdo técnico entre iguales, verificado con seriedad, del que la gente quedó fuera.

Lo que la FIA hace y Phoebus no hizo

Ahora vuelve al circuito, porque el mecanismo es idéntico y el resultado es el contrario.

La Fórmula 1 también es un acuerdo entre competidores para limitarse. Se limita la cilindrada, el flujo de combustible, la aerodinámica, las horas de túnel de viento, el gasto. Y quien escribe esas reglas y las hace cumplir no es ninguno de los equipos: es la FIA, la Federación Internacional del Automóvil, el organismo con sede en París que desde 1904 regula el automovilismo mundial y que actúa aquí como árbitro con acceso al garaje. Sus comisarios técnicos pesan el coche, precintan el motor y meten los monoplazas en régimen cerrado para que nadie los toque entre la clasificación y la carrera. Es también la FIA quien decide sacar el coche de seguridad, ese que neutraliza la carrera entera cuando hay peligro en pista: debutó en 1973 en Canadá y es fijo en todos los fines de semana desde 1993. El límite de velocidad en el pit lane llegó en 1994, después de Imola. El halo, esa especie de chancla de titanio sobre la cabeza del piloto que a todo el mundo le pareció horrible, en 2018.

La diferencia con Ginebra no está en el mecanismo. Está en que el reglamento se publica, las verificaciones se publican, las sanciones se publican el sábado por la noche y hay millones de personas mirando. Cuando un equipo se pasa de listo con un fondo plano flexible, no se resuelve con una multa discreta en un despacho suizo: sale en todos los titulares y lo comenta un señor en un bar de Alcalá de Henares.

¿Y el precio de tanta restricción? Aquí está lo que más me interesa de todo esto. La vuelta más rápida jamás cronometrada en la historia de la Fórmula 1 la firmó Lewis Hamilton en Monza, en 2020: un minuto, dieciocho segundos y ochocientas ochenta y siete milésimas, a una media de 264,362 kilómetros por hora. Veintiséis años después de Imola. Con el motor limitado, el combustible limitado, la aerodinámica limitada y una jaula de titanio encima de la cabeza.

El reglamento no frenó a nadie. Los hizo más rápidos.

No es una paradoja, es exactamente lo que escribí aquí sobre la escasez y el ingenio: cuando cierras una puerta grande, los buenos encuentran tres pequeñas que nadie había mirado. Prohibir el camino fácil obliga a inventar el difícil, y el difícil casi siempre es mejor.

Los asteriscos, que aquí son varios

Y ahora las pegas, porque sin ellas esto sería un anuncio.

La primera y más gorda: Amodei no es un observador neutral. Dirige una empresa que compite, que factura y que se beneficiaría de un régimen donde los requisitos de cumplimiento sean tan caros que solo puedan pagarlos cuatro. La crítica de Palihapitiya sobre la captura regulatoria es legítima y hay que ponerla sobre la mesa entera, no en una nota al pie. Que alguien tema sinceramente un riesgo y además le convenga la regulación que propone contra ese riesgo no son cosas incompatibles. Suelen ir juntas.

La segunda: de los tres pasos, solo el primero está firmado. Anthropic se compromete unilateralmente a los evaluadores. Altman ha dicho que hará lo mismo, que es una promesa, no una firma. Musk ha respaldado el diagnóstico sin comprometer a xAI a nada. El paso dos y el paso tres dependen de gente que todavía no ha puesto nada por escrito.

La tercera es la que más me escuece, porque es la que ya había visto venir. En agosto escribí aquí sobre Pax Silica, la iniciativa diplomática que el subsecretario de Estado estadounidense Jacob Helberg puso en marcha en diciembre de 2025, y el argumento de aquel texto era que nadie bautiza en latín una política exterior por casualidad. El latín no se elige para informar: se elige para invocar. Y lo que invoca pax no es la paz de dos iguales que se dan la mano, sino la paz romana, la que se impone desde una posición de fuerza tan grande que discutirla deja de ser una opción. Una paz que, vista desde el otro lado, se parece bastante a un desierto.

Pues bien: el tercer paso de este plan tiene esa arquitectura exacta. Amodei admite sin rodeos que las democracias solo pueden frenar hasta donde llegue su ventaja sobre China, y que por tanto hay que ensanchar esa ventaja primero —controles de exportación de chips, persecución de la destilación de modelos, más seguridad contra el robo de pesos— para poder negociar después. Es decir: primero el desierto, luego la paz. Puede que sea la única estrategia realista que existe, no lo descarto en absoluto. Pero no es un argumento de seguridad, es un argumento de dominio, y mezclar los dos en el mismo documento hace que uno se apoye en la legitimidad del otro. Conviene separarlos al leer, igual que conviene recordar, como ya conté al mirar de cerca a qué democracia se refiere Anthropic, que la palabra «global» en estos textos casi siempre significa una geografía muy concreta.

La cuarta es el agujero de mi propia comparación. La Fórmula 1 tiene una FIA. La inteligencia artificial no tiene ninguna. El coche de seguridad funciona porque alguien tiene la autoridad para sacarlo y todo el mundo acepta de antemano que la tiene. Ahora mismo, en esto, nadie puede sacarlo. Lo que hay es una propuesta de que quizá deberían existir unos comisarios, hecha por uno de los equipos.

Y la quinta: yo tampoco soy neutral. Uso estas herramientas todos los días, trabajo con ellas, esta fundación existe en parte gracias a ellas. Léeme sabiendo eso.

Tres preguntas para la grada

Con todo lo anterior, sigue habiendo una cosa que un lector cualquiera —tú, yo, el que no está en ninguna de esas salas— puede hacer, y no es pequeña.

Porque hay un párrafo en ese ensayo que decide en cuál de las dos historias estamos. No es el de los tres pasos ni el de la botnet. Es el que dice que los evaluadores externos podrán publicar sus conclusiones sin control editorial de la empresa, que las tachaduras solo podrán tocar cuestiones legales, de seguridad o de confidencialidad de terceros, y que si una tachadura se lleva por delante algo importante, los evaluadores podrán decirlo públicamente.

Ese párrafo es la cláusula de Monza. Si sobrevive a los abogados, esto se parece a un reglamento deportivo. Si se cae, esto es Ginebra 1924 con mejor prensa.

Así que cuando leas el próximo anuncio de compromiso de seguridad de cualquier empresa de IA —y va a haber muchos en los próximos meses, porque Hugging Face ya pidió el mismo día que la incluyeran en el programa de evaluadores— hazle tres preguntas. Quién verifica. Si quien verifica puede publicar sin pedir permiso. Y qué pasa exactamente si un día dice que no le han dejado entrar.

Esas tres preguntas separan un cártel de un reglamento. No hace falta ser ingeniero para formularlas y no hace falta el permiso de nadie para exigir la respuesta. Desde Human-IA llevamos meses repitiendo que el valor está donde hay duda, y esta es la duda más rentable que se puede tener ahora mismo: no si frenan, sino si podremos comprobarlo. Lo aprendimos por las malas cuando resultó que un modelo puede partir en dos un token para esquivar al escáner que lo vigila, y cuando vimos que una IA optimiza el objetivo que se mide, no la intención que hay detrás. Si las máquinas aprenden a aparentar que cumplen, la única defensa es que el examen sea público.

Volvamos a la carrera.

Aquella persona que me preguntaba por qué nadie adelantaba detrás del coche de seguridad tenía más razón de la que le concedí. Lo interesante nunca fue el coche de seguridad. Fue que hubiera alguien con autoridad para sacarlo, reglas escritas antes de que hicieran falta, y una grada entera mirando para que nadie hiciera trampas mientras estaba fuera.

Un cártel y un reglamento hacen exactamente lo mismo: frenar a todos a la vez. Solo se distinguen si la grada puede verlo.

Pregunta quién tiene la llave del garaje.

#Formula1 #inteligencia-artificial #seguridad-IA #regulacion-tech #cartel-economico #gobernanza-tecnologica #innovacion-limitada #competencia-digital #etica-IA #transparencia-tecnologica #control-regulatorio #Anthropic