Durante años, cada trabajo de fin de grado y cada trabajo de fin de máster que dirigí tuvo que pasar por Turnitin antes de llegar al tribunal.
Eran tiempos pre-IA. Turnitin entonces no detectaba máquinas, no había máquinas que detectar: comparaba el manuscrito contra una base de datos gigantesca de artículos, tesis y páginas web, y devolvía un porcentaje de coincidencia. Un número. Siempre un número.
Y había otro número antes que ese. En España tenemos una devoción por la extensión que incluso estaba en la normativa. Un TFM tenía que tener su grosor. Sesenta páginas, ochenta, las que fueran, hiciesen falta o no para explicar qué se había hecho y cómo se había hecho. Un alumno que hubiera resuelto algo brillante y pudiera contarlo en treinta páginas sabía perfectamente que el tribunal lo iba a mirar con desconfianza y además estaba obligado a llegar a un volumen de palabras (alto e innecesario). Así que rellenaba. Estado del arte, marco teórico, definiciones que sabe cualquiera, tablas, anexos, párrafos de introducción a la introducción.
Y cuanto más rellenaba, más subía el porcentaje. Es aritmética elemental: el relleno es, por definición, lo que ya han escrito otros. Lo original no coincide con nada, precisamente porque es original. Lo genérico coincide con todo.
De modo que empezaba el baile. Yo pasaba el manuscrito por Turnitin. Salía un número demasiado alto. Se lo devolvía. El alumno no quitaba el relleno, porque necesitaba las páginas. Lo parafraseaba. Cambiaba las palabras dejando las frases donde estaban. Yo volvía a pasarlo. El número bajaba. Otra vuelta. Otra más. Hasta que el semáforo se ponía verde.
Entre los dos habíamos construido una pequeña máquina de producir texto que nadie iba a leer, depurado hasta que un detector lo dejaba pasar.
Yo creía que aquel mundo se había acabado cuando llegó la IA. Pero no se acabó. Se hizo más grande, más rápido y mucho más caro.
Y ahora al lío.
Seis horas
Jerry Falade tardó años en escribir su primera novela y seis horas en perderla.
Catorce editoriales se habían peleado por ella en una subasta que acabó rondando los 2,4 millones de dólares. Call Me, I'll Hide the Body estaba programada para 2028, con acuerdos en Estados Unidos, en Reino Unido, traducciones, opciones audiovisuales. Y entonces empezaron los rumores en redes: prosa plana, metáforas raras, ese aire indefinible que la gente ha aprendido a llamar «IA». Alguien subió el manuscrito a un detector sin pedirle permiso. Sus propias agencias retiraron el libro del mercado diciendo que no tenían claro si lo había escrito él o un chatbot.
Falade lo resumió después con una frase: perdió Estados Unidos, Reino Unido, las traducciones y el cine en seis horas, sin que nadie le diera la oportunidad de explicar cómo trabaja.
¿Y cómo trabaja? Pues como cualquiera con un poco de cabeza hoy en día.
Y voy a decirlo antes de seguir: yo escribo con IA. Lo digo cada vez que puedo, lo firmo, lo explico. Casino 25 se hizo así. La radionovela del Día de la Radio se hizo así. Si alguien pasara por un detector la mitad de lo que publico, saldría un porcentaje escandaloso. Así que estas historias no las leo como espectador. Las leo desde los dos lados: el del profesor que manejaba el semáforo y el del autor que hoy estaría debajo de él.
El oráculo que nadie sabe leer
El caso de Falade no es el primero. En marzo, Hachette canceló Shy Girl, una novela de terror de Mia Ballard que ya se vendía en Reino Unido, horas después de que The New York Times publicara un reportaje con los resultados de Pangram: un 78% del texto marcado como generado por IA. Es la primera vez que una de las cinco grandes retira un libro ya publicado por este motivo. Y en julio, cuando un estudio universitario pasó Daggermouth, de H.M. Wolfe, por la misma herramienta y devolvió un 60%, Simon & Schuster respondió públicamente que no se pueden sacar conclusiones sobre el trabajo de una autora a partir de sistemas que producen falsos positivos, y que se mantenían detrás de ella.
Tres casos, tres decisiones distintas, la misma tecnología. Eso ya debería decirnos algo.
Porque el detector nuevo hace exactamente lo mismo que hacía el viejo: no te da un sí o un no, te da un número. Y un número no es una prueba, es una estimación de parecido. Turnitin medía parecido con lo ya escrito; Pangram mide parecido con lo que suelen escribir los modelos. Ninguno de los dos ha visto trabajar a nadie, ninguno sabe qué pasó en esa mesa a las tres de la mañana, ninguno tiene acceso a los borradores. Cuando un humano escribe con una claridad muy estructurada, muy limpia, muy trabajada, el sistema lee esa precisión como predictibilidad. Y la predictibilidad, para él, huele a máquina.
Pangram declara una tasa de falsos positivos del 0,01%. Puede que sea cierto. Pero como recuerda la investigadora Tara Radvand, incluso un 1% de error es altísimo en un sector donde una acusación calcina una carrera entera. Un test médico con un 1% de falsos positivos es excelente. Un tribunal con un 1% de inocentes condenados es una catástrofe. Depende de qué hagas con el resultado. Con mis alumnos, el resultado fue una revisión más. Con Falade, el resultado fue una sentencia.
Quien vendía el termómetro anunció la fiebre
Hay un detalle en el caso de Shy Girl que me parece más grave que el porcentaje. La historia no llegó al New York Times por una investigación periodística independiente. Según el propio consultor que la destapó, quien le puso el hilo de Reddit delante fue una comercial recién contratada por Pangram. Él vio el potencial, encargó el análisis a la empresa, y vendió el reportaje al Times con esos resultados como columna vertebral.
Es decir: la compañía que vende el termómetro fue quien avisó de la fiebre, quien midió la temperatura y quien apareció citada como fuente. Nada de eso es ilegal ni necesariamente deshonesto. Pero es exactamente la clase de circuito cerrado que en cualquier otro sector encendería todas las alarmas.
Y ese mismo Pangram es ahora un botón bajo cada publicación de Substack. Desde julio, cualquier lector puede escanear un post, una nota o un comentario de más de cien palabras y obtener su porcentaje. Su consejero delegado lo llamó «Claudefishing» y lo explicó con una idea que, comparto: el problema no es la IA, es el desajuste entre lo que el lector cree que está leyendo y lo que hay detrás. Pero la comunidad se partió por la mitad, y con razón: en una plataforma donde la gente cobra directamente de sus suscriptores, un falso positivo no es un disgusto, es una nómina.
Turnitin le costaba a mi universidad una licencia. Esto ya es una industria. He escrito antes sobre cómo el miedo funciona mejor que cualquier norma a la hora de gobernar comportamientos, y esto es un ejemplo de manual: la sospecha se ha convertido en un mercado, y un mercado necesita demanda.
Catorce editores y un porcentaje
Y aquí está lo que de verdad me duele, porque no va de tecnología.
Catorce editores leyeron el manuscrito de Falade. Catorce. Pujaron por él, se lo pasaron a sus equipos de ventas, de marketing, de prensa. Uno de ellos declaró después, en el anonimato, que ni él ni ninguno de sus colegas detectó nada raro al leerlo. Toda esa gente, con años de oficio, con el criterio formado a base de leer miles de páginas, dijo que sí. Después llegó un porcentaje y todos dijeron que no.
Eso no es un problema de la herramienta. Es una abdicación. Y la reconozco porque yo la cometí antes, en pequeñito, con un semáforo verde y un alumno esperando fecha de defensa.
Lo he contado aquí con una escena de mi infancia: mi madre poniéndome delante el ticket del supermercado para que lo comprobara a mano, no porque desconfiara de la caja registradora, sino porque quería que yo conservara la capacidad de saber si estaba bien. Cuando yo delegaba en Turnitin el juicio sobre un trabajo que había dirigido durante meses, hacía lo contrario. Usaba la herramienta para no tener que pensar, cuando la única razón decente para usarla es poder pensar mejor.
Y hay algo aún más incómodo. Si un manuscrito tiene la prosa plana y las metáforas torpes, eso era históricamente el trabajo de la editorial. Se llamaba editar. Igual que señalar el relleno de un TFM era mi trabajo, y se llamaba dirigir. Convertir «esto está flojo» en «esto lo escribió una máquina» no es una mejora del criterio: es su desaparición. Instituciones que compran un látigo más fuerte en lugar de bajarse del caballo.
Ninguno de estos casos es limpio
Sería cómodo escribir esto como una historia de inocentes linchados. No lo es, y no quiero contarlo así.
Ballard respondió que ella no usó IA, pero que alguien a quien contrató para editar el texto autopublicado pudo haberla introducido sin su conocimiento. Falade negó haber generado el texto, aunque reconoció al Wall Street Journal que sí usó un modelo abierto en local para documentarse, para consultar cosas que fuera de contexto tienen mala pinta, como qué productos químicos disuelven un cuerpo. Y el estudio que salpicó a Wolfe analizó 14.419 libros autopublicados en Kindle y concluyó que en más de dos mil de ellos la mitad de la prosa estaba generada. No es paranoia: ahí fuera hay muchísimo texto de máquina firmado como humano.
Precisamente por eso el porcentaje no sirve. La pregunta que responde —«¿se parece esto a lo que escribe un modelo?»— no es la pregunta que importa. Tampoco lo era «¿se parece esto a algo ya publicado?». Nunca lo fue.
Mientras tanto, Europa va por otro lado
Y aquí la historia da un giro que casi nadie ha conectado.
Mientras la industria editorial montaba su oficina de sospechas, el artículo 50 del Reglamento Europeo de Inteligencia Artificial entraba en vigor el 2 de agosto de este año. Su lógica es la inversa a la del detector. En vez de intentar adivinar a posteriori si un texto salió de una máquina, obliga a que la máquina lo declare en el momento de generarlo: los proveedores de sistemas que producen audio, imagen, vídeo o texto sintético tienen que marcar sus salidas en un formato legible por máquina y hacerlas detectables. Con multas de hasta quince millones de euros o el 3% de la facturación mundial.
Es una idea sensata. No le pides al acusado que demuestre su inocencia; le pides a la herramienta que se identifique.
Y hay un matiz en el texto legal que merece que te pares en él, porque casi nadie lo ha contado: la obligación de marcar no se aplica cuando el sistema cumple una función meramente auxiliar de edición estándar —corregir la gramática, por ejemplo— o cuando no altera de forma sustancial el contenido ni su significado. Europa, que suele llevarse fama de torpe legislando tecnología, tuvo aquí una precisión notable: distinguió entre generar y ayudar. Entre escribir el texto y pasarle el peine.
Y entonces Claude empezó a firmar mis textos
El 11 de agosto, Anthropic publicó una página explicando cómo marca el contenido que genera Claude. Habían firmado en julio el Código de Buenas Prácticas europeo sobre transparencia, junto a Google, Meta, Microsoft, OpenAI y otros. Y desde el 2 de agosto, todos los modelos nuevos incrustan una marca de agua imperceptible directamente en el texto que producen. No la ves, no cambia el significado, viaja contigo cuando copias y pegas, y puede sobrevivir a cierta edición. Los archivos llevan metadatos de procedencia firmados bajo el estándar C2PA.
Se aplica en todos los productos. Y —esto es decisión suya, no exigencia europea— en todo el mundo, no solo en la Unión. Sin opción de desactivarlo. En Reddit y en X hubo gente cancelando su suscripción esa misma semana.
No voy a fingir neutralidad: Anthropic es la empresa con cuyo modelo trabajo casi a diario, y ya he escrito aquí que tener principios les ha costado dinero más de una vez. Esta decisión va en la misma línea, y creo que en el fondo es la correcta. Pero tiene una consecuencia que me afecta directamente: todo lo que Claude ha generado para mí desde el 2 de agosto lleva una marca dentro. Y las herramientas para detectarla todavía no son públicas. De momento, quien puede leer esa firma es Anthropic.
Hay algo casi poético en esto. Escribí hace meses sobre instrucciones invisibles escondidas dentro de un texto que las máquinas leen y los humanos no. Ahora el texto lleva una firma invisible que las máquinas leen y los humanos no. La diferencia es la intención. La mecánica es idéntica.
Setenta y dos horas
Eso es lo que tardó en aparecer el mercado contrario.
Según ha contado Business Insider, Sabrina Ramonov, formadora de IA para emprendedores, lanzó un Watermark Remover gratuito que funciona en el navegador y promete limpiar marcas ocultas de texto, PDF, documentos de Word, páginas web, imágenes y ficheros de datos. Ansh Aneja, desarrollador afincado en Tokio, construyó su propio borrador de marcas el mismo día del anuncio de Anthropic y después publicó MarkScrub, una versión local y de código abierto. Aneja dice que pasó de cero a 8.500 usuarios en veinticuatro horas, aunque Business Insider no ha podido verificar la cifra ni evaluar la eficacia real de ninguna de estas herramientas. Uno de los borradores se hizo viral en GitHub. Las búsquedas del término se dispararon.
Y aquí llega lo que más me ha hecho pensar. Buena parte de esos limpiadores hace una cosa muy concreta: eliminar caracteres Unicode invisibles, esos espacios de ancho cero que se cuelan al copiar y pegar y que rompen el formato en un gestor de contenidos. Pero la marca de Anthropic no es un carácter. Es una señal estadística tejida en la propia elección de las palabras. No hay nada que borrar. Buena parte de esta industria recién nacida vende un botón que limpia una cosa que no es la cosa. Un placebo con barra de progreso.
Las que sí funcionan lo hacen de la única manera posible: reescribiendo. Parafraseando el texto hasta que la señal se diluye.
Parafraseando.
Aquel alumno mío, en 2015, delante de un semáforo rojo, cambiando las palabras y dejando las frases donde estaban, estaba ejecutando MarkScrub a mano. Sin saberlo, sin herramienta y sin mala intención, porque yo mismo le había enseñado que ese era el camino. Lo único que ha cambiado en diez años es que ahora el gesto está industrializado, es gratuito y cabe en una pestaña del navegador.
De modo que el sistema, tal como está montado hoy, funciona igual que funcionaba entonces: el que trabaja de forma transparente lleva la marca puesta, y el que se molesta en lavarla pasa limpio. Los honestos, señalados. Los tramposos, impecables. Y por el camino se pierde algo que no es la marca de la máquina, sino tu prosa: acabas con un texto que no ha escrito nadie, ni tú ni el modelo. Relleno depurado. Exactamente lo que salía de mi despacho.
La marca mide contacto, no autoría
Llegamos al fondo del asunto, que es donde la ley y su implementación se separan.
Lee esto despacio, porque lo dice la propia Anthropic en su documentación: detectar una marca indica que el contenido puede haber sido procesado por Claude, no confirma su procedencia completa, y Claude puede no ser el autor original.
Traducido: si yo escribo un párrafo entero, con mis ideas, mi voz y mis errores, y luego se lo paso a Claude para que me quite las comas sobrantes, ese párrafo sale marcado. Es mío de arriba abajo, y llevará dentro la firma de una máquina. Justo el caso que el reglamento europeo tuvo el cuidado de excluir —la función auxiliar de edición— es el que la marca no distingue.
La marca no mide autoría. Mide contacto. Igual que Turnitin no medía honestidad: medía coincidencia.
Son tres tecnologías distintas, separadas por veinte años, cometiendo el mismo error de categoría. Y las dos últimas van a caer en manos de un sector que ya ha demostrado que cancela un libro en veinticuatro horas ante un porcentaje discutible.
La firma va antes que el escáner
Cuando escribí sobre el mago de salón —esa gente que te enseña algo espectacular hecho con IA y espera aplausos— lo que me interesaba no era si había usado la herramienta, sino qué había puesto de sí mismo. Aquí ocurre lo mismo, solo que con la carrera de alguien encima de la mesa.
La pregunta nunca ha sido cuánta IA hay en un texto. Es quién responde de él. Quién tomó las decisiones, quién dijo esto no y esto sí, quién eligió el final, quién se hace cargo si el libro es malo, mentiroso o dañino. La autoría no es una cuestión de quién teclea: es una cuestión de responsabilidad. Y la responsabilidad no la detecta ningún software, porque no está en el texto. Está en la persona que lo firma.
Por eso el gesto más útil de todo este lío no es la marca de agua, ni el detector, ni desde luego el borrador de marcas. Es esa casilla discreta que Substack añadió junto al escáner y de la que casi nadie ha hablado: la declaración de cómo haces lo que haces. Escrita por ti, antes de publicar, con tus palabras. No un porcentaje: una explicación.
Y es, exactamente, la pregunta que la universidad debía de hacerle a aquel alumno en lugar de mandarle otra vuelta de paráfrasis. Cuéntame qué has hecho y cómo lo has hecho. Un chaval que había trabajado de verdad la contestaba en veinte minutos, sin nervios, entrando en detalles que no salen en ningún manual. Uno que había rellenado se atascaba en la primera pregunta de seguimiento. Nunca falló. No hacía falta una licencia de software: hacía falta tiempo y ganas de escuchar.
Falade dice que guarda borradores fechados, notas y mensajes de WhatsApp que documentan el desarrollo de su novela. Puede que le sirvan, puede que no. Pero piensa un momento en lo que significa que esa sea ya la defensa estándar. Tú, ahora mismo, ¿podrías demostrar que escribiste lo último que escribiste? ¿Guardas el rastro? ¿Y si no lo guardas, quién decide?
Llevamos dos años discutiendo si las máquinas nos van a sustituir. Resulta que lo primero que sustituyeron no fueron los escritores. Fue el criterio de quienes teníamos que leerlos. Y eso, para mi vergüenza, empezó mucho antes de que existiera la IA.
Una marca puede decirte que una máquina pasó por ahí. Nunca puede decirte quién pensó.
Declara tu proceso antes de que alguien lo escanee.
PS: Si quieres ver como queda sin marcas de agua puedes leerlo aquí
#inteligencia-artificial #autoría #escritura #transparencia #detección-IA #responsabilidad #criterio-editorial #IA-generativa #ética-tecnología #procesos-creativos #regulación-IA #contenido-humano