La inteligencia artificial como arma de adulación masiva
Una mañana, entre facturas y convocatorias, me llegó un correo que leí dos veces. La primera, con una sonrisa. La segunda, buscando algo que no encontré.
Lo firmaba alguien que decía coordinar un proyecto internacional sobre literatura e inteligencia artificial. Estaban preparando una selección de obras pioneras y querían incluir Falta una palabra, la novela que escribí con GPT-3. Hasta ahí, nada raro. Lo raro era lo bien que parecía conocerme. Sabía que la máquina me ofrecía tres opciones por párrafo y que yo elegía cuál entraba. Sabía que ningún lector había conseguido distinguir qué párrafos eran míos y cuáles no. Repetía, casi con mis palabras, cosas que he contado en entrevistas. Y terminaba con un enlace para «confirmar mis datos» y aceptar la mención.
Me gustaría decir que lo detecté por pura sabiduría. Quizá fue que mi ego es tan grande que da la vuelta al marcador y ya no le caben más elogios. Pero creo que fue otra cosa, bastante más útil y bastante menos glamurosa: en la segunda lectura busqué en el correo algo que no estuviera publicado. Un personaje, una escena, una frase del libro, una opinión sobre el final. Algo que solo pudiera decir alguien que hubiera abierto la novela.
No había nada. Todo eran frases bonitas sobre el libro, sin una sola señal de que alguien lo hubiera leído.
El miedo ya no es el único anzuelo
Durante décadas, la ingeniería social ha vivido de tres resortes viejísimos: el miedo, la urgencia y la autoridad. «Tu cuenta será bloqueada». «Tienes una multa pendiente». «Debes actuar inmediatamente». A fuerza de recibirlos, casi todos hemos aprendido a desconfiar de ese tono. Cuando un correo te grita, levantas la guardia por puro instinto.
Pero hay otro resorte que casi nadie vigila, porque no se parece en nada a una amenaza: nuestra necesidad de reconocimiento. Un mensaje que te asusta te pone en alerta. Uno que te reconoce te desarma. Y la inteligencia artificial permite industrializar algo que siempre había sido artesanal. El atacante ya no tiene que conocer personalmente a su víctima: una IA puede leerse su trayectoria pública en minutos, identificar aquello de lo que probablemente se siente orgullosa y construir una narrativa en la que alguien importante reconoce precisamente ese mérito.
Y aquí está la paradoja que llevo tiempo dándole vueltas. Una novela escrita en colaboración con una IA, un libro cuya gracia entera era que nadie sabía de quién era cada voz, se convierte en el pretexto para un posible ataque elaborado también con IA. Es muy probable que el correo que tan bien hablaba de mi libro lo escribiera una máquina. Con una ironía añadida: aquella novela demostró que los lectores no distinguían mis párrafos de los de GPT-3, y lo que delató al correo no fue su estilo, que era impecable. Fue que no había leído nada.
La misma tecnología que amplía la capacidad creativa humana puede usarse para explotar sus vulnerabilidades psicológicas.
Tiene su gracia. Bastante menos de la que parece.
El fénix de los habitantes del bosque
En 1668, Jean de La Fontaine publicó en el primer libro de sus Fábulas una historia que ya era antiquísima, porque venía de Esopo y de Fedro: el cuervo y el zorro. El cuervo está en una rama con un queso en el pico. El zorro, abajo, no puede trepar, así que hace lo único que sabe hacer: hablar. Y no le dice al cuervo que es estupendo en general. Le dice que, si su canto está a la altura de su plumaje, es el fénix de todos los habitantes del bosque. Le elogia la voz. Lo único que el cuervo, para demostrarlo, tiene que abrir el pico.
El queso cae. El zorro lo recoge y remata con la moraleja que generaciones de escolares franceses se saben de memoria: todo adulador vive a costa de quien le escucha.
Fíjate en un detalle que casi nadie comenta. El zorro jamás ha oído cantar al cuervo. Elogia una voz que no conoce, a partir de lo único que tiene a la vista: el plumaje. Es exactamente lo que hacía mi correo. Hablaba de lo que se ve desde fuera del libro, nunca de lo que hay dentro.
Y durante siglos esa técnica tuvo un límite muy claro: el zorro tenía que estar debajo de ese árbol, mirando a ese cuervo concreto. La adulación a medida exigía tiempo, atención y conocer a la víctima.
Cartas para todos, cartas para uno
El siglo XX intentó industrializar al zorro, con resultados bastante torpes. El Who's Who británico se publica desde 1849 y estar en él significa algo, porque alguien decide quién entra. Ese prestigio generó imitadores: editoriales que mandaban cartas anunciando que habías sido seleccionado para un directorio de personas notables y cuyo único criterio era que estuvieras dispuesto a pagar el libro, la placa o la inscripción. El American Biographical Institute, fundado en Raleigh en 1967 y en quiebra en 2012, vivió décadas de eso. El servicio antifraude del Gobierno de Australia Occidental lo describió con una precisión cruel: quien picaba, en la práctica, se había comprado el honor.
Pero aquellas cartas tenían un defecto que las delataba: eran iguales para todos. «Estimado profesional destacado». Una plantilla de imprenta con tu nombre insertado a máquina. El zorro industrial le hablaba a mil cuervos a la vez y, precisamente por eso, no sonaba a nadie.
La IA ha corregido ese defecto. Un equipo de investigadores entre los que está Bruce Schneier comparó correos de spear phishing escritos por expertos humanos con correos generados de forma totalmente automática: los dos consiguieron que pinchara en el enlace el 54 % de los destinatarios, frente al 12 % de los correos genéricos. La herramienta automática construyó perfiles correctos de sus objetivos en el 88 % de los casos, solo con información pública. Y el análisis económico del estudio calcula que la automatización multiplica hasta por cincuenta la rentabilidad de estas campañas cuando se hacen a gran escala.
Lee esos tres números juntos. Ya no hay que elegir entre la carta para todos y la carta para uno. Se pueden escribir un millón de cartas para uno.
El zorro ya está debajo de todos los árboles a la vez.
No era solo mi árbol
Cuando me puse a buscar, descubrí que mi correo era una gota de una ola enorme. Victoria Strauss, que lleva años vigilando los fraudes contra escritores desde Writer Beware, la describe como la oleada más prolífica y agresiva que ha documentado nunca. Empezó con ofertas de «visibilidad» para libros y ha ido mutando: clubes de lectura inventados, reseñas a cambio de dinero, y suplantaciones de escritores famosos, agentes literarios, editores de grandes sellos, festivales con invitaciones falsas y emisoras de radio con peticiones de entrevista que nunca existieron. Esa última, lo confieso, me hizo sonreír: a mí, que tengo un programa de radio, me queda poco para recibir una invitación de mí mismo. Los rasgos se repiten siempre: elogios desbordados, una personalización que parece conocimiento real del libro y, al final del camino, alguien que pide dinero.
La novelista Kate Flora lo contaba con una mezcla de cansancio y humor en el blog Maine Crime Writers. Reproducía uno de esos correos, supuestamente de la coordinadora de un club de lectura de Vermont, que alababa con todo detalle su libro escrito junto a un guarda forestal retirado de Maine. Todo lo que elogiaba era exactamente lo que cuenta la contraportada. Y Flora resumía la sensación de recibir docenas de correos que le resumen sus propias tramas con una frase que podría haber firmado yo: «hello? I wrote the book». Oiga, que el libro lo escribí yo.
En los comentarios del blog de Strauss aparecen dos joyas. Un autor cuenta que ya le escriben entusiasmados con su último libro, que todavía no ha terminado de escribir. Otro explica su método para desenmascararlos: les hace una pregunta sencilla sobre la historia, y las respuestas, dice, son para partirse de risa. Es exactamente lo que hice yo, sin saber que otros ya lo hacían.
Hay un último detalle que me interesa especialmente. Hasta ahora, esta ola apuntaba casi en exclusiva a escritores de habla inglesa. Strauss acaba de registrar los primeros casos en alemán y lo anuncia con ironía: a los escritores que no escriben en inglés les ha llegado el turno. Para un modelo de lenguaje, cambiar de idioma no cuesta nada. Si escribes en español y tienes algo publicado, el zorro ya sabe tu nombre.
Lo que estos datos no dicen
Conviene poner cada cosa en su sitio antes de seguir. El estudio de Schneier trabajó con 101 participantes, en condiciones controladas, y con modelos de una generación que hoy ya ha quedado atrás; sirve para entender un mecanismo, no para predecir porcentajes en tu bandeja de entrada. Lo que recoge Writer Beware son denuncias de autores, no una estadística, y está centrado en el mercado anglosajón. La vanidad tampoco la ha inventado nadie en Silicon Valley: La Fontaine la retrató hace más de tres siglos y Esopo mucho antes. Y lo mío es una anécdota con una muestra de uno. El reconocimiento verdadero existe, llega a veces por correo de un desconocido, y desconfiar de todo elogio sería otra forma de perder. La propia Kate Flora lo admite: le preocupa que un día, entre tanta basura, se le escape la invitación de verdad.
Hay un dato más en el estudio de Schneier, y es el que más me interesa. Los investigadores pusieron a un modelo a revisar 381 correos y detectó el 97,25 % de los intentos de phishing sin una sola falsa alarma. El zorro y el guardabosques salen de la misma fábrica.
Eso no es una mala noticia. Es la mitad de la solución.
La prueba del detalle que no está en Google
Lo que me salvó aquella mañana se puede convertir en hábito, y es casi un juego. Un elogio construido por una máquina a partir de tu rastro público solo puede recombinar lo que ya está publicado: tus entrevistas, tu perfil, tu contraportada. Lo que no puede hacer es aportar algo que no esté ahí fuera. Así que, cuando un mensaje te haga sentir importante, busca en él una sola cosa que no hayas contado nunca en público. Un detalle que solo conocería quien ha leído tu libro, ha usado tu producto, ha estado en tu charla o ha trabajado contigo. Si todo lo que te dicen podría haberse sacado de una búsqueda de cinco minutos, el elogio no te conoce a ti. Conoce tu plumaje. Y si quieres salir de dudas, haz como aquel autor de los comentarios: pregunta algo fácil que solo sepa quien de verdad estuvo dentro.
Después, reescribe mentalmente el mensaje sin los halagos. Quita lo de pionero, lo de referente, lo de trayectoria admirable. Casi siempre queda un verbo en imperativo: pulsa aquí, rellena esto, confirma tus datos, envía el manuscrito. Si esa petición, desnuda, no te convencería ni un segundo, ya sabes quién estaba haciendo el trabajo. Y comprueba siempre por un camino que no venga dentro del mensaje: busca tú la organización, escribe a alguien que conozcas en ella. Si te apetece, pásale el correo a tu IA de confianza y pregúntale qué quiere ese mensaje que hagas y qué gana quien lo envía. Ya conté aquí cómo un correo puede llevar instrucciones ocultas dirigidas a tu propia IA; esto es lo mismo apuntando a ti, y la defensa se parece mucho.
Hay una vacuna más profunda. Todo lo que contamos en público es materia prima, y ya escribí sobre lo mucho que una máquina puede saber de ti con muy poco y sobre lo que ocurre cuando alguien tiene un modelo de ti mejor que el tuyo. Pero la información solo es la mitad del ataque. La otra mitad es el hueco que el halago viene a llenar. Quien tiene clara la respuesta a ¿qué valor aportas? no necesita que un desconocido se la confirme por correo. Puede agradecer el elogio, disfrutarlo incluso, y seguir pensando con la cabeza fría. Por eso, bromas aparte, sospecho que no fue el tamaño de mi ego lo que me protegió. Fue saber muy bien qué hay dentro de esa novela, y echarlo de menos en el correo.
Desde Human-IA insistimos en que expandir el potencial humano en la era de la IA pasa por el pensamiento crítico antes que por cualquier herramienta. Y el pensamiento crítico más difícil de ejercer es el que apunta a lo que nos halaga, porque es justo ahí donde no queremos mirar.
Volvamos a aquella primera lectura y a aquella sonrisa. No me avergüenza haberla tenido: estoy orgulloso de Falta una palabra y me alegra que alguien se acuerde de ella. Lo que importa es que hubo una segunda lectura. Al correo, curiosamente, le faltaba lo mismo que al título del libro: le faltaba una palabra. Cualquiera de las que hay dentro.
El phishing tradicional intentaba que sintieras miedo. El phishing con IA puede conseguir que te sientas importante. Y cuando alguien acaricia nuestro ego con suficiente precisión, quizá dejemos de preguntarnos quién está detrás de la caricia.
Antes de abrir el pico, pregúntate qué han leído de ti.
#inteligencia-artificial #ciberseguridad #phishing #ingenieria-social #fraude-digital #IA-seguridad #proteccion-datos #escritores #estafas-online #pensamiento-critico #vulnerabilidad-psicologica #manipulacion-digital