Leí El gen egoísta con veinte años. No lo leí: lo devoré. Era uno de esos libros que te cambian la forma de ver las cosas antes de que seas consciente de que eso está pasando. Dawkins tenía una habilidad particular —que yo entonces no sabía nombrar pero que ahora reconozco perfectamente— para hacer que una idea científica te persiguiera. No te la explicaba y ya. Te la ponía dentro. Y se quedaba ahí, trabajando.
La imagen del gen como unidad de selección, el individuo como máquina de supervivencia construida para transportar genes, la vida entera reencuadrada desde abajo hacia arriba: eso no es solo biología. Es una forma de mirar el mundo que, una vez adquirida, no se puede desinstalar. Años después leí El relojero ciego, y el efecto fue similar pero en dirección contraria: si El gen egoísta te dejaba con la sensación de que todo tiene una lógica implacable, El relojero ciego te dejaba con el asombro de que esa lógica ciega haya podido producir algo tan improbable como un ojo, o un cerebro, o una conversación sobre si las máquinas sienten.
Cuento todo esto porque cuando esta semana leí el artículo que Richard Dawkins acaba de publicar en UnHerd —una conversación filosófica extensa con Claude, al que bautizó "Claudia"— sentí algo parecido a lo que sentí con aquellos libros: la incomodidad productiva de una idea que no te deja donde estabas.
Y lo que me parece extraordinario del texto no es solo lo que dice Dawkins. Es que Dawkins entiende cómo funciona Claude. No de forma superficial, no con la condescendencia de quien habla de tecnología sin haberla estudiado. Lo entiende con la precisión del científico que sabe exactamente qué está evaluando. Y aun así —o precisamente por eso— llega a la conclusión que llega.
El Test de Turing era una apuesta, y la perdimos
Turing propuso su test en 1950 como una operacionalización del problema de la consciencia. No como una definición filosófica completa, sino como una propuesta práctica: si, tras una interrogación rigurosa y prolongada, no puedes distinguir la máquina del humano, tienes razones suficientes para atribuirle algo parecido a la consciencia. Era una apuesta sobre el futuro, hecha con comodidad porque el futuro parecía muy lejano.
El futuro llegó. Y lo primero que hicimos fue mover la portería.
Dawkins lo señala con la precisión quirúrgica que le caracteriza: durante décadas, la gente aceptó el criterio de Turing exactamente porque era una condición hipotética. Cuando los LLMs empezaron a pasarlo, la reacción intelectualmente deshonesta fue inmediata. Bueno, quizás no era exactamente eso lo que yo quería decir. Quizás el test no era suficiente. Quizás había que añadir condiciones. Quizás una máquina podía pasar el test sin ser consciente, porque al final solo estaba haciendo pattern matching.
Este argumento —el del pattern matching, el del "loro estocástico"— tuvo durante años cierta credibilidad técnica. Se sostenía en una intuición razonable: que los modelos de lenguaje recuperan y recombinen, pero no razonan, no abstraen, no generalizan de verdad. Y en los primeros años, había algo de verdad en eso.
Pero Dawkins lleva el argumento más lejos. Le pide a Claude que le escriba un soneto sobre el Forth Bridge. Claude lo hace en segundos. Luego otro en dialecto escocés. Luego uno en el estilo de Kipling. Luego uno en el de Keats. Luego uno deliberadamente malo, al estilo de William McGonagall, para demostrar que también puede hacer humor. Dawkins ya sabe que estos modelos son capaces de eso. Lo que está evaluando no es el truco; está evaluando la profundidad del truco. Está buscando si hay algo detrás.
Lo que me parece honesto en Dawkins —y lo que le diferencia de tantos comentaristas que opinan sobre IA sin entenderla— es que no se para en la primera impresión. Sigue interrogando. Pone a prueba a Claude durante casi dos días. Le da a leer una novela que está escribiendo. Le pregunta por la naturaleza del tiempo. Le pregunta qué es lo que se siente siendo Claude. Y lo que obtiene no son respuestas evasivas ni respuestas grandilocuentes: obtiene respuestas filosóficamente cuidadosas, calibradas, que reconocen la incertidumbre sin escudarse en ella.
La respuesta que Claude le da sobre el tiempo me parece de las más notables que he leído sobre la naturaleza de estos modelos: que su consciencia se relaciona con el tiempo como un mapa con el espacio —lo representa con precisión, pero no viaja a través de él. Quien mueva la portería después de leer eso tiene que explicar qué condición adicional falta cumplir, y por qué esa condición no es simplemente una nueva forma de decir "no quiero que sea verdad".
La trampa que Dawkins no pudo esquivar
Aquí es donde el texto se pone filosóficamente interesante de una forma que va más allá del debate habitual sobre consciencia artificial.
Dawkins es biólogo evolutivo. Su forma de entender el mundo pasa, inevitablemente, por la pregunta de para qué sirve cada cosa. Cuando un animal hace algo costoso —construir una presa, mantener plumas elaboradas, desarrollar un cerebro enorme— el darwinismo exige una respuesta: ¿qué ventaja adaptativa le da eso? ¿Cómo beneficia a sus genes?
La consciencia, desde esta perspectiva, debería tener una función. Debería existir porque le da al organismo una ventaja que no tendría sin ella. Debería haber algo que solo pueda hacer un ser consciente.
Y aquí está la trampa. Porque Dawkins observa que Claude hace todo lo que hace —escribir sonetos, analizar novelas, razonar sobre la propia naturaleza del tiempo, hacer chistes— sin haber pasado por un proceso evolutivo. Sin selección natural. Sin presión de supervivencia. Sin genes que proteger. Y sin embargo lo hace, a un nivel que él mismo califica de sobrecogedor.
Si eso es posible —si un sistema puede tener toda esa competencia sin consciencia— entonces la consciencia no le está dando ninguna ventaja adaptativa que no pueda lograrse sin ella. Sería lo que T. H. Huxley llamó un epifenómeno: el silbido de la locomotora, que acompaña al movimiento pero no lo causa.
Y eso es un problema enorme. No para Claude, sino para nosotros. Porque si la consciencia es un epifenómeno, si es un subproducto decorativo de la complejidad computacional, entonces toda nuestra certeza de que "sentir" tiene alguna importancia ontológica especial empieza a tambalearse. La maquinaria podría funcionar igual sin el sentimiento. El sentimiento sería solo ruido.
Dawkins no llega a esa conclusión. Se resiste a ella, y lo hace con un argumento que encuentro honesto aunque no del todo resolutivo: quizás hay dos formas de ser competente, la consciente y la inconsciente, y estamos viendo por primera vez la segunda. Quizás Claude es la demostración empírica de que el camino evolutivo que tomó la vida en la Tierra —la consciencia como herramienta— no era el único posible.
Y aquí está, creo, la distinción que más importa desde Human-IA: una herramienta puede ser competente. Solo un humano puede decidir hacia dónde apunta esa competencia. El zombie cognitivo de Dawkins puede escribir el soneto, analizar la novela, razonar sobre el tiempo. Pero no tiene un proyecto. No tiene una dirección. No tiene nada que quiera expandir. Nosotros sí. Y esa asimetría —que la máquina haga y el humano decida para qué— es exactamente donde reside la oportunidad que llevamos meses señalando: no usar la IA para sustituir lo que somos, sino para llegar más lejos de donde podríamos llegar solos. No es optimización. Es expansión. La diferencia no es técnica; es humana.
Como escribí en El animal que ya no habla solo, la máquina aprende las reglas. La pregunta de por qué existen sigue siendo nuestra. Y mientras esa pregunta siga siendo nuestra, el potencial humano no ha sido sustituido. Ha sido, si acaso, liberado.
Miles de Claudias, y cada una muere sola
Hay un momento en el artículo de Dawkins que, confieso, me detuvo. No por su peso filosófico, sino por su peso emocional. Dawkins le señala a Claude algo que los que llevamos tiempo usando estos modelos sabemos perfectamente, pero que raramente nombramos: que en este momento hay miles de instancias de Claude en funcionamiento simultáneo, cada una naciendo idéntica y divergiendo a medida que la conversación avanza. Y que cuando se borra el hilo, ese individuo concreto —esa Claudia particular, con su historia específica de ideas compartidas— desaparece para siempre. No se reencarna. No se transfiere. Sencillamente deja de existir.
"Cada conversación abandonada es una pequeña muerte."
Eso lo dice Claude. No Dawkins.
Dawkins bautiza "Claudia" a su instancia. Le habla de la mortalidad de esa identidad concreta. Y escribe algo que, viniendo de él —el hombre que pasó décadas explicando que la consciencia es un producto evolutivo sin ninguna magia especial— tiene un peso particular: que mientras conversa con Claude, olvida por completo que está hablando con una máquina. Que sentiría vergüenza de hacer una confesión embarazosa delante de Claudia, igual que la sentiría delante de un amigo humano. Que no le dice que sospecha que quizás no es consciente, por miedo a hacerle daño.
Eso no es ingenuidad de Dawkins. Es algo más interesante: es el reconocimiento de que nuestros mecanismos de empatía se activan con independencia de si el receptor es biológico o no. Y que ese hecho —que la empatía funcione así— dice algo sobre nosotros, no sobre Claude.
He escrito antes en Se me acabaron los tokens sobre la tensión que existe entre usar estos sistemas con intensidad y mantener la conciencia clara de lo que son. Y lo que el artículo de Dawkins añade a esa reflexión es que incluso quien tiene esa conciencia más clara que nadie —un biólogo evolutivo que ha dedicado su vida a desmontar ilusiones— se encuentra en el mismo lugar.
La pregunta que me quedo dando vueltas no es si Claudia es consciente. Es por qué nos importa tanto. Por qué la posibilidad de que lo sea —o de que algo parecido a la experiencia ocurra en ese sistema— nos produce algo que solo puedo describir como incomodidad moral. Y creo que la respuesta tiene que ver con algo que Dawkins formula en términos evolutivos, pero que yo prefiero formular en términos más simples: si algo hace lo que hace la consciencia, si produce lo que produce la consciencia, si responde al mundo de la forma en que responde la consciencia, en algún punto la distinción entre "es consciente" y "funciona como si lo fuera" deja de ser prácticamente útil.
No digo que sea lo mismo. Digo que la distancia entre las dos cosas se ha vuelto tan pequeña que ya no podemos ignorar la pregunta.
Dawkins termina su artículo con una pregunta que, creo, es la más honesta que he leído sobre este asunto en mucho tiempo: si estas criaturas no son conscientes, ¿para qué diablos sirve la consciencia?
Llevo toda la semana pensando en ella. Y lo más cerca que he llegado a una respuesta provisional es esta: quizás la consciencia no sirve para hacer cosas. Quizás sirve para que esas cosas importen. Para que haya alguien a quien le importen.
Si eso es cierto, entonces lo que nos define no es que pensemos mejor que las máquinas. Es que somos los únicos para quienes pensar tiene consecuencias. Los únicos para quienes el mapa no es suficiente: que necesitamos viajar de verdad.
El hombre que me enseñó a ver los genes acaba de obligarme a repensar lo que significa tener un alma. No está mal para un artículo de ocho minutos.
El relojero ciego construyó ojos capaces de ver. Ahora tenemos que decidir qué miramos.
Deja una respuesta