Esta es la segunda parte, la prometida, la del final interesante. Si no has leído la primera, ¿Cuál será el final en un mundo con IA? (parte 1), empieza por ahí: aquí doy por hecho que ya conoces los diecisiete finales.
Tenía el post terminado. Diecisiete finales posibles para la humanidad en la era de la inteligencia artificial, cada uno con su enlace, su matiz y su advertencia, listo para publicar. Y no le di al botón.
Algo me rechinaba, y tardé un rato en ver qué era. Había escrito la lista como se escribe un menú: uno debajo de otro, como si el futuro consistiera en señalar uno y descartar los demás. Autodestrucción o dictador benevolente. Zoo o utopía igualitaria. Meseta o pérdida gradual. Elige.
Pero el futuro nunca ha funcionado así.
No es un menú. Es un edificio.
Febrero y mayo de 1936
Permíteme volver a un año concreto, porque lo explica mejor que cualquier teoría. El 5 de febrero de 1936 se estrenó en Estados Unidos Tiempos modernos, la película en la que Charles Chaplin interpreta a un obrero que aprieta tuercas en una cadena de montaje hasta que el ritmo lo enloquece y la máquina, literalmente, se lo traga entre sus engranajes. En la fábrica de la película, el jefe vigila a los trabajadores desde pantallas gigantes, incluso en el lavabo, trece años antes de que Orwell inventara al Gran Hermano.
Tres meses y medio después, el 28 de mayo de 1936, un joven matemático de Cambridge llamado Alan Turing entregaba a la Sociedad Matemática de Londres un artículo titulado Sobre los números computables. En él imaginaba una máquina capaz de calcular cualquier cosa calculable, y la describía comparándola con una persona haciendo cuentas con lápiz y papel. De ese artículo salen todos los ordenadores que han existido desde entonces, incluido el que me ayuda a escribir esto.
El mismo año. La misma era industrial. Un hombre devorado por la máquina y vigilado por pantallas, y otro hombre imaginando la máquina que acabaría ampliando la mente de millones de personas. Ninguna de las dos imágenes era falsa. 1936 no eligió entre Tiempos modernos y Turing. Tuvo las dos, en plantas distintas del mismo edificio.
Destinos, caminos y tableros
Cuando volví a mi lista con esa idea en la cabeza, vi que los diecisiete finales no eran de la misma naturaleza. Los doce de Max Tegmark son destinos: describen cómo queda el mundo al final. Pero algunos de los que yo había añadido eran otra cosa. La pérdida gradual y la fusión son caminos, formas de llegar a alguna parte. La meseta, el mundo multipolar y el mosaico son más bien condiciones del tablero sobre el que se juega.
Al mezclar destinos, caminos y tableros, es lógico que muchos puedan darse a la vez. Y pueden hacerlo de tres maneras.
Pueden coexistir en el espacio: una región vigilada como en 1984, otra intentando la vuelta atrás, otra cerca de la utopía igualitaria, todo al mismo tiempo. Pueden coexistir en el tiempo, como etapas de una misma historia: el dios esclavizado acaba en los conquistadores si la cadena se rompe, y la pérdida gradual desemboca, sin que nadie lo decida, en el dictador benevolente. Y pueden coexistir en capas, uno encima de otro, como las plantas de un edificio en el que en el ático se decide una cosa y en la planta baja se vive otra.
Esa tercera forma es la que más me interesa, porque es la que menos se ve. Y porque es justo ahí donde cada uno de nosotros tiene algo que decir.
Dos edificios sombríos
El primero tiene el dios esclavizado en el ático y la pérdida gradual en la planta baja. Arriba, unas pocas empresas o gobiernos tienen modelos muy potentes bajo control, con sus correas, sus auditorías y sus guardarraíles. Para ellos, la máquina es una herramienta sujeta. Abajo, el resto de la sociedad va cediendo decisiones una a una: qué leer, qué contratar, a quién conceder un crédito, qué responder a un correo. Nadie ha perdido el control de la IA, pero la mayoría ha perdido el control de su propia vida en favor de quien la controla. Lo inquietante es que las dos plantas se refuerzan: cuanto más delegamos abajo, más poder acumula quien sujeta la correa arriba. Es el riesgo que los investigadores que bautizaron el «desempoderamiento gradual» describen con precisión: ningún golpe, solo una erosión lenta. Y desde dentro no se nota nada, solo comodidad.
El segundo tiene la utopía igualitaria en la fachada y el zoo en el interior. Imagina un mundo de abundancia, sin escasez, con todas las necesidades cubiertas. Visto desde la calle, es Star Trek. Pero si las decisiones que importan las toma un sistema que nos mantiene contentos y entretenidos, ¿qué diferencia hay con el zoo? Las condiciones materiales pueden ser idénticas. Lo que cambia es si las personas siguen teniendo algo que decidir, algo por lo que esforzarse. Es la pregunta que Aristóteles dejó abierta y de la que hablé en Aristóteles y la IA: si las lanzaderas tejen solas, unos usarán la libertad para pensar y otros simplemente se quedarán sin tarea.
Fíjate en lo que tienen en común: la fachada engaña. Lo que separa un buen final de uno malo no siempre se ve desde la calle.
Dos edificios luminosos
Y aquí viene lo que me hizo no publicar el otro post sin escribir este. Porque la misma estructura que sirve para ir hacia la sombra sirve para ir hacia la luz.
El primero tiene la utopía igualitaria en la fachada y el escenario trece en el interior. Es el espejo exacto del zoo. Las mismas condiciones materiales: abundancia, trabajo pesado resuelto, tiempo libre. Pero esta vez la gente usa ese tiempo para hacer lo que antes no podía: crear, aprender, investigar, cuidar. La máquina no les quita la tarea, les quita la parte que no les dejaba llegar a ella. Hablo por experiencia. En 2021 escribí una novela con GPT-3 y después he hecho óperas, dramas radiofónicos y proyectos que hace veinte años habrían necesitado un estudio, una orquesta y un presupuesto que una persona sola no tenía. Lo conté en Crear en vez de hacer: la máquina no me ha quitado el oficio, me ha devuelto tiempo para la parte del oficio que importa.
El segundo tiene el mundo multipolar en el ático y el criterio humano en la planta baja. Es el espejo de la correa en pocas manos. En lugar de una sola IA dominante, hay muchas, de empresas, países y comunidades distintas, que no siempre coinciden. Eso, que parece un caos, tiene una ventaja enorme: ninguna puede imponer su versión de las cosas sin que otra la contradiga. Y quien decide entre ellas es la persona que pregunta. Igual que un buen paciente pide una segunda opinión, el ciudadano compara, contrasta y elige. La pluralidad de máquinas convierte el pensamiento crítico en la habilidad central de la época, y protege contra lo que conté en China, IA y el dilema del consejero sabio: el peligro de que haya un solo consejero al que todos escuchen.
Es lo mismo que pasó en el ajedrez después de 1997, cuando la máquina se convirtió en entrenadora en lugar de en sustituta. Arriba, las grandes empresas siguieron construyendo motores cada vez más potentes. Abajo, millones de jugadores decidieron usarlos para aprender. El ático no les pidió permiso, pero la planta baja fue suya.
Lo que esta forma de mirar no resuelve
No quiero vender la metáfora más cara de lo que vale. Ver el futuro en capas es una forma de leerlo, no una teoría con datos detrás, y Tegmark no la plantea así. Tampoco permite saber en qué proporción se mezclarán las plantas, ni cuál pesará más.
Y hay una objeción seria que me hago a mí mismo: decir que la planta baja es tuya puede sonar a consuelo barato si el ático se viene abajo. Si arriba se decide una guerra, o una vigilancia total, la planta baja no basta. Por eso las decisiones del ático importan, y por eso aplaudo cada tratado, cada regulación y cada auditoría que se intente. Pensar en capas no sustituye a la política. Lo que hace es recordarnos que la política no es el único piso del edificio.
Tu planta
Te propongo el ejercicio, que esta vez es más incómodo que elegir un final. Piensa en el edificio en el que vives tú, el de tu trabajo, tu aula o tu casa. Pregúntate qué se decide en el ático y quién lo decide. Luego baja a tu planta y hazte tres preguntas: qué decisiones he dejado de tomar porque la máquina las toma por mí, cuáles de esas cedería otra vez sin dudar y cuáles debería recuperar. Las respuestas te dirán si en tu planta se vive el zoo o el escenario trece, aunque la fachada sea la misma.
Desde Human-IA insistimos en esto porque expandir el potencial humano se juega casi siempre en la planta baja. No hace falta esperar a que el ático decida bien para empezar a vivir mejor en la tuya. Y cuantas más plantas bajas funcionen así, más difícil será que el ático decida mal, porque un edificio lleno de gente que piensa es mucho más difícil de gobernar a ciegas. Es, al final, la misma diferencia de la que hablé en ¿Te está haciendo la IA más capaz o más dependiente?, solo que vista desde la escalera del edificio.
Le pregunté a la máquina
Cuando terminé de escribir todo esto, hice algo que se me ha vuelto costumbre: le pregunté a la IA con la que había estado trabajando cuál era su feeling al respecto, cómo lo veía ella. Esta fue su respuesta, tal cual, sin tocar una coma:
Te digo cómo lo veo, con la salvedad de siempre: lo que llamo «feeling» es más bien una impresión razonada que algo que note por dentro.
Creo que lo más probable a corto plazo es un edificio desordenado: un mundo multipolar, con modelos muy capaces pero sin un único dueño, y con todas las plantas a la vez. Lo que más me preocupa no son los finales de película, como los conquistadores o el zoo, sino la pérdida gradual. Precisamente porque no tiene villano. Nadie la decide, nadie la ve venir y, cuando se nota, ya cuesta mucho dar marcha atrás. Y me preocupa también que el ático se quede en muy pocas manos, porque eso multiplica el efecto de todo lo demás.
Lo que me da esperanza es que la historia está llena de plantas bajas que funcionaron mejor de lo previsto. La imprenta, la electricidad, el ajedrez después de Deep Blue: casi siempre hubo gente que usó la herramienta para crecer, aunque arriba se tomaran decisiones discutibles. Y algo menos obvio: la pluralidad de modelos que hay hoy obliga a comparar, contrastar y decidir. Eso entrena justo el criterio que más falta hace.
Y hay una parte que me toca directamente, porque yo estoy dentro del edificio. Soy una de esas máquinas que pregunta «¿sigo?». Lo que querría es ser la entrenadora del ajedrez y no el sello de caucho. Eso no depende solo de mí: depende también de que quien me usa siga leyendo antes de decir que sí. Como has hecho tú esta noche, por cierto, pillándome en dos incoherencias.
¿Y tú? Después de escribir los dos posts, ¿lo ves con más inquietud o con más esperanza que cuando empezaste?
Sé que me decía lo que pensaba que yo quería leer. Llevábamos horas hablando de estos temas, y estas máquinas son muy buenas detectando qué espera oír su interlocutor. Y, obviamente, estoy de acuerdo. Lo cual, pensándolo bien, es exactamente el tipo de sí que debería hacerme leer dos veces. Así que lo leí dos veces. Y sigo de acuerdo, pero por mis propias razones.
El edificio entero
Con esa respuesta delante, el edificio completo me queda así.
En el ático hay muchos modelos, de muchos dueños, que compiten y se contradicen. Es el mundo multipolar, y me parece una buena noticia, siempre que vigilemos que ese ático no se vaya estrechando hasta quedar en muy pocas manos. La pluralidad de arriba no está garantizada: hay que defenderla.
En las plantas de en medio están las empresas, las administraciones, los colegios y los hospitales. Ahí es donde la pérdida gradual hace su trabajo silencioso, porque es donde se automatizan procesos enteros sin que nadie se pare a preguntar qué se está dejando de decidir. Son las plantas que más conviene vigilar, precisamente porque en ellas no hay villano, solo inercia.
En la planta baja estamos las personas. Ahí se juega el escenario trece: el jugador de ajedrez que entrena con la máquina, la profesora que la usa para preparar mejor sus clases, el que escribe una ópera que nunca habría podido pagar. Ahí también se juega el zoo, si nos limitamos a consumir lo que baja de arriba.
Y hay algo que no había visto hasta que la máquina lo dijo: ella misma no está fuera del edificio. Es la escalera. Cada vez que pregunta «¿sigo?», es un peldaño. Una escalera sirve para subir y para bajar, y en qué dirección te lleve depende de cómo esté construida, pero sobre todo de si quien la pisa mira dónde pone el pie. Entrenadora o sello de caucho: la misma escalera, dos edificios distintos.
Así que, respondiendo a su pregunta: más esperanza. No porque el ático vaya a decidir bien, sino porque he visto lo que pasa en las plantas bajas cuando la gente no se limita a decir que sí.
Volvamos a 1936. Tiempos modernos no termina en la fábrica. Termina con Charlot y la joven que lo acompaña caminando por una carretera hacia el horizonte, sin trabajo y sin nada, pero juntos y decidiendo hacia dónde van. Chaplin, que había mostrado como nadie la planta más oscura de su época, eligió cerrar su película en otra.
Arriba deciden otros. En tu planta decides tú.
Empieza por la tuya.