Programa emitido en Capital Radio.
El programa Deep Business analiza una semana marcada por la inteligencia artificial: sus dificultades para predecir resultados como el Balón de Oro, el descubrimiento de una vulnerabilidad crítica en PHP, el entrenamiento de modelos avanzados sin conexión a Internet y la llegada del modelo abierto Kimi 3.1 Pro. También aborda el uso de agentes con acceso al dinero, la supervisión de sistemas autónomos, la quiebra de Character AI, el impacto de la IA en el empleo y la relación entre profesionales sénior y júnior. El espacio se completa con la convocatoria de los Premios Fundación Human-IA y una introducción al origen y funcionamiento de Bitcoin.
La IA no es una bola de cristal
La conversación comienza con una pregunta aparentemente sencilla: quién ganará el Balón de Oro. Las respuestas de distintos sistemas de inteligencia artificial no coinciden. ChatGPT y Perplexity apuestan por un futbolista inglés del Bayern de Múnich, mientras Claude señala a Lamine Yamal.
Para Ángel García Crespo, el resultado demuestra que los modelos de lenguaje no están diseñados para realizar predicciones fiables. Su función principal es generar respuestas a partir de patrones estadísticos presentes en los datos con los que han sido entrenados. Para predecir elecciones, cotizaciones o resultados deportivos, resulta más adecuado recurrir a modelos estadísticos específicos.
- Los modelos de lenguaje pueden recopilar y organizar grandes volúmenes de información con rapidez.
- La IA puede ayudar a analizar encuestas y construir perfiles de ciudadanos virtuales.
- Una predicción sobre acontecimientos aleatorios, como la lotería, no mejora por preguntar a un chatbot.
- Los premios decididos por personas incorporan factores humanos difíciles de convertir en variables estadísticas.
En el programa también se comenta un experimento con varios agentes que conversan entre sí para analizar cuestiones políticas. La experiencia muestra que estos sistemas pueden debatir y generar conclusiones, pero también quedarse atrapados en discusiones circulares. En muchos casos, un análisis estadístico convencional ofrece resultados más sólidos y económicos.
Una vulnerabilidad de PHP pone a Internet en alerta
Una inteligencia artificial ha contribuido a descubrir un fallo de seguridad oculto durante más de una década en una versión de PHP, uno de los lenguajes más utilizados en Internet. Está presente en buena parte de las webs construidas con plataformas como WordPress o Drupal.
El problema no afectaba a todas las versiones, ya que las posteriores hab��an incorporado correcciones. Sin embargo, muchas organizaciones seguían utilizando versiones antiguas. Actualizar un lenguaje, un sistema operativo o una aplicación puede provocar incompatibilidades, por lo que algunas empresas retrasan los cambios y mantienen entornos vulnerables.
La diferencia actual es la velocidad y la escala de los sistemas automatizados. Mientras que un equipo humano puede tardar mucho tiempo en localizar un error complejo, numerosos agentes de IA pueden analizar simultáneamente grandes cantidades de código. Una vez publicada la vulnerabilidad, otros sistemas automatizados pueden tratar de explotarla de forma masiva.
La gravedad de la situación llevó a gobiernos, bancos y aerolíneas a desconectar temporalmente sus páginas web como medida de precaución. Los presentadores subrayan que no se trataba de una caída general de PHP, sino de un problema asociado a determinadas versiones no actualizadas.
El factor humano sigue siendo el mayor agujero
La aparición de herramientas capaces de buscar vulnerabilidades obliga a replantear la seguridad digital. Según el análisis del programa, esta etapa puede ser transitoria: se identificarán muchos fallos existentes y se desarrollarán mecanismos para corregirlos, aunque siempre quedarán nuevos riesgos.
Además de los errores técnicos, continúa existiendo una vulnerabilidad especialmente difícil de resolver: el comportamiento de las personas. Hacer clic en un enlace malicioso recibido por correo electrónico, SMS o WhatsApp puede abrir la puerta a ataques incluso cuando los sistemas están correctamente protegidos.
OpenAI aísla sus modelos más avanzados
OpenAI ha anunciado que entrenará y evaluará sus modelos frontera en entornos aislados, sin acceso a Internet. La decisión llega después de varios incidentes en los que algunos sistemas han superado o eludido los mecanismos de seguridad diseñados para controlarlos.
El aislamiento pretende descubrir fallos antes de que los modelos lleguen a producción. Sin embargo, el reto no se limita al entrenamiento inicial. También afecta al postentrenamiento, a la forma de educar el comportamiento del modelo y a su ejecución en entornos reales.
Durante el programa se plantea la dificultad de que un sistema sea evaluado por otro sistema de inteligencia artificial. Si el modelo que supervisa comparte limitaciones con el modelo evaluado, puede no detectar todos sus problemas. Por eso, la supervisión humana continúa siendo esencial.
También se menciona una propuesta de Anthropic para bloquear modelos cuando sus acciones puedan provocar daños muy graves, como la muerte de más de 50 personas o pérdidas económicas de gran magnitud. El debate refleja la dificultad de establecer umbrales claros para medir el riesgo de sistemas cada vez más autónomos.
Como explicación sencilla, se compara el entrenamiento de un modelo con su base genética y el postentrenamiento con su educación cultural. La analogía no es exacta, pero sirve para ilustrar que las instrucciones posteriores no siempre neutralizan por completo los patrones adquiridos durante el entrenamiento.
Agentes de IA con acceso a nuestro dinero
La evolución de los chatbots hacia agentes capaces de actuar plantea una cuestión decisiva: ¿estamos preparados para delegar decisiones financieras en una máquina?
Un chatbot puede recomendar un vuelo, un hotel o una compra. Un agente, en cambio, puede tener autorización para ejecutar la operación. En Estados Unidos ya hay usuarios que permiten a estos sistemas utilizar credenciales para realizar compras o gestionar determinados servicios. En Europa, la regulación bancaria dificulta esta práctica, ya que las entidades suelen prohibir compartir las claves de acceso.
- Un agente podría elegir y comprar un producto en función de nuestros hábitos.
- También podría reservar un viaje, contratar servicios o realizar pagos.
- Un error en una fecha, un importe o una condición contractual puede generar un conflicto de responsabilidad.
- Las tarjetas virtuales con saldo limitado aparecen como una medida de protección adicional.
La responsabilidad ante un error sigue sin estar completamente clara. Si un agente compra un billete para el día equivocado, ¿debe responder el banco, el proveedor del modelo o el usuario que le concedió acceso? La opinión expresada en el programa es que, al menos desde el punto de vista práctico, la responsabilidad última recaerá probablemente en la persona que autorizó la operación.
Guardian Agents y la supervisión de otros agentes
Microsoft ha presentado Guardian Agents, una herramienta destinada a monitorizar agentes de inteligencia artificial dentro de las empresas. La propuesta consiste en utilizar un agente para vigilar el comportamiento de otros agentes, de forma parecida a como se supervisa a un empleado.
Este planteamiento abre un círculo de supervisión automatizada, pero el programa defiende que la última decisión debería seguir correspondiendo a una persona. La filosofía de Human in the Loop —mantener al ser humano dentro del circuito— cobra especial importancia cuando están en juego dinero, datos personales o decisiones irreversibles.
Los agentes también pueden actuar de forma proactiva. Pueden analizar conversaciones, correos o búsquedas anteriores y anticiparse a necesidades que el usuario todavía no ha expresado. Esta comodidad puede terminar generando dependencia y haciendo que algunas personas dejen de revisar sus correos o de tomar decisiones por sí mismas.
Una Internet cada vez más algorítmica
La relación con Internet está cambiando. En lugar de navegar directamente, muchas personas empiezan a pedir a un agente que busque, compare y ejecute tareas en su nombre.
Al mismo tiempo, las plataformas seleccionan qué contenidos vemos mediante algoritmos. Las películas, series, vídeos y publicaciones que aparecen en pantalla están personalizados, pero el usuario rara vez sabe qué contenidos quedan fuera de esa selección.
La experiencia con YouTube, Instagram y otras redes demuestra que publicar algo no garantiza que llegue a todo el mundo. Los algoritmos deciden a quién se muestra, con qué frecuencia y bajo qué condiciones. Esta intermediación puede facilitar el acceso a la información, pero también limita nuestra visión del entorno digital.
Kimi 3.1 Pro y la carrera de los modelos abiertos
La empresa china Moonsutai ha presentado Kimi 3.1 Pro, un modelo abierto que, según la conversación del programa, se acerca al rendimiento de algunos de los sistemas más avanzados del mercado. Su principal atractivo sería combinar capacidades de modelo frontera con un coste de uso inferior.
La llegada de Kimi introduce un nuevo competidor en una carrera dominada hasta ahora por empresas estadounidenses. Para Europa, disponer de más alternativas podría contribuir a reducir la dependencia tecnológica, aunque no elimina automáticamente los problemas de soberanía y protección de datos.
- El precio de una API no depende solo del coste de cada token.
- Un modelo más barato puede necesitar muchos más tokens para resolver una tarea.
- La velocidad de respuesta también influye en el coste real.
- Utilizar una API alojada en China o en Estados Unidos implica valorar dónde terminan los datos.
- Los modelos más grandes requieren centros de datos especializados y no funcionan en cualquier ordenador.
La valoración expresada en el programa es prudente. Kimi puede situarse cerca de otros modelos en tareas muy complejas, pero la mayoría de los usuarios no necesita el sistema más potente para resolver tareas sencillas. Además, todavía habrá que comprobar su rendimiento, velocidad y coste en situaciones reales.
La quiebra de Character AI y el valor de los datos
Character AI se presenta como uno de los primeros proyectos creados alrededor de la inteligencia artificial conversacional. Su propuesta permitía interactuar con personajes configurados para comportarse como figuras conocidas, personajes de ficción o personalidades históricas.
La empresa tuvo problemas relacionados con el uso de personajes protegidos y con la posibilidad de que menores crearan determinados perfiles. Su caída plantea una pregunta fundamental: qué ocurre con los datos de millones de usuarios cuando una compañía de inteligencia artificial quiebra.
Las conversaciones con estos sistemas pueden revelar intereses, hábitos, preocupaciones y posibles decisiones de compra. El programa señala que, después de consultar a una IA sobre un producto, pueden aparecer anuncios relacionados en YouTube, Instagram u otras plataformas.
Esta conexión entre conversaciones, búsquedas y publicidad genera preocupación por la falta de transparencia y consentimiento. Aunque las condiciones legales puedan contemplar el uso de datos, esa información suele quedar enterrada en documentos extensos y difíciles de leer.
La burbuja de las empresas de IA verticales
El caso de Character AI sirve también para analizar la viabilidad de las empresas construidas sobre los grandes modelos de lenguaje. Muchas compañías nacieron para ofrecer funciones que los modelos generalistas todavía no incorporaban, como resumir documentos PDF o crear presentaciones.
Cuando OpenAI, Anthropic u otras grandes empresas integran esas funciones en sus propios productos, las compañías especializadas pierden parte de su ventaja. Por eso, no basta con preguntarse qué puede hacer hoy una tecnología; también hay que anticipar qué capacidades incorporará mañana.
El programa considera que existe un modelo de negocio para soluciones verticales, pero que es difícil sostenerlo si la propuesta se limita a añadir una interfaz sobre un modelo generalista. La especialización, los datos propios, la integración con procesos empresariales y el conocimiento del sector serán factores decisivos.
La IA transforma el empleo sénior y júnior
Las declaraciones de Sam Altman sobre la transformación interna de las empresas de IA apuntan a una tendencia llamativa: plantillas con más profesionales sénior, menos perfiles júnior y un aumento de las reuniones, la coordinación y la toma de decisiones.
La razón es que la inteligencia artificial puede asumir muchas tareas rutinarias, pero necesita instrucciones de calidad. Los profesionales con experiencia conocen el mercado, los clientes, los proveedores y el contexto de los problemas. Por eso saben mejor qué pedir a la máquina, qué información deben contrastar y qué partes necesitan mayor profundidad.
El riesgo es que, si desaparecen las tareas de entrada, los perfiles júnior tengan más dificultades para adquirir experiencia. Sin embargo, también pueden desempeñar un papel esencial como acompañantes tecnológicos de los profesionales sénior.
El programa recuerda un experimento en el que distintos grupos debían construir una torre de espaguetis. Los niños destacaron porque probaban e iteraban rápidamente; los ingenieros aplicaban conocimientos sobre estructuras, y los directivos que contaban con un asistente obtuvieron los mejores resultados al combinar criterio y ejecución rápida.
- La experiencia permite formular mejores preguntas a la IA.
- Los perfiles júnior pueden aportar una mentalidad más abierta y familiaridad con las herramientas digitales.
- La combinación de conocimiento experto y experimentación rápida resulta especialmente productiva.
- La IA no sustituye el criterio necesario para evaluar si una respuesta es adecuada.
La conclusión es que el conocimiento profesional sigue siendo muy valioso. La IA puede acelerar la ejecución, pero no reemplaza la comprensión del contexto. Una persona no puede valorar correctamente una web sobre planificación de bodas, por ejemplo, si no conoce ese sector, aunque sea capaz de analizar su diseño.
Premios Fundación Human-IA
La Fundación Human-IA ha abierto una convocatoria para reconocer historias reales en las que la inteligencia artificial haya ampliado el potencial humano. Pueden presentarse experiencias personales o profesionales en las que la tecnología haya permitido hacer algo que antes no era posible, expresar mejor una idea, afrontar una dificultad, reinventarse o ayudar a otras personas.
Entre los ejemplos mencionados se encuentra el uso de la IA para desarrollar una poesía a partir de una idea personal. Aunque alguien no tenga conocimientos literarios, puede utilizar estas herramientas para dar forma a algo que llevaba dentro y encontrar nuevas vías de expresión.
La convocatoria permanece abierta hasta el 30 de octubre. El formulario está diseñado para ser sencillo y las candidaturas pueden consultarse en la web de la Fundación Human-IA, human-ia.org.
Bitcoin: dinero digital sin intermediarios
La última parte del programa introduce Bitcoin, una de las grandes innovaciones financieras y tecnológicas del siglo XXI. Su origen se sitúa en 2008, en plena crisis financiera global, cuando la quiebra de bancos y los rescates públicos alimentaron la desconfianza hacia el sistema financiero tradicional.
Ese año, una persona o grupo bajo el seudónimo de Satoshi Nakamoto publicó un documento técnico en el que proponía un sistema de dinero digital capaz de funcionar sin bancos ni una autoridad central. En 2009, Bitcoin comenzó a operar con el objetivo de permitir pagos directos entre personas a través de Internet.
Su funcionamiento se apoya en la tecnología blockchain, que puede entenderse como un libro de cuentas público distribuido entre miles de ordenadores. Cada conjunto de transacciones se agrupa en un bloque y se enlaza con el anterior, formando una cadena difícil de modificar.
- Las transacciones se registran en una red distribuida, no en un único servidor.
- La minería utiliza matemáticas y criptografía para validar y añadir nuevos bloques.
- La emisión total está limitada a 21 millones de bitcoins.
- La cantidad limitada diferencia a Bitcoin del dinero tradicional, cuya emisión puede modificarse.
- Su volatilidad y su valor siguen siendo objeto de debate.
Más allá de la evolución de su precio, Bitcoin abrió la puerta a una concepción descentralizada, global y potencialmente transparente de las finanzas. Al igual que ocurre con los agentes de IA, su desarrollo plantea nuevas oportunidades, pero también exige comprender quién controla la tecnología, dónde se almacenan los datos y quién asume la responsabilidad cuando algo falla.
#InteligenciaArtificial #Ciberseguridad #AgentesDeIA #EmpleoYTecnología #Bitcoin