No se deje engañar: los LLM no razonan

Diez años después de la histórica victoria de AlphaGo contra el campeón de Go Lee Sedol, el panorama de la inteligencia artificial ha cambiado, pero los sistemas modernos siguen siendo fundamentalmente diferentes de la arquitectura que permitió aquel triunfo. Aunque los Grandes Modelos de Lenguaje (LLM) actuales muestran una fluidez impresionante, carecen de las capacidades de razonamiento genuinas que permitieron a AlphaGo ejecutar su legendario 'Movimiento 37'. Esta distinción es crítica a medida que avanzamos hacia el despliegue de la IA en campos de alto riesgo como la medicina y la investigación científica, donde la precisión y la lógica auditable son primordiales para la seguridad y la fiabilidad.

El éxito de AlphaGo se basó en una arquitectura de sistema dual: una red de políticas para la intuición y un mecanismo de búsqueda para la deliberación. El programa evaluó millones de futuros potenciales, construyendo un árbol de juego para sopesar las consecuencias antes de comprometerse con un movimiento. Por el contrario, los LLM actuales operan principalmente como pensadores del 'Sistema 1': rápidos, asociativos y basados en patrones. Predicen el siguiente token en una secuencia, lo que proporciona una ilusión de inteligencia pero no logra replicar la deliberación profunda y paso a paso necesaria para la resolución de problemas en entornos complejos del mundo real.

Históricamente, el progreso de la IA se definió por la búsqueda de fuerza bruta, como se vio en la victoria de Deep Blue en el ajedrez. AlphaGo evolucionó esto combinando la intuición con la búsqueda, reflejando los modos cognitivos humanos popularizados por Daniel Kahneman. Sin embargo, la tendencia actual de escalar los LLM se centra en aumentar el tamaño de los modelos del 'Sistema 1'. Este enfoque agudiza la intuición pero no añade intrínsecamente los procesos de razonamiento deliberativo y auditable necesarios para garantizar que los resultados de la máquina sean fiables, verificables y basados en pruebas en lugar de meras probabilidades estadísticas.

Esta falta de razonamiento estructural plantea riesgos significativos. Los chatbots actuales a menudo generan 'cadenas de pensamiento' que se inventan después del hecho, en lugar de servir como una hoja de ruta genuina de cómo llegaron a una conclusión. En sectores como la ingeniería o el diagnóstico clínico, esta opacidad es peligrosa. Si un sistema no puede proporcionar una secuencia auditable de pruebas, inferencias y revisión de creencias, es imposible identificar la fuente de los errores, lo que lo hace inadecuado para la toma de decisiones críticas donde están en juego vidas humanas o la integridad sistémica.

Para avanzar, debemos adoptar un nuevo enfoque que integre la arquitectura de AlphaGo en los sistemas de razonamiento general. Al mantener un estado epistémico explícito (un registro de lo que se sabe, se duda y se descarta), la IA puede pasar de la simple finalización de patrones a la investigación científica genuina. Los sistemas futuros deben ser capaces de evaluar sus propios movimientos frente a las pruebas, asegurando que cada conclusión esté respaldada por un proceso riguroso y transparente. Solo entonces podremos construir una IA que realmente haga avanzar el conocimiento humano.