Ne vous y trompez pas : les LLM ne raisonnent pas

Dix ans après la victoire historique d'AlphaGo contre le champion de Go Lee Sedol, le paysage de l'intelligence artificielle a changé, mais les systèmes modernes restent fondamentalement différents de l'architecture qui a permis cette victoire. Bien que les grands modèles de langage (LLM) actuels fassent preuve d'une fluidité impressionnante, ils manquent des capacités de raisonnement authentiques qui ont permis à AlphaGo d'exécuter son légendaire 'coup 37'. Cette distinction est cruciale alors que nous envisageons de déployer l'IA dans des domaines à enjeux élevés comme la médecine et la recherche scientifique, où la précision et une logique vérifiable sont primordiales pour la sécurité et la fiabilité.

Le succès d'AlphaGo reposait sur une architecture à double système : un réseau de politique pour l'intuition et un mécanisme de recherche pour la délibération. Le programme a évalué des millions de futurs potentiels, construisant un arbre de jeu pour peser les conséquences avant de s'engager dans un mouvement. En revanche, les LLM actuels fonctionnent principalement comme des penseurs du 'Système 1' : rapides, associatifs et basés sur des modèles. Ils prédisent le jeton suivant dans une séquence, ce qui donne une illusion d'intelligence mais ne parvient pas à reproduire la délibération profonde et étape par étape nécessaire à la résolution de problèmes dans des environnements complexes du monde réel.

Historiquement, le progrès de l'IA était défini par la recherche par force brute, comme on l'a vu avec la victoire de Deep Blue aux échecs. AlphaGo a fait évoluer cela en combinant l'intuition et la recherche, reflétant les modes cognitifs humains popularisés par Daniel Kahneman. Cependant, la tendance actuelle à la mise à l'échelle des LLM se concentre sur l'augmentation de la taille des modèles du 'Système 1'. Cette approche aiguise l'intuition mais n'ajoute pas intrinsèquement les processus de raisonnement délibératif et vérifiable nécessaires pour garantir que les résultats de la machine sont dignes de confiance, vérifiables et fondés sur des preuves plutôt que sur de simples probabilités statistiques.

Ce manque de raisonnement structurel pose des risques importants. Les chatbots actuels génèrent souvent des 'chaînes de pensée' qui sont concoctées après coup, plutôt que de servir de véritable feuille de route sur la façon dont ils sont parvenus à une conclusion. Dans des secteurs comme l'ingénierie ou le diagnostic clinique, cette opacité est dangereuse. Si un système ne peut pas fournir une séquence vérifiable de preuves, d'inférences et de révision des croyances, il est impossible d'identifier la source des erreurs, ce qui le rend inadapté aux décisions critiques où des vies humaines ou l'intégrité systémique sont en jeu.

Pour aller de l'avant, nous devons adopter une nouvelle approche qui intègre l'architecture d'AlphaGo dans les systèmes de raisonnement général. En maintenant un état épistémique explicite (un enregistrement de ce qui est connu, mis en doute et exclu), l'IA peut passer de la simple complétion de modèles à une véritable recherche scientifique. Les systèmes futurs doivent être capables d'évaluer leurs propres mouvements par rapport aux preuves, garantissant que chaque conclusion est étayée par un processus rigoureux et transparent. Ce n'est qu'alors que nous pourrons construire une IA qui fait réellement progresser les connaissances humaines.