Lassen Sie sich nicht täuschen: LLMs denken nicht logisch

Zehn Jahre nach dem historischen Sieg von AlphaGo gegen den Go-Champion Lee Sedol hat sich die Landschaft der künstlichen Intelligenz verändert, doch moderne Systeme unterscheiden sich grundlegend von der Architektur, die diesen Sieg ermöglichte. Während heutige Large Language Models (LLMs) eine beeindruckende Sprachgewandtheit zeigen, fehlen ihnen die echten logischen Fähigkeiten, die es AlphaGo ermöglichten, seinen legendären 'Zug 37' auszuführen. Diese Unterscheidung ist entscheidend, da wir darauf hinarbeiten, KI in risikoreichen Bereichen wie der Medizin und der wissenschaftlichen Forschung einzusetzen, wo Genauigkeit und nachvollziehbare Logik für Sicherheit und Zuverlässigkeit von größter Bedeutung sind.

Der Erfolg von AlphaGo beruhte auf einer Architektur mit zwei Systemen: einem Policy-Netzwerk für Intuition und einem Suchmechanismus für Überlegungen. Das Programm bewertete Millionen potenzieller Zukünfte und konstruierte einen Spielbaum, um die Konsequenzen abzuwägen, bevor es sich auf einen Zug festlegte. Im Gegensatz dazu arbeiten aktuelle LLMs hauptsächlich als 'System 1'-Denker – schnell, assoziativ und musterbasiert. Sie sagen das nächste Token in einer Sequenz voraus, was eine Illusion von Intelligenz vermittelt, aber die tiefe, schrittweise Überlegung, die für die Problemlösung in komplexen realen Umgebungen erforderlich ist, nicht replizieren kann.

Historisch gesehen wurde der Fortschritt der KI durch Brute-Force-Suche definiert, wie beim Sieg von Deep Blue im Schach zu sehen war. AlphaGo entwickelte dies weiter, indem es Intuition mit Suche kombinierte, was die von Daniel Kahneman populär gemachten menschlichen kognitiven Modi widerspiegelt. Der aktuelle Trend zur Skalierung von LLMs konzentriert sich jedoch auf die Vergrößerung der 'System 1'-Modelle. Dieser Ansatz schärft die Intuition, fügt aber nicht von Natur aus die deliberativen, überprüfbaren Denkprozesse hinzu, die notwendig sind, um sicherzustellen, dass die Ergebnisse der Maschine vertrauenswürdig, verifizierbar und auf Beweisen statt auf bloßen statistischen Wahrscheinlichkeiten basieren.

Dieser Mangel an strukturellem Denken birgt erhebliche Risiken. Aktuelle Chatbots generieren oft 'Gedankengänge', die erst im Nachhinein erfunden werden, anstatt als echter Fahrplan für die Schlussfolgerung zu dienen. In Sektoren wie dem Ingenieurwesen oder der klinischen Diagnose ist diese Undurchsichtigkeit gefährlich. Wenn ein System keine überprüfbare Abfolge von Beweisen, Schlussfolgerungen und Überarbeitungen von Überzeugungen liefern kann, ist es unmöglich, die Quelle von Fehlern zu identifizieren, was es für kritische Entscheidungen, bei denen Menschenleben oder die systemische Integrität auf dem Spiel stehen, ungeeignet macht.

Um voranzukommen, müssen wir einen neuen Ansatz verfolgen, der die Architektur von AlphaGo in allgemeine logische Systeme integriert. Durch die Aufrechterhaltung eines expliziten epistemischen Zustands – eine Aufzeichnung dessen, was bekannt, bezweifelt und ausgeschlossen ist – kann KI von der einfachen Mustervervollständigung zur echten wissenschaftlichen Untersuchung übergehen. Zukünftige Systeme müssen in der Lage sein, ihre eigenen Züge anhand von Beweisen zu bewerten und sicherzustellen, dass jede Schlussfolgerung durch einen strengen und transparenten Prozess gestützt wird. Nur dann können wir eine KI aufbauen, die das menschliche Wissen wirklich voranbringt.