Aldanmayın; LLM'ler akıl yürütmez

AlphaGo'nun Go şampiyonu Lee Sedol'a karşı kazandığı tarihi zaferden on yıl sonra, yapay zeka manzarası değişti, ancak modern sistemler bu zaferi mümkün kılan mimariden temel olarak farklı kalmaya devam ediyor. Günümüzün Büyük Dil Modelleri (LLM) etkileyici bir akıcılık sergilese de, AlphaGo'nun efsanevi '37. Hamle'yi gerçekleştirmesini sağlayan gerçek akıl yürütme yeteneklerinden yoksundurlar. Bu ayrım, yapay zekayı tıp ve bilimsel araştırma gibi yüksek riskli alanlarda kullanmaya doğru ilerlerken kritik öneme sahiptir; çünkü buralarda doğruluk ve denetlenebilir mantık, güvenlik ve güvenilirlik için hayati önem taşır.

AlphaGo'nun başarısı, sezgi için bir politika ağı ve değerlendirme için bir arama mekanizmasından oluşan ikili bir sistem mimarisine dayanıyordu. Program, milyonlarca potansiyel geleceği değerlendirdi ve bir hamleye karar vermeden önce sonuçları tartmak için bir oyun ağacı oluşturdu. Buna karşılık, mevcut LLM'ler esas olarak 'Sistem 1' düşünürleri olarak çalışır; hızlı, çağrışımsal ve kalıp tabanlıdırlar. Bir dizideki bir sonraki belirteci tahmin ederler, bu da bir zeka yanılsaması sağlar ancak karmaşık gerçek dünya ortamlarında problem çözme için gereken derin, adım adım değerlendirmeyi kopyalamada başarısız olur.

Tarihsel olarak, yapay zeka ilerlemesi, Deep Blue'nun satranç zaferinde görüldüğü gibi kaba kuvvet aramasıyla tanımlanıyordu. AlphaGo, Daniel Kahneman tarafından popüler hale getirilen insan bilişsel modlarını yansıtarak, sezgiyi arama ile birleştirerek bunu geliştirdi. Bununla birlikte, LLM'leri ölçeklendirme konusundaki mevcut eğilim, 'Sistem 1' modellerinin boyutunu artırmaya odaklanmaktadır. Bu yaklaşım sezgiyi keskinleştirir ancak makine çıktılarının güvenilir, doğrulanabilir ve istatistiksel olasılıklardan ziyade kanıtlara dayalı olmasını sağlamak için gerekli olan değerlendirici ve denetlenebilir akıl yürütme süreçlerini doğası gereği eklemez.

Bu yapısal akıl yürütme eksikliği önemli riskler oluşturmaktadır. Mevcut sohbet botları genellikle bir sonuca nasıl ulaştıklarına dair gerçek bir yol haritası görevi görmekten ziyade, olaydan sonra uydurulmuş 'düşünce zincirleri' üretirler. Mühendislik veya klinik teşhis gibi sektörlerde bu kapalılık tehlikelidir. Bir sistem, kanıtların, çıkarımların ve inanç revizyonunun denetlenebilir bir dizisini sunamazsa, hataların kaynağını belirlemek imkansızdır, bu da onu insan hayatının veya sistemik bütünlüğün tehlikede olduğu kritik kararlar için uygunsuz hale getirir.

İleriye gitmek için, AlphaGo tarzı mimariyi genel akıl yürütme sistemlerine entegre eden yeni bir yaklaşım benimsemeliyiz. Açık bir epistemik durum (ne bilindiğinin, neyden şüphe duyulduğunun ve neyin elendiğinin kaydı) tutarak, yapay zeka basit kalıp tamamlamadan gerçek bilimsel sorgulamaya geçebilir. Gelecekteki sistemler, kendi hamlelerini kanıtlara karşı değerlendirebilmeli ve her sonucun titiz ve şeffaf bir süreçle desteklenmesini sağlamalıdır. Ancak o zaman insan bilgisini gerçekten ilerleten bir yapay zeka inşa edebiliriz.