فریب نخورید؛ مدل‌های زبانی بزرگ استدلال نمی‌کنند

ده سال پس از پیروزی تاریخی آلفاگو در برابر لی سدول، قهرمان بازی گو، چشم‌انداز هوش مصنوعی تغییر کرده است، اما سیستم‌های امروزی همچنان با معماری که آن پیروزی را ممکن ساخت، تفاوت بنیادی دارند. در حالی که مدل‌های زبانی بزرگ (LLM) امروزی تسلط کلامی چشمگیری از خود نشان می‌دهند، فاقد قابلیت‌های استدلالی واقعی هستند که به آلفاگو اجازه داد «حرکت ۳۷» افسانه‌ای خود را اجرا کند. این تمایز در حالی که به سمت استقرار هوش مصنوعی در حوزه‌های حساس مانند پزشکی و تحقیقات علمی حرکت می‌کنیم، حیاتی است؛ جایی که دقت و منطق قابل حسابرسی برای ایمنی و قابلیت اطمینان بسیار مهم است.

موفقیت آلفاگو بر یک معماری دو سیستمی متکی بود: یک شبکه سیاست برای شهود و یک مکانیسم جستجو برای تامل. این برنامه میلیون‌ها آینده احتمالی را ارزیابی کرد و یک درخت بازی ساخت تا قبل از متعهد شدن به یک حرکت، پیامدها را بسنجد. در مقابل، مدل‌های زبانی بزرگ فعلی عمدتاً به عنوان متفکران «سیستم ۱» عمل می‌کنند؛ سریع، تداعی‌گر و مبتنی بر الگو. آن‌ها توکن بعدی را در یک دنباله پیش‌بینی می‌کنند که توهم هوش را ایجاد می‌کند اما در تکرار تامل عمیق و گام‌به‌گام مورد نیاز برای حل مسئله در محیط‌های پیچیده دنیای واقعی شکست می‌خورد.

از نظر تاریخی، پیشرفت هوش مصنوعی با جستجوی نیروی خام تعریف می‌شد، همانطور که در پیروزی شطرنج دیپ بلو دیده شد. آلفاگو این روند را با ترکیب شهود و جستجو تکامل داد و حالت‌های شناختی انسان که توسط دانیل کانمن محبوب شد را منعکس کرد. با این حال، روند فعلی مقیاس‌بندی مدل‌های زبانی بر افزایش اندازه مدل‌های «سیستم ۱» متمرکز است. این رویکرد شهود را تقویت می‌کند اما ذاتاً فرآیندهای استدلالی تامل‌برانگیز و قابل بررسی را که برای اطمینان از قابل اعتماد بودن، قابل تایید بودن و مبتنی بودن خروجی‌های ماشین بر شواهد به جای احتمالات آماری صرف ضروری است، اضافه نمی‌کند.

این فقدان استدلال ساختاری خطرات قابل توجهی را به همراه دارد. چت‌بات‌های فعلی اغلب «زنجیره‌های فکری» تولید می‌کنند که پس از وقوع ساخته شده‌اند، نه اینکه به عنوان نقشه راه واقعی برای چگونگی رسیدن به نتیجه عمل کنند. در بخش‌هایی مانند مهندسی یا تشخیص بالینی، این عدم شفافیت خطرناک است. اگر سیستمی نتواند توالی قابل حسابرسی از شواهد، استنتاج و بازنگری باورها ارائه دهد، شناسایی منبع خطاها غیرممکن است و آن را برای تصمیم‌گیری‌های حیاتی که در آن جان انسان‌ها یا یکپارچگی سیستم در خطر است، نامناسب می‌کند.

برای حرکت به جلو، باید رویکرد جدیدی را اتخاذ کنیم که معماری سبک آلفاگو را در سیستم‌های استدلال عمومی ادغام کند. با حفظ یک وضعیت معرفتی صریح - سوابقی از آنچه شناخته شده، مورد تردید و رد شده است - هوش مصنوعی می‌تواند از تکمیل الگوی ساده به تحقیق علمی واقعی تبدیل شود. سیستم‌های آینده باید بتوانند حرکات خود را در برابر شواهد ارزیابی کنند و اطمینان حاصل کنند که هر نتیجه‌گیری با یک فرآیند دقیق و شفاف پشتیبانی می‌شود. تنها در این صورت است که می‌توانیم هوش مصنوعی بسازیم که واقعاً دانش بشری را ارتقا دهد.