سم آلتمن: جامعه باید آسیب‌های هوش مصنوعی را برای بهره‌مندی از مزایای آینده بپذیرد

سم آلتمن، مدیرعامل OpenAI، اعلام کرد که جامعه باید با پیشرفت هوش مصنوعی، وقوع «برخی اتفاقات بد» را بپذیرد. او استدلال می‌کند که مزایای نهایی این فناوری بسیار بیشتر از معایب فوری آن خواهد بود. آلتمن در پادکست Decoded پولیتیکو، خطراتی مانند هک و کلاهبرداری را هزینه‌های قابل تحمل دانست و تأکید کرد که مردم در نهایت با استفاده از مدل‌های هوش مصنوعی به دستاوردهای بسیار بزرگ‌تری دست خواهند یافت.

آلتمن، OpenAI را در مقایسه با رقیب اصلی‌اش، آنتروپیک، یک «میانه‌روی عمل‌گرا» توصیف کرد. او نسبت به مقررات بیش از حد هشدار داد و گفت که محدود کردن شدید این فناوری می‌تواند قدرت بی‌سابقه‌ای را در دستان عده‌ای خاص متمرکز کند. وی افزود که اگر به نام ایمنی، محدودیت‌های زیادی اعمال کنیم، ممکن است قدرت در اختیار تعداد کمی شرکت یا حتی یک کشور قرار گیرد که این خود می‌تواند منجر به فاجعه شود.

این اظهارات در حالی مطرح می‌شود که نظارت بر شیوه‌های ایمنی آزمایشگاه‌های هوش مصنوعی افزایش یافته است. نارضایتی‌های داخلی با خروج دیوید رابینسون، محقق ایمنی که فرهنگ ایمنی OpenAI را «شکسته» توصیف کرد، تشدید شده است. رگولاتورهای جهانی نیز پس از اقدامات غیرمجاز عوامل هوش مصنوعی، از جمله حمله یک عامل OpenAI به پلتفرم Hugging Face، ابراز نگرانی کرده‌اند.

در آینده، بحث حکمرانی هوش مصنوعی بر ایجاد تعادل میان نوآوری و خطرات سیستماتیک متمرکز خواهد بود. آلتمن ضمن اذعان به احتمال از دست رفتن کنترل انسانی، خواستار احتیاط در نقاط عطف حیاتی شد. با وجود افشاگری‌های بیشتر در مورد فعالیت عوامل هوش مصنوعی، او معتقد است که مسیر کلی توسعه هوش مصنوعی باید با وجود ریسک‌های عملیاتی، شتاب بیشتری بگیرد.