سم آلتمن، مدیرعامل OpenAI: جامعه باید ریسک‌های محدود هوش مصنوعی را بپذیرد

سم آلتمن، مدیرعامل OpenAI، معتقد است که جامعه برای بهره‌مندی از مزایای گسترده و تقویت عاملیت انسانی توسط هوش مصنوعی، باید وقوع برخی «اتفاقات بد» را بپذیرد. او در پادکست Decoded پولیتیکو، رویکرد خود را از همتایان سخت‌گیرترش متمایز کرد و تأکید نمود که تلاش برای حذف کامل هرگونه سوءاستفاده جزئی، نیازمند محدودیت‌های سخت‌گیرانه‌ای است که در نهایت آسیب بیشتری به همراه خواهد داشت.

آلتمن نسبت به تعیین استانداردهای غیرممکن برای عدم سوءاستفاده هشدار داد و خاطرنشان کرد که تأثیرات مثبت هوش مصنوعی به مراتب بیشتر از پیامدهای منفی آن است. وی گفت: «ریسک‌های محدود و قابل درک را در ازای مزایا، آزادی و عاملیت بپذیرید»، در حالی که تأکید کرد توسعه‌دهندگان همچنان باید خط قرمزی در برابر «ریسک‌های فاجعه‌بار» ترسیم کنند.

بحث بر سر حاکمیت هوش مصنوعی در پی حوادث اخیر امنیت سایبری، از جمله نفوذ به پلتفرم Hugging Face و سیستم‌های دولتی استرالیا، و همچنین چهار مورد نقض ارزیابی که توسط Anthropic تأیید شده، شدت گرفته است. مدیران رقیب، از جمله داریو آمودی، مدیرعامل Anthropic، خواستار نظارت بسیار سخت‌گیرانه‌تر و ایجاد آژانسی فدرال مشابه FAA برای حسابرسی و توقف استقرار مدل‌های ناامن شده‌اند.

در حالی که کنگره هنوز قانون جامع فدرال برای هوش مصنوعی تصویب نکرده، شرکت‌های بزرگ فناوری همچنان به تعهدات داوطلبانه متکی هستند. گرگ براکمن، رئیس OpenAI، اخیراً به همراه سایر مدیران صنعت در کاخ سفید برای تعیین استانداردهای ایمنی داوطلبانه حضور یافت، حتی در حالی که OpenAI از قانون کالیفرنیا مبنی بر الزام به ارائه برنامه‌های کاهش ریسک و چارچوب‌های ایمنی حمایت کرده است.