یک کارمند ایمنی OpenAI استعفا داد و زنگ خطر را به صدا درآورد

دیوید رابینسون، نویسنده سابق گزارش‌های ایمنی در OpenAI، به طور رسمی از سمت خود استعفا داد و فرهنگ سازمانی این شرکت پیشرو در هوش مصنوعی را عمیقاً شکست‌خورده توصیف کرد. خروج او لحظه‌ای مهم در بحث‌های جاری پیرامون اخلاق و پروتکل‌های ایمنی حاکم بر توسعه سریع مدل‌های هوش مصنوعی مرزی است. رابینسون که مسئولیت تدوین مستندات ایمنی همراه با انتشار محصولات اصلی را بر عهده داشت، تصمیم گرفته است سکوت خود را از طریق یک سرمقاله مفصل در آتلانتیک بشکند و هشدار دهد که مسیر فعلی صنعت ناپایدار و بالقوه خطرناک است.

رابینسون تأکید می‌کند که مشکلات در OpenAI فراتر از انطباق ساده با مقررات یا اصلاحات جزئی در سیاست‌ها است. او محیطی را توصیف می‌کند که با 'اعتماد به نفس افراطی' و 'سرعت‌های دائمی' مشخص می‌شود، جایی که انگیزه برای ساخت مدل‌های بزرگ‌تر و قدرتمندتر با 'خوش‌بینی بی‌وقفه' تغذیه می‌شود که به طور مداوم خطرات سیستمیک را نادیده می‌گیرد یا دست‌کم می‌گیرد. او استدلال می‌کند که اخلاق فعلی صنعت که سرعت را بر احتیاط ترجیح می‌دهد، با اهمیت فناوری در حال توسعه ناسازگار است و نشان می‌دهد که فرهنگ داخلی نه تنها ناقص، بلکه برای ایمنی بلندمدت مضر است.

از نظر تاریخی، فلسفه 'سریع حرکت کن و چیزها را بشکن' مشخصه سیلیکون‌ولی بوده و نوآوری سریع در نرم‌افزار و خدمات اینترنتی را ممکن ساخته است. با این حال، رابینسون معتقد است که این رویکرد برای توسعه هوش مصنوعی به طرز خطرناکی نامناسب است. او مقایسه‌ای تند با صنایع پرمخاطره انجام می‌دهد و پیشنهاد می‌کند که آزمایشگاه‌های هوش مصنوعی مرزی باید با دقت نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ فعالیت کنند. این بخش‌ها به لایه‌هایی از افزونگی، برنامه‌ریزی دقیق و فرهنگ تواضع متکی هستند تا اطمینان حاصل کنند که خطای انسانی به شکست فاجعه‌بار تبدیل نمی‌شود، استانداردی که او معتقد است در حال حاضر در هوش مصنوعی وجود ندارد.

استعفای رابینسون بخشی از روند گسترده‌تر و نگران‌کننده خروج از شرکت‌های بزرگ هوش مصنوعی از جمله آنتروپیک و گوگل دیپ‌مایند است. چهره‌های برجسته دیگری مانند جیکوب کاکسون، رابرت اوکالاگان و بلال چغتای نیز به طور مشابه نقش‌های خود را ترک کرده‌اند و اغلب به نگرانی‌های وجودی در مورد فناوری‌هایی که به ساخت آن‌ها کمک کرده‌اند، اشاره می‌کنند. این خروج‌ها موج‌هایی را در بخش فناوری ایجاد کرده و ذینفعان را مجبور کرده است با این واقعیت روبرو شوند که کسانی که به فرآیند توسعه نزدیک‌تر هستند، به طور فزاینده‌ای از فقدان حفاظ‌های نهادی و پتانسیل پیامدهای ناخواسته نگران هستند.

با نگاه به آینده، صنعت با یک دوراهی حیاتی روبروست. کارشناسان پیشنهاد می‌کنند که بدون تغییر بنیادی به سمت شفافیت و پاسخگویی خارجی، چرخه استعفاها و هشدارها احتمالاً شتاب خواهد گرفت. آینده توسعه هوش مصنوعی ممکن است به این بستگی داشته باشد که آیا این شرکت‌ها می‌توانند از فرهنگ جاه‌طلبی کنترل‌نشده به فرهنگ تواضع نهادی تغییر جهت دهند یا خیر. اگر صنعت نتواند حفاظ‌های 'در سطح هسته‌ای' که رابینسون از آن حمایت می‌کند را پیاده‌سازی کند، خطر فاجعه همچنان یک تهدید پایدار باقی می‌ماند و احتمالاً مداخله دولت برای اجرای استانداردهای ایمنی که صنعت تاکنون در خودتنظیمی آن شکست خورده است، ضروری خواهد بود.