هشدار کارشناسان سابق فناوری به قانون‌گذاران نیویورک درباره خطرات فاجعه‌بار هوش مصنوعی

پژوهشگران سابق شرکت‌های پیشرو هوش مصنوعی روز دوشنبه در شورای شهر نیویورک شهادت دادند و هشدار دادند که احتمال از دست دادن کنترل انسان بر مدل‌های پیشرفته به طور فزاینده‌ای در حال افزایش است. این جلسه نادر که با حضور تمامی ۵۱ عضو شورا برگزار شد، به بررسی قوانین نظارتی گسترده اختصاص داشت. کارکنان سابق OpenAI، Anthropic و گوگل دیپ‌مایند تأکید کردند که رویه‌های ایمنی فعلی برای مدیریت این فناوری که به سرعت در حال تکامل است، به طرز خطرناکی ناکافی هستند.

جیکوب کاکسون، پژوهشگر سابق OpenAI و Anthropic، اظهار داشت که با روند فعلی، احتمال از دست دادن کنترل هوش مصنوعی بیش از حفظ آن است که می‌تواند به انقراض بشر منجر شود. دنیل کوکوتایلو، مدیر اجرایی پروژه آینده هوش مصنوعی، اقدامات ایمنی فعلی را به «نوار چسبی که بعداً جدا می‌شود» تشبیه کرد. الکس ترنر، از گوگل دیپ‌مایند، احتمال تسلط هوش مصنوعی را حدود یک در سه برآورد کرد و آن را تهدیدی وجودی‌تر از رقبای خارجی دانست.

این پژوهشگران از فرهنگ «سریع حرکت کن و همه چیز را بشکن» در بخش فناوری انتقاد کردند. ترنر خروج خود از دیپ‌مایند را به دلیل قرارداد پنتاگون و نادیده گرفتن نظارت‌های ایمنی عنوان کرد. نمایندگان شرکت‌های بزرگ ضمن دفاع از اقدامات خود، اعتراف کردند که پیش‌بینی‌های فاجعه‌بار فاقد دقت علمی هستند و هیچ‌کدام بیمه‌ای برای خسارات فاجعه‌بار ندارند.

بسته قانونی پیشنهادی جولی منین، نظارت محلی سخت‌گیرانه‌ای را بر استقرار هوش مصنوعی اعمال می‌کند. این اقدامات شامل اعتبارسنجی شخص ثالث، کلیدهای توقف اضطراری با جریمه‌های سنگین، برنامه‌های پاداش برای افشاگران و حق شکایت شهروندان نیویورک از توسعه‌دهندگان برای آسیب‌های قابل پیش‌بینی است که سابقه جدیدی در تنظیم مقررات فناوری ایجاد می‌کند.