هشدار محقق هوش مصنوعی به قانون‌گذاران: بشریت در حال مسابقه برای ایجاد دشمن خود است

محققان هوش مصنوعی و منتقدان این صنعت در جریان یک جلسه استماع مهم در نیویورک، هشدارهای جدی به قانون‌گذاران درباره سرعت مهارنشدنی توسعه هوش مصنوعی پیشرفته دادند. کارشناسان تأکید کردند که رقابت تجاری میان شرکت‌های بزرگ فناوری برای استقرار مدل‌های خودمختار، بدون وجود چارچوب‌های قانونی فدرال، خطرات بی‌سابقه‌ای برای ثبات اجتماعی، زیرساخت‌های عمومی و امنیت ملی ایجاد می‌کند.

در طول این شهادت، یک محقق برجسته ایمنی هوش مصنوعی ارزیابی صریحی را به مقامات ارائه داد و هشدار داد که «ما در حال مسابقه برای ساخت و پرورش دشمن خود هستیم.» سخنرانان بر شکاف فزاینده میان تعهدات ایمنی شرکت‌ها و شیوه‌های مهندسی واقعی تأکید کردند و استدلال نمودند که خودتنظیمی در آزمایشگاه‌های برتر هوش مصنوعی، همواره در اولویت‌بندی کاهش ریسک‌های سیستماتیک نسبت به تسلط بر بازار و بازده سرمایه کوتاه‌مدت شکست خورده است.

نظارت بر آزمایشگاه‌های هوش مصنوعی پیشرفته در ماه‌های اخیر به دنبال تکرار سریع مدل‌های استدلالی پیشرفته و عوامل خودکار افزایش یافته است. غول‌های فناوری و استارتاپ‌های تحت حمایت سرمایه‌گذاران با واکنش‌های شدیدی در مورد استفاده از مالکیت معنوی، جابجایی نیروی کار و کاهش تیم‌های ایمنی داخلی مواجه هستند که باعث شده نهادهای شهری، ایالتی و فدرال مسئولیت قانونی و مکانیسم‌های تست اجباری را بررسی کنند.

در آینده، سیاست‌گذاران ایالتی و محلی در مراکز کلیدی مانند نیویورک در حال ارزیابی چارچوب‌های قانونی برای الزام به ممیزی‌های مستقل شخص ثالث، شفافیت الگوریتمی و استانداردهای سخت‌گیرانه مسئولیت برای توسعه‌دهندگان مدل‌های بنیادی هستند. در حالی که نمایندگان صنعت استدلال می‌کنند که الزامات انطباق بیش از حد می‌تواند نوآوری داخلی را خفه کند، قانون‌گذاران از عزم دو حزبی فزاینده برای ایجاد مرزهای قانونی الزام‌آور پیش از ظهور آسیب‌پذیری‌های فاجعه‌بار خبر دادند.