مسئول حقوق بشر OpenAI نسبت به کاربردهای نظامی هوش مصنوعی هشدار داد

سارا یگر، اولین مسئول حقوق بشر و استقرار مسئولانه در OpenAI، روز سه‌شنبه هشدار داد که پذیرش جهانی هوش مصنوعی توسط ارتش‌ها، خطرات بشردوستانه شدیدی را به همراه دارد. وی در کنفرانس ScaleUp:AI در نیویورک، بر ضرورت ایجاد حفاظ‌های سخت‌گیرانه پیرامون سیستم‌های هدف‌گیری و سلاح‌های خودمختار در حالی که نیروهای مسلح به سرعت فناوری‌های خودکار را در عملیات‌های رزمی ادغام می‌کنند، تأکید کرد.

یگر با بیان اینکه این موضوع خواب را از چشمانش ربوده، پرسید: «ارتش با هوش مصنوعی در هدف‌گیری چه خواهد کرد؟ سلاح‌های خودمختار چه می‌شوند؟» او با توصیف جایگاه خود در OpenAI به عنوان فعالیت در «شکم هیولا»، استدلال کرد که استانداردهای بین‌المللی حقوق بشر باید معیار اصلی باقی بمانند و تأکید کرد که نمی‌خواهد شرکت‌های هوش مصنوعی تعیین‌کننده اخلاقیات باشند.

OpenAI پس از قرارداد فوریه با وزارت جنگ برای استقرار مدل‌های پیشرفته در محیط‌های طبقه‌بندی‌شده، یگر را استخدام کرد. این توافق پس از آن صورت گرفت که شرکت رقیب، آنتروپیک، به دلیل امتناع از خواسته‌های نظامی فاقد ممنوعیت‌های نظارت جمعی، به عنوان یک ریسک زنجیره تأمین شناخته شد. یگر از آن زمان جلسات ارزیابی امنیتی با کارشناسان حقوقی بین‌المللی برای تطبیق مدل‌ها با قوانین درگیری‌های مسلحانه برگزار کرده است.

یگر با نگاه به آینده، نسبت به ترکیب جمعیتی محدود توسعه‌دهندگان هوش مصنوعی ابراز نگرانی کرد و به تسلط مدیران مرد بر جلسات ایمنی کاخ سفید اشاره نمود. وی معتقد است هوش مصنوعی بدون مشارکت جمعیت‌های تحت تأثیر، توازن قدرت جهانی را تغییر می‌دهد. او در حال حاضر با نهادهای نظارتی فدرال همکاری می‌کند تا مکانیسم‌های نظارتی خارجی برای ردیابی استقرار هوش مصنوعی دولتی ایجاد کند.