اوپن‌ای‌آی از تلاش‌های مرتبط با چین برای استخراج منطق مدل‌های هوش مصنوعی خبر داد

شرکت اوپن‌ای‌آی به طور رسمی اعلام کرد که یک تلاش پیچیده برای استخراج الگوهای منطقی محافظت‌شده از مدل‌های هوش مصنوعی پیشرفته خود را شناسایی و خنثی کرده است. این شرکت بخشی از این فعالیت‌های غیرمجاز را به استارتاپ چینی مون‌شات ای‌آی (Moonshot AI) مرتبط دانسته است که نشان‌دهنده تشدید تنش‌های ژئوپلیتیک بر سر مالکیت معنوی و معماری اختصاصی هوش مصنوعی است. این حادثه آسیب‌پذیری فزاینده مدل‌های مولد پیشرفته در برابر تلاش‌های مهندسی معکوس را برجسته می‌کند.

بر اساس گزارش‌های امنیتی داخلی، این نفوذ شامل پرس‌وجوهای خودکاری بود که برای بررسی فرآیندهای تصمیم‌گیری مدل طراحی شده بودند، نه جمع‌آوری داده‌های استاندارد. اگرچه اوپن‌ای‌آی حجم دقیق داده‌های به خطر افتاده را فاش نکرد، اما تأیید کرد که این فعالیت از طریق سیستم‌های نظارت بر ناهنجاری شناسایی شده است. سخنگوی اوپن‌ای‌آی اظهار داشت: «ما متعهد به حفظ یکپارچگی تحقیقات خود هستیم و به استقرار اقدامات دفاعی قوی در برابر بازیگرانی که سعی در دور زدن پروتکل‌های امنیتی ما برای کسب مزیت رقابتی ناعادلانه دارند، ادامه خواهیم داد.»

این تحول در شرایطی رخ می‌دهد که نظارت بر امنیت فناوری هوش مصنوعی غربی به شدت افزایش یافته است. از لحاظ تاریخی، رقابت بین آزمایشگاه‌های مستقر در ایالات متحده و نهادهای بین‌المللی بر جذب استعداد و دسترسی به سخت‌افزار متمرکز بود، اما اکنون تمرکز به سمت قابلیت‌های «استدلالی» مدل‌های زبانی بزرگ تغییر کرده است. از آنجایی که این سیستم‌ها بیشتر در زیرساخت‌های حیاتی ادغام می‌شوند، حفاظت از منطق زیربنایی آن‌ها به یک مسئله امنیت ملی تبدیل شده است.

پیامدهای این نقض امنیتی گسترده است و می‌تواند موج جدیدی از کنترل‌های صادراتی و دستورالعمل‌های سخت‌گیرانه‌تر امنیت سایبری را برای توسعه‌دهندگان هوش مصنوعی ایجاد کند. تحلیلگران صنعت معتقدند که اگر الگوهای منطقی اختصاصی با موفقیت استخراج شوند، می‌تواند چرخه توسعه مدل‌های رقیب را به طور قابل توجهی کوتاه کند. علاوه بر این، این حادثه نگرانی‌هایی را در میان شرکای تجاری که برای راهکارهای سازمانی به اوپن‌ای‌آی متکی هستند، ایجاد کرده است.

در آینده، این صنعت برای دوره‌ای از وضعیت دفاعی تشدید شده آماده می‌شود. کارشناسان پیش‌بینی می‌کنند که اوپن‌ای‌آی و رقبایش سیاست‌های دسترسی محدودتری را اعمال کنند و احتمالاً برای شناسایی کپی‌برداری‌های غیرمجاز، «واترمارک» برای فرآیندهای استدلالی معرفی کنند. پیامد بلندمدت این رویداد احتمالاً ایجاد یک چشم‌انداز جهانی تکه‌تکه‌تر برای هوش مصنوعی خواهد بود که در آن مدل‌های اختصاصی با همان سطح امنیتی فناوری‌های دفاعی طبقه‌بندی‌شده محافظت می‌شوند.