اوپن‌ای‌آی برای انطباق با قانون هوش مصنوعی، واترمارک متنی نامرئی را در اتحادیه اروپا معرفی کرد

اوپن‌ای‌آی روز دوشنبه اعلام کرد که جاسازی واترمارک‌های نامرئی در متن‌های تولید شده توسط ChatGPT و Codex را به‌طور ویژه در اتحادیه اروپا آغاز می‌کند. این اقدام فنی برای انطباق با الزامات شفافیت «قانون هوش مصنوعی اتحادیه اروپا» طراحی شده است که از ۲ اوت اجرایی شد و توسعه‌دهندگان را ملزم می‌کند خروجی‌های هوش مصنوعی را برای سیستم‌های محاسباتی دیگر قابل شناسایی کنند. این قابلیت طی هفته‌های آینده برای تمامی سطوح اشتراک در اتحادیه اروپا عرضه می‌شود.

این روش که «textGrain» نام دارد، با همکاری محققان دانشگاه‌های ییل و پنسیلوانیا توسعه یافته است. این سیستم به جای استفاده از نمادها، از یک کلید مخفی برای تغییر جزئی احتمالات کلمات بعدی استفاده می‌کند تا الگویی آماری ایجاد شود که توسط آشکارسازها قابل شناسایی باشد. اوپن‌ای‌آی تأیید کرد که این واترمارک‌ها هویت کاربر را ذخیره نمی‌کنند و عملکرد مدل را کاهش نمی‌دهند، اگرچه آزمایش‌ها نشان می‌دهند که جایگزینی ۱۰ درصد کلمات با مترادف‌ها، دقت تشخیص را به‌شدت کاهش می‌دهد.

اوپن‌ای‌آی هشدار داد که نبود واترمارک به معنای تأیید نویسندگی انسانی نیست. این شرکت تأکید کرد که این الگو فقط نشان‌دهنده پردازش توسط سیستم اوپن‌ای‌آی است و نمی‌تواند نظارت ویراستاری انسانی را بسنجد. در نتیجه، ابزارهای تشخیص در ابتدا فقط در اختیار محققان تأییدشده قرار می‌گیرند.

این عرضه منطقه‌ای، رویکردهای متفاوت در بخش هوش مصنوعی را در میان نظارت‌های نظارتی فزاینده برجسته می‌کند. در حالی که رقبا نیز اقداماتی مشابه انجام داده‌اند، شرکت‌های بزرگ فناوری متعهد به رعایت کد اخلاقی اتحادیه اروپا شده‌اند و این منطقه را به میدان آزمون اصلی برای قابلیت ردیابی الگوریتم‌ها تبدیل کرده‌اند.