اوپن‌ای‌آی برای انطباق با مقررات اتحادیه اروپا، واترمارک دیجیتال برای متن و کد معرفی کرد

شرکت اوپن‌ای‌آی اعلام کرد که استفاده از واترمارک دیجیتال نامرئی را برای متن و کدهای تولید شده در سراسر اتحادیه اروپا آغاز می‌کند. این تصمیم در راستای همسویی با استانداردهای شفافیت هوش مصنوعی این اتحادیه و مشابه اقدام اخیر شرکت آنتروپیک اتخاذ شده است. این سیستم با درج نشانه‌های ساختاری ظریف در محتوا، اصالت آن را به عنوان محصول مدل‌های زبانی این شرکت تأیید می‌کند.

این قابلیت از طریق سیستم اختصاصی «textGrain» عمل می‌کند که سیگنال‌های آماری نامرئی به انتخاب کلمات مدل می‌افزاید. نرم‌افزارهای تشخیص تخصصی می‌توانند این الگوها را شناسایی کنند. اوپن‌ای‌آی اعلام کرد که عملکرد این سیستم با رقبایی نظیر SynthID گوگل برابری می‌کند، هرچند هشدار داد که دقت آن در شرایط واقعی ممکن است کاهش یابد. نرخ موفقیت تشخیص برای متون کوتاه و محتوای ریاضی به حدود ۸۰ درصد می‌رسد و ویرایش دستی متن نیز دقت را کاهش می‌دهد.

این ابتکار برای انطباق با ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا طراحی شده است که ارائه‌دهندگان هوش مصنوعی مولد را ملزم می‌کند محتوای تولید شده توسط ماشین را قابل شناسایی کنند. در حالی که شرکت‌های جدید باید فوراً این قوانین را رعایت کنند، غول‌های فناوری تا ۲ دسامبر برای اجرای مکانیسم‌های تشخیص فرصت دارند.

واترمارک‌گذاری به‌طور خودکار برای خروجی‌های ChatGPT و Codex در اتحادیه اروپا اعمال می‌شود و کاربران خارج از این منطقه نیز به صورت اختیاری به آن دسترسی خواهند داشت. اوپن‌ای‌آی قصد دارد این چارچوب را متن‌باز کند، اما نرم‌افزار تشخیص در ابتدا تنها در اختیار محققان و مؤسسات تخصصی قرار می‌گیرد و تأکید شده که این ابزار قادر به شناسایی کاربران یا افشای مکالمات خصوصی نیست.