اوپن‌ای‌آی واترمارک‌گذاری اجباری خروجی‌های چت‌جی‌پی‌تی را منحصراً در اتحادیه اروپا معرفی کرد

شرکت اوپن‌ای‌آی اعلام کرده است که واترمارک‌گذاری خودکار متن‌های تولید شده توسط چت‌جی‌پی‌تی را برای کاربران ساکن اتحادیه اروپا آغاز می‌کند. اگرچه این توسعه‌دهنده هوش مصنوعی قصد دارد این قابلیت را در سطح جهانی ارائه دهد، اما این ویژگی در تمامی بازارهای خارج از محدوده نظارتی اروپا به‌صورت پیش‌فرض غیرفعال باقی خواهد ماند.

این تغییر سیاست با هدف اطمینان از انطباق مستقیم با قانون هوش مصنوعی اتحادیه اروپا انجام شده که از ماه اوت اجرایی شد. این قانون ارائه‌دهندگان را ملزم می‌کند محتوای مصنوعی تولید شده توسط سیستم‌های هوش مصنوعی را با فرمتی قابل تشخیص توسط ماشین علامت‌گذاری کنند. اوپن‌ای‌آی برای برآورده کردن این الزام، روشی اختصاصی به نام textGrain توسعه داده و مقاله‌ای فنی در مورد معماری و مکانیسم اجرای آن منتشر کرده است.

از نظر فنی، مکانیسم textGrain با جاسازی الگوهای آماری ظریف در انتخاب کلمات خاص در طول فرآیند تولید عمل می‌کند. این نشانگرهای زبانی برای خوانندگان انسانی غیرقابل درک هستند و کیفیت متنی را کاهش نمی‌دهند، اما می‌توانند توسط یک کلید تأیید تخصصی شناسایی شوند. دسترسی به ابزار تشخیص مربوطه در ابتدا محدود به گروهی از محققان خارجی و سازمان‌های همکار خواهد بود.

با وجود این استقرار، کارشناسان فنی هشدار می‌دهند که چارچوب‌های موجود واترمارک‌گذاری هوش مصنوعی همچنان در برابر دور زدن از طریق بازنویسی یا ویرایش خارجی آسیب‌پذیر هستند. عرضه منطقه‌ای اوپن‌ای‌آی نشان می‌دهد که چگونه الزامات سخت‌گیرانه انطباق اروپایی در حال تکه‌تکه کردن حاکمیت جهانی هوش مصنوعی مولد است و پیش‌زمینه‌ای ایجاد می‌کند که سایر حوزه‌های قضایی ممکن است به‌زودی آن را ارزیابی کنند.