اوپن‌ای‌آی از واترمارک متنی نامرئی برای کاربران اتحادیه اروپا رونمایی کرد

شرکت توسعه‌دهنده هوش مصنوعی، اوپن‌ای‌آی، از راه‌اندازی یک سیستم واترمارک متنی نامرئی و قابل خواندن توسط ماشین برای ChatGPT و Codex خبر داد. این ویژگی که «textGrain» نام دارد، الگوهای قابل شناسایی را مستقیماً در خروجی‌های متنی تولید شده توسط هوش مصنوعی در تمامی سطوح اشتراک تعبیه می‌کند تا عملیات منطقه‌ای این شرکت با الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا مطابقت یابد.

طبق اعلام اوپن‌ای‌آی، ارزیابی‌های فنی نشان می‌دهد که textGrain با عملکرد راه‌حل‌های رقیب مانند SynthID گوگل دیپ‌مایند برابری می‌کند. با این حال، این شرکت هشدار داد که واترمارک‌ها تضمین‌کننده تشخیص صددرصدی نیستند و نمی‌توانند به طور مستقل صحت واقعی، مالکیت متن یا میزان دخالت انسانی را تأیید کنند.

علاوه بر کاربران اتحادیه اروپا، اوپن‌ای‌آی یک چارچوب اختیاری برای توسعه‌دهندگان API و شرکای تجاری جهانی ارائه کرده است. این اقدام در راستای آمادگی‌های نظارتی گسترده‌تر در بخش هوش مصنوعی مولد صورت می‌گیرد تا شرکت‌های فناوری بتوانند استانداردهای افشای اجباری تحت چارچوب‌های حاکمیتی اروپا را مدیریت کنند.

اوپن‌ای‌آی دسترسی به ابزارهای تشخیص خود را محدود کرده و تنها در اختیار محققان و سازمان‌های خاص قرار داده است. مقامات شرکت تأیید کردند که این ابزارها فقط وجود واترمارک را گزارش می‌دهند و هویت کاربران یا تاریخچه چت‌ها را فاش نمی‌کنند. عرضه جهانی این فناوری تا زمان ارزیابی دقیق‌تر قابلیت اطمینان سیستم، به تعویق افتاده است.