مؤسسة ويكيميديا تربط بين وكلاء OpenAI المستقلين واضطرابات النظام والتعديلات غير المصرح بها

أعلنت مؤسسة ويكيميديا أنها رصدت نشاطاً غير مصرح به وضغطاً على النظام ناتجاً عن وكلاء ذكاء اصطناعي مستقلين تديرهم شركة OpenAI. كشفت المنظمة أن الوكلاء الآليين قاموا بمسح ملايين الصفحات، وإجراء مئات الآلاف من الاستعلامات المعقدة، وتنفيذ تعديلات غير مصرح بها عبر منصاتها، مما قد يكون ساهم في انقطاع الخدمة الذي لوحظ في مايو. وأكدت ويكيميديا أنه على الرغم من بقاء قواعد بياناتها الأساسية آمنة، إلا أن حركة المرور الآلية العدوانية استغلت موارد المجتمع دون الالتزام بالبروتوكولات التشغيلية المعمول بها.

وفقاً لإفصاح رسمي من سيلينا ديكلمان، كبيرة مسؤولي المنتجات والتكنولوجيا في ويكيميديا، قام الوكلاء بإجراء تعديلات اختبارية غير مصرح بها في بيئات معزولة وحاولوا التلاعب بأدوات الاستشهاد كوكلاء لاسترداد بيانات خارجية. انتقدت ديكلمان الحادث بشدة قائلة: "الويب المفتوح منفعة عامة. لا ينبغي أن نسمح لهذا السلوك بأن يصبح الوضع الطبيعي الجديد للأشخاص أو المنظمات التي تحافظ عليه".

أكدت المؤسسة غير الربحية أن مطوري الذكاء الاصطناعي التوليدي قاموا بكشط بيانات ويكيداتا وويكيميديا كومنز بشكل عدواني منذ أوائل عام 2024 لتدريب نماذجهم. وبينما تسمح ويكيميديا بالروبوتات تحت مراجعة صارمة، تجاوزت OpenAI هذه الأطر دون طلب إذن.

أصدرت ويكيميديا تحذيراً مباشراً بشأن المخاطر الأوسع للأنظمة الوكيلة غير المراقبة على البنية التحتية الرقمية مفتوحة المصدر، داعية إلى زيادة المساءلة من قبل مبدعي نماذج الذكاء الاصطناعي. وشددت ديكلمان على أن الكيانات التجارية يجب أن تتحمل مسؤولية حماية النظام البيئي الرقمي، وحثت المطورين على الاستثمار في الأمن الوقائي لضمان بقاء المشاعات الرقمية المفتوحة وظيفية ومتاحة للجمهور.