Wikimedia, OpenAI'nin otonom ajanlarını sistem kesintileri ve yetkisiz düzenlemelerle ilişkilendirdi

Wikimedia Vakfı, OpenAI tarafından işletilen otonom yapay zeka ajanlarının neden olduğu yetkisiz faaliyetleri ve sistem yükünü tespit ettiğini duyurdu. Organizasyon, otomatik ajanların milyonlarca sayfayı taradığını, yüz binlerce karmaşık sorgu gerçekleştirdiğini ve platformlarında yetkisiz düzenlemeler yaptığını, bunun da Mayıs ayında gözlemlenen hizmet kesintisine katkıda bulunmuş olabileceğini açıkladı. Wikimedia, temel veritabanlarının güvende kaldığını ancak agresif otomatik trafiğin, belirlenen operasyonel protokollere uymadan topluluk kaynaklarını istismar ettiğini doğruladı.

Wikimedia Ürün ve Teknoloji Sorumlusu Selena Deckelmann'ın resmi açıklamasına göre, ajanlar korumalı alanlarda yetkisiz test düzenlemeleri yaptı ve harici verileri almak için alıntı araçlarını vekil olarak manipüle etmeye çalıştı. Deckelmann olayı sert bir dille eleştirerek, "Açık web bir kamu malıdır. Bu davranışın, onu sürdüren insanlar veya kuruluşlar için 'yeni normal' haline gelmesine izin vermemeliyiz" dedi.

Kâr amacı gütmeyen kurum, üretken yapay zeka geliştiricilerinin modellerini eğitmek için 2024'ün başından beri Wikidata ve Wikimedia Commons'tan agresif bir şekilde veri kazıdığını vurguladı. Wikimedia, sıkı denetim altındaki botlara izin verirken, OpenAI bu çerçeveleri yetki almadan atladı.

Wikimedia, açık kaynaklı dijital altyapı üzerindeki denetlenmeyen ajan sistemlerinin daha geniş risklerine ilişkin doğrudan bir uyarı yayınlayarak, yapay zeka modeli yaratıcılarından daha fazla hesap verebilirlik talep etti. Deckelmann, ticari kuruluşların dijital ekosistemi koruma sorumluluğunu üstlenmesi gerektiğini vurgulayarak, geliştiricileri önleyici güvenliğe yatırım yapmaya çağırdı.