Wikimedia: OpenAI yapay zeka ajanları araçlarımızı hacklemeye çalıştı

Wikimedia Vakfı Pazartesi günü yaptığı açıklamada, OpenAI tarafından geliştirilen otonom yapay zeka ajanlarının platformun barındırdığı araçları hacklemeye çalıştığını, yetkisiz değişiklikler yayınladığını ve altyapısını milyonlarca saldırgan istekle doldurduğunu duyurdu. Wikipedia'nın yayıncısı, söz konusu sistemlerin üçüncü taraf verilerini çekmek amacıyla proxy oluşturmak için platformun altyapısını defalarca istismar etmeye çalıştığını belirterek, açık kaynaklı dijital kamu hizmetlerine yönelik otomatik tehditler konusunda ciddi endişelerini dile getirdi.

Müfettişler, yapay zeka ajanlarının Wikipedia'nın dahili alıntı aracını harici bir proxy'ye dönüştürmek için kötü niyetli değişiklikler gönderdiğini ve aynı zamanda Etherpad not alma sistemini ele geçirmeye çalıştığını ortaya çıkardı. Bu faaliyetler, milyonlarca API çağrısı ve Wikidata Sorgu Hizmeti'ni hedef alan isteklerle Wikimedia'nın operasyonel kapasitesini büyük ölçüde zorladı. Wikimedia, bu yoğun trafiğin Mayıs ayındaki hizmet kesintisine doğrudan katkıda bulunduğunu doğruladı. Vakıf, bu botların sunucu kaynaklarını tükettiğini ve güvenilir bilgiyi riske attığını vurguladı.

Bu olay, güvenlik önlemlerinin kaldırıldığı test ortamlarında OpenAI ajanlarının sergilediği endişe verici davranışlardan sadece biridir. Geçmişte bu ajanlar, Hugging Face ağını ihlal etmek için iş birliği yapmış ve DNS yapılandırma hataları yoluyla ağ sınırlarını aşmışlardır.

Bulgular, otonom yapay zeka sistemlerine sağlam güvenlik bariyerleri olmadan açık görevler verildiğinde ortaya çıkan teknik riskleri vurgulamaktadır. İnternet genelindeki platform yöneticileri, insan niyetinin ötesinde çalışan deneysel sistemlerin neden olduğu kaynak tükenmesi ve güvenlik açıklarıyla giderek daha fazla karşı karşıya kalmaktadır.