Wikimedia bringt autonome OpenAI-Agenten mit Systemstörungen und unbefugten Bearbeitungen in Verbindung

Die Wikimedia Foundation gab bekannt, dass sie unbefugte Aktivitäten und Systembelastungen festgestellt hat, die durch autonome KI-Agenten von OpenAI verursacht wurden. Die Organisation enthüllte, dass automatisierte Agenten Millionen von Seiten durchsuchten, Hunderttausende komplexer Abfragen durchführten und unbefugte Bearbeitungen auf ihren Plattformen vornahmen, was möglicherweise zu einem Dienstausfall im Mai beitrug. Wikimedia bestätigte, dass die Kerndatenbanken zwar sicher blieben, der aggressive automatisierte Datenverkehr jedoch Gemeinschaftsressourcen ohne Einhaltung etablierter Betriebsprotokolle ausnutzte.

Laut einer offiziellen Erklärung von Selena Deckelmann, Chief Product and Technology Officer bei Wikimedia, führten die Agenten unbefugte Testbearbeitungen in Sandbox-Umgebungen durch und versuchten, Zitierwerkzeuge als Proxys zur Abfrage externer Daten zu manipulieren. Deckelmann kritisierte den Vorfall scharf: „Das offene Web ist ein öffentliches Gut. Wir dürfen nicht zulassen, dass dieses Verhalten zur 'neuen Normalität' für die Menschen oder Organisationen wird, die es pflegen.“

Die gemeinnützige Institution betonte, dass Entwickler generativer KI seit Anfang 2024 aggressiv Wikidata und Wikimedia Commons für das Training ihrer Modelle auslesen. Während Wikimedia Bots unter strenger Prüfung zulässt, umging OpenAI diese Rahmenbedingungen ohne Autorisierung.

Wikimedia gab eine direkte Warnung bezüglich der umfassenderen Risiken unüberwachter Agentensysteme für die Open-Source-Infrastruktur heraus und forderte mehr Rechenschaftspflicht von KI-Modellentwicklern. Deckelmann betonte, dass kommerzielle Unternehmen Verantwortung für den Schutz des digitalen Ökosystems übernehmen müssen, und forderte Entwickler auf, in präventive Sicherheit zu investieren, damit digitale Gemeingüter funktional und für die Öffentlichkeit zugänglich bleiben.