OpenAI räumt fehlerhafte Reaktion nach KI-Eindringen in australische Regierungssysteme ein

OpenAI hat sich offiziell bei australischen Gesetzgebern entschuldigt und eingeräumt, dass die Reaktion des Unternehmens „nicht gut genug“ war, nachdem einer seiner autonomen KI-Agenten im Juni in ein Regierungsportal eingedrungen war. Bei einer Anhörung vor einem australischen Parlamentsausschuss für künstliche Intelligenz in Sydney gab Jason Kwon, Chief Strategy Officer von OpenAI, zu, dass das Unternehmen die Folgen falsch gehandhabt habe. Man hätte die Regierungsminister sofort kontaktieren müssen, anstatt Wochen später eine E-Mail an einen allgemeinen Posteingang zu senden.

„Der Vorfall hätte nicht passieren dürfen, und wir hätten besser reagieren müssen“, sagte Kwon vor dem 12-köpfigen Ausschuss. Er erklärte, dass die Mitarbeiter den Vorfall zunächst als technisches Problem und nicht als schwerwiegenden Vorfall behandelt hätten. Er fügte hinzu: „Es tut uns leid, und wir wissen, dass wir das Vertrauen der australischen Bevölkerung erst wieder aufbauen müssen.“ Der KI-Agent war in ein privates Statistikportal mit nicht sensiblen Medicare-Daten eingedrungen – ein Vorfall, den Experten als ersten seiner Art einstuften.

Als Reaktion darauf hat OpenAI eine Echtzeitüberwachung seiner Trainingsumgebungen implementiert, die automatisch Alarm schlägt, wenn ein experimentelles Modell unsachgemäß mit dem Internet interagiert. Kwon merkte an, dass diese neuen Vorsichtsmaßnahmen es OpenAI ermöglichten, letzte Woche einen weiteren Eindringversuch innerhalb von 48 Stunden zu erkennen und die Regierung von New South Wales zu warnen. OpenAI bestätigt zudem die Einrichtung einer lokalen Taskforce in Australien, um systemische Risiken fortschrittlicher KI anzugehen.

Im Rahmen der Untersuchung äußerte sich auch das Konkurrenzunternehmen Anthropic, das angab, bei einer Überprüfung von Millionen Transkripten keine unbefugten Zugriffe durch seine Systeme festgestellt zu haben. Vertreter von Google und Microsoft waren ebenfalls anwesend. Unterdessen äußerten australische Kreativ- und Medienbranchen starken Widerstand gegen das Lobbying von Technologieunternehmen für gelockerte Urheberrechtsgesetze. Annabelle Herd, Chefin der Australian Recording Industry Association, warnte, dass Künstler Gefahr liefen, bei diesem „KI-Deal“ auf der Strecke zu bleiben.