OpenAI-Menschenrechtsbeauftragte warnt vor militärischem KI-Einsatz

Sarah Yager, die erste Beauftragte für Menschenrechte und verantwortungsvolle Bereitstellung bei OpenAI, warnte am Dienstag, dass die weltweite militärische Nutzung von Künstlicher Intelligenz schwerwiegende humanitäre Risiken birgt. Auf der ScaleUp:AI-Konferenz in New York betonte Yager die Dringlichkeit strenger Leitplanken für Zielsysteme und autonome Waffen, während Streitkräfte zunehmend automatisierte Technologien in Kampfeinsätze integrieren.

„Das lässt mich nachts nicht schlafen: Was wird das Militär mit KI bei der Zielerfassung tun? Und was ist mit autonomen Waffen?“, erklärte Yager. Sie beschrieb ihre Position bei OpenAI als Arbeit im „Bauch der Bestie“ und widersprach den Debatten im Silicon Valley über KI-Rechte. Sie argumentierte, dass internationale Menschenrechte der zentrale Standard bleiben müssen, und verwies dabei auf die Genfer Konventionen von 1949.

OpenAI stellte Yager nach einem Vertrag mit dem US-Kriegsministerium zur Bereitstellung fortschrittlicher KI-Modelle in klassifizierten Umgebungen ein. Dies geschah, nachdem der Konkurrent Anthropic als Lieferkettenrisiko eingestuft wurde, weil er militärische Forderungen ohne Verbote von Massenüberwachung ablehnte. Seit ihrem Eintritt hat Yager Sicherheitstests mit internationalen Rechtsexperten moderiert, um OpenAI-Modelle an das humanitäre Völkerrecht anzupassen.

Mit Blick auf die Zukunft äußerte Yager Bedenken hinsichtlich der einseitigen demografischen Zusammensetzung der KI-Entwickler und verwies auf Sicherheitsbesprechungen im Weißen Haus, die fast ausschließlich von männlichen Führungskräften dominiert werden. Sie betonte, dass KI globale Machtverhältnisse ohne ausreichende Einbeziehung betroffener Bevölkerungen verändert. Derzeit arbeitet sie mit föderalen Aufsichtsbehörden zusammen, um externe Überwachungsmechanismen für staatliche KI-Einsätze zu entwickeln.