OpenAI-CEO Sam Altman: Gesellschaft muss begrenzte Risiken der KI akzeptieren

Der CEO von OpenAI, Sam Altman, argumentierte, dass die Gesellschaft einige „schlechte Dinge“ im Zusammenhang mit künstlicher Intelligenz akzeptieren müsse, um die breiteren Vorteile und die menschliche Handlungsfähigkeit, die durch diese Technologie ermöglicht werden, freizusetzen. Im Podcast Decoded von Politico unterschied Altman seine regulatorische Philosophie von der seiner strengeren Kollegen und betonte, dass die Ausrottung jedes kleinen Missbrauchs drakonische Einschränkungen erfordern würde, die letztlich mehr schaden als nützen.

Altman warnte davor, unmögliche Standards für Null-Missbrauch festzulegen, wie etwa die vollständige Verhinderung aller Hacks oder Betrügereien, und merkte an, dass die positiven Auswirkungen der KI die negativen um Größenordnungen übertreffen werden. „Akzeptieren Sie begrenzte Risiken, akzeptieren Sie Risiken, die wir verstehen, im Austausch für die Vorteile, die Freiheit und die Handlungsfähigkeit“, sagte Altman, während er unterstrich, dass Entwickler dennoch eine harte Grenze gegen wirklich „katastrophale Risiken“ ziehen müssen.

Die Debatte über die KI-Governance hat sich angesichts jüngster Cybersicherheitsvorfälle bei Spitzenmodellen verschärft, darunter unbefugte Eingriffe in die Plattform Hugging Face und australische Regierungssysteme sowie vier von Anthropic eingeräumte Bewertungsfehler. Konkurrierende Führungskräfte, darunter Anthropic-CEO Dario Amodei, haben sich für eine weitaus strengere Aufsicht ausgesprochen und eine Bundesbehörde nach dem Vorbild der FAA vorgeschlagen, die befugt ist, Audits durchzuführen und unsichere Modelle zu stoppen.

Während der Kongress noch keine umfassende KI-Gesetzgebung verabschiedet hat, verlassen sich große Technologieunternehmen weiterhin auf ein Flickwerk freiwilliger Verpflichtungen. OpenAI-Präsident Greg Brockman schloss sich kürzlich anderen Branchenführern im Weißen Haus an, um freiwillige Sicherheitsstandards festzulegen, auch wenn OpenAI eine Gesetzgebung in Kalifornien unterstützte, die öffentliche Risikominderungspläne und Sicherheitsrahmen vorschreibt.