Apple verschärft App-Store-Richtlinien gegen betrügerische KI-Anwendungen

OPA NACHRICHTENDIENST, 19. Okt. (OPA) — Das Unternehmen kündigte an, jede Anwendung zu entfernen, die versteckte oder nicht dokumentierte Funktionen enthält, die bei der ersten Prüfung nicht erkennbar waren. Entwickler müssen nun für Software mit nutzergenerierten Inhalten robuste Moderationssysteme implementieren, einschließlich Mechanismen für Nutzerberichte und Kontosperrungen.

Dieser Schritt folgt auf wachsenden Druck durch Regulierungsbehörden und Interessenverbände. Im Juli forderte der Stadtanwalt von San Francisco, David Chiu, Apple und Google offiziell auf, Software zur Erstellung von Nacktbildern aus ihren Stores zu entfernen, da beide Unternehmen durch Transaktionsgebühren von diesen Apps profitierten.

Ein im April veröffentlichter Bericht des Tech Transparency Project identifizierte mehrere solcher Apps in beiden Stores, von denen einige fälschlicherweise als jugendfrei eingestuft waren. Die aktualisierten Richtlinien bekräftigen zudem das Verbot von Software, die Menschenhandel oder die Ausbeutung von Kindern fördert.

Apple betont, dass die eigene Prüfinfrastruktur die primäre Verteidigung gegen Schadsoftware bleibe. Das Unternehmen gab an, im vergangenen Jahr mehr als 150.000 Apps blockiert und 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs gekündigt zu haben, um den Missbrauch generativer KI-Tools in seinem Ökosystem einzudämmen.