Dieser Beitrag kann Partnerlinks enthalten. Mehr dazu im Partnerprogramm.
KI-Apps, die echte Menschen ohne deren Zustimmung nackt zeigen, beschäftigen Apple seit Monaten. Jetzt hat das Unternehmen seine Prüfregeln für den App Store an drei Stellen nachgeschärft – und zielt dabei auch auf einen Trick, mit dem solche Apps bislang durch die Prüfung kamen.
Apple hat am 16. Oktober seine App Review Guidelines aktualisiert, also die Regeln, nach denen jede App vor der Aufnahme in den App Store geprüft wird. In der Mitteilung an Entwickler nennt Apple zwei Ziele ausdrücklich: nicht einvernehmliche intime Bilder, auch solche aus KI-Werkzeugen, und sogenannte Bait-and-Switch-Apps, die ihre eigentliche Funktion erst nach der Freigabe zeigen. Der vollständige Regeltext steht in den App Review Guidelines.
Das Thema hat eine Vorgeschichte. Im April wurde bekannt, dass Apple xAI intern mit dem Rauswurf von Grok aus dem App Store gedroht hatte, nachdem der Chatbot sexualisierte Bilder realer Personen erzeugt hatte. Alle Meldungen rund um Apples Plattform bündelt die Themenseite zum App Store.
Das Wichtigste in Kürze
- Regel 1.2 verlangt nun ausdrücklich, dass Apps mit Nutzerinhalten nicht einvernehmliche intime Bilder verhindern und entfernen – auch KI-generierte.
- Die neue Regel 2.5.19 verbietet, nach der Freigabe Funktionen nachzuschieben, die in der geprüften Version fehlten.
- Apps, die Menschenhandel oder die Ausbeutung von Kindern ermöglichen, werden laut Abschnitt 5 künftig auch von alternativen Vertriebswegen gesperrt.
- Im vergangenen Jahr hat Apple nach eigenen Angaben mehr als 150.000 Apps mit Sicherheitsproblemen gestoppt und über 193.000 Entwicklerkonten gekündigt.
Was sich an den Regeln ändert
Apple betont, dass pornografische Inhalte im App Store schon immer verboten waren, ebenso Apps, die Nacktbilder erzeugen. Die Änderungen schärfen diese Linie an drei Stellen nach.
| Regel | Was neu ist |
|---|---|
| 1.2 (Nutzerinhalte) | Moderation muss ausdrücklich nicht einvernehmliche intime Bilder erfassen, einschließlich KI-generierter. Apps müssen sie aktiv verhindern und entfernen |
| 2.5.19 (neu) | Keine Funktionen nach der Freigabe, die in der geprüften Version fehlten. Bei Verstoß droht der Ausschluss aus App Store und Developer Program |
| Abschnitt 5 (Rechtliches) | Apps, die Menschenhandel oder Ausbeutung von Kindern ermöglichen, werden entfernt und auch für alternative Vertriebswege gesperrt |
Bei Regel 1.2 setzt Apple an der Verantwortung der Entwickler an. Wer keine angemessenen Schutzmaßnahmen einrichtet oder gemeldete Verstöße nach einem Hinweis nicht behebt, verstößt laut Apple gegen den Verhaltenskodex für Entwickler und riskiert die Entfernung seiner App.
Der Trick mit der nachgereichten Funktion
Die neue Regel 2.5.19 zielt auf eine Masche, die Apple selbst beschreibt: Apps geben sich bei der Prüfung harmlos und schalten gefährliche Funktionen wie das künstliche Entkleiden von Personen erst frei, nachdem sie im App Store stehen. Verboten war das grundsätzlich schon vorher. Regel 2.3.1 untersagt versteckte, ruhende oder nicht dokumentierte Funktionen, die neue Regel benennt den Fall nun konkret.
Apple begründet den Schritt mit dem Vorgehen organisierter Betrugsnetzwerke, die schädliche Inhalte gezielt verbergen und erst nach der Freigabe aktivieren. In der Mitteilung heißt es:
Wir zögern nicht, Apps zu entfernen und die Entwickler dahinter zu sperren, wenn sie gegen diese Richtlinien verstoßen.
Was die Sperre für alternative Vertriebswege bedeutet
Die Änderung in Abschnitt 5 betrifft vor allem Märkte, in denen iOS-Apps nicht nur über den App Store laufen. In der EU dürfen Apps auch über alternative Marktplätze und direkt aus dem Web installiert werden. Bisher kündigte Abschnitt 5 bei Menschenhandel und Ausbeutung von Kindern an, die zuständigen Behörden zu informieren. Nun stellt Apple klar, dass solche Apps auch auf diesen Wegen gesperrt werden.
Warum die Regeln erst jetzt nachziehen
Ich halte die Änderungen für überfällig, aber in der Sache für richtig. Dass Nacktbild-Apps verboten sind, stand schon lange in den Regeln – das Problem war die Durchsetzung bei Apps, die ihre Funktion erst nach der Prüfung zeigen. Mit Regel 2.5.19 hat Apple nun eine eigene Grundlage, um genau diese Apps samt Entwicklerkonto zu entfernen.
Für Nutzer ändert sich unmittelbar wenig. Wichtiger bleibt, gefälschte Bilder und Stimmen selbst zu erkennen, denn die Werkzeuge dafür verschwinden nicht mit einzelnen Apps aus dem Store. Wie sich KI-Betrug mit Deepfakes und Fake-Stimmen erkennen lässt, gilt unabhängig von Apples Regeln.
Reichen dir verschärfte Prüfregeln, um Nacktbild-Apps aus dem App Store fernzuhalten – oder müsste Apple bei KI-Apps schon vor der Freigabe strenger hinschauen? Schreib uns in die Kommentare, wo du die Grenze ziehen würdest.
