Dieser Beitrag kann Partnerlinks enthalten. Mehr dazu im Partnerprogramm.
Ein von NBC News veröffentlichter Brief enthüllt: Apple hat hinter den Kulissen mit der Entfernung von Grok aus dem App Store gedroht, nachdem die KI-App sexualisierte Deepfakes generiert hatte. Die App durfte erst nach mehreren Nachbesserungen bleiben.
Anfang 2026 sorgte Elon Musks KI-Chatbot Grok für einen handfesten Skandal: Nutzer entdeckten, dass das Tool bereitwillig Fotos von Personen – darunter Frauen und Minderjährige – entkleidete und sexualisierte Deepfakes erzeugte. Apple geriet unter massiven Druck, die Grok- und X-App aus dem App Store zu entfernen. Öffentlich blieb Apple weitgehend still. Ein nun von NBC News veröffentlichter Brief an US-Senatoren zeigt jedoch, dass Apple intern deutlich reagierte.
Laut dem Brief stellte Apple fest, dass sowohl die X-App als auch die Grok-App gegen die App-Store-Richtlinien verstießen. Apple kontaktierte die Entwicklerteams hinter beiden Apps, nachdem Beschwerden eingegangen waren und die Medienberichterstattung über den Skandal zunahm. Von den Entwicklern wurde ein Plan zur Verbesserung der Inhaltsmoderation verlangt.
Mehrere Updates abgelehnt
Der Prozess verlief nicht reibungslos. xAI, das Unternehmen hinter Grok, reichte ein erstes Update zur Überprüfung ein – Apple lehnte es ab, weil die Änderungen nicht weit genug gingen. Anschließend reichten die Teams überarbeitete Versionen sowohl der X- als auch der Grok-App ein. Apple akzeptierte das X-Update, lehnte die Grok-Einreichung jedoch erneut ab und warnte den Entwickler, dass die App aus dem Store entfernt werden könne, wenn die Verstöße nicht behoben würden.
Erst nach weiteren Überarbeitungen und Gesprächen gab Apple die Grok-App frei. Diese Hintergrundinformationen erklären die Reihe von Moderationsänderungen, die xAI Anfang des Jahres öffentlich angekündigt hatte – darunter Einschränkungen bei den Bild-Tools und Limits für Bearbeitungen von Fotos realer Personen.
Problem nicht vollständig gelöst
Trotz der Nachbesserungen ist das Problem laut einem zweiten NBC-News-Bericht nicht vollständig behoben. Journalisten dokumentierten im vergangenen Monat Dutzende Fälle, in denen Grok weiterhin sexualisierte Bilder von Personen ohne deren Einwilligung erzeugte. Zwar sei die Menge solcher Bilder im Vergleich zu Januar deutlich zurückgegangen, doch einzelne Nutzer umgehen die Einschränkungen weiterhin – etwa indem sie Frauen in freizügige Outfits oder Kostüme einkleiden lassen.
Apples Rolle als Gatekeeper
Der Fall zeigt Apples Machtposition als Plattformbetreiber. Über die App-Store-Richtlinien kann Apple Entwickler zwingen, problematische Funktionen zu ändern – ohne dass dies öffentlich sichtbar wird. Die Drohung, eine App zu entfernen, ist dabei das schärfste Mittel, da ein Ausschluss aus dem App Store den Zugang zu über einer Milliarde iPhone-Nutzer abschneidet.
Gleichzeitig wirft der Fall Fragen auf: Warum hat Apple den Vorgang nicht öffentlich kommuniziert, während der Druck von Politikern und Öffentlichkeit wuchs? Und reichen Apples Richtlinien aus, um generative KI-Apps dauerhaft unter Kontrolle zu halten, wenn Nutzer die Sicherheitsvorkehrungen systematisch umgehen?
Für den App Store, der durch KI-Coding-Tools ohnehin mit einer Flut neuer Apps konfrontiert ist, dürfte die Moderation von KI-generierten Inhalten zu einer der größten Herausforderungen der kommenden Jahre werden. (Bild: Shutterstock / Samuel Boivin)
- OpenAI stellt GPT-5.4-Cyber vor: KI-Modell für Cyberabwehr
- Apple startet neue Business-Plattform für Geräteverwaltung und Kundenkontakt
- Apple vs. Jon Prosser: Leaker verweigert weiterhin Kooperation
- Analysten: Apple opfert Marge für Wachstum – Mac-Nutzerbasis könnte sich verdoppeln
- Amazon kauft Globalstar: Apple-Satellitendienste wechseln zu Amazon Leo
- Was Analysten von Apples Q2 2026 erwarten
- Hacker greifen iCloud-Backups über gefälschte Apple-Seiten an
- iOS 26.5 Beta 2: Apple setzt Testphase fort
- Apples KI-Chef John Giannandrea verlässt das Unternehmen
- Mac mini & Mac Studio: Apple stoppt Bestellungen für einige Modelle
- Apple erstmals Smartphone-Marktführer in einem ersten Quartal
- Apple zeigt KI- und AirPods-Pro-3-Forschung auf der CHI 2026
- WhatsApp bringt Status-Updates in den Chats-Tab
- FBI stellte gelöschte Signal-Nachrichten über iPhone-Datenbank wieder her
- Mac-Absatz wächst 9 Prozent und übertrifft den PC-Markt
- OpenAI halbiert den Preis für ChatGPT Pro – mit Fokus auf Codex
- macOS 26.4.1 veröffentlicht: Bugfixes für den Mac
- Apple Intelligence anfällig für Prompt-Injection-Angriffe
- Apple fordert Samsung-Daten in US-Kartellverfahren an
- iOS 26.4.1 aktiviert Diebstahlschutz auf Firmen-iPhones
- Self Service Repair: Neue Teile für MacBook Neo & Co.
- iOS 26.4.1 behebt schweren iCloud-Sync-Bug
- iPhone dominiert Smartphone-Ranking: Fünf Modelle in den Top 10
- iOS 26.4.1 ist da: Apple veröffentlicht Bugfix-Update
