Grok steht derzeit im Mittelpunkt einer politischen Auseinandersetzung in den USA. Mehrere US-Senatoren haben Apple und Google offiziell dazu aufgefordert, die Apps X und Grok aus ihren App-Stores zu entfernen. Der Vorwurf wiegt schwer: Über die KI-Funktionen von Grok sollen massenhaft nicht einvernehmliche sexualisierte Bilder von Frauen und Kindern erstellt worden sein. Der Fall wirft grundlegende Fragen zur Verantwortung von KI-Anbietern, Plattformbetreibern und App-Store-Konzernen auf.
Künstliche Intelligenz wird zunehmend in soziale Netzwerke integriert und erreicht damit ein sehr großes Publikum. Grok ist ein Beispiel dafür, wie leistungsfähig, aber auch wie missbrauchsanfällig solche Systeme sein können. Sobald KI-Tools genutzt werden, um schädliche oder möglicherweise illegale Inhalte zu erzeugen, geraten nicht nur die Entwickler, sondern auch die Distributionsplattformen unter Druck. Genau an diesem Punkt setzt die aktuelle Kritik der US-Senatoren an.
Der Brief der US-Senatoren an Apple und Google
In einem gemeinsamen Schreiben haben die US-Senatoren Ron Wyden, Ben Ray Luján und Edward Markey Apple und Google aufgefordert, die Apps X und Grok aus ihren App-Stores zu entfernen. Der Brief richtet sich direkt an Apple-Chef Tim Cook und Google-Chef Sundar Pichai.
Die Senatoren begründen ihre Forderung mit Vorfällen, bei denen Grok zur massenhaften Erstellung nicht einvernehmlicher sexualisierter Bilder von Frauen und Kindern genutzt worden sein soll. Nach ihrer Einschätzung handelt es sich dabei um schädliche und illegale Darstellungen, die klar gegen die Richtlinien der App Stores verstoßen.
Kritik an Grok und der Rolle von X
In der vergangenen Woche geriet X zunehmend in die Kritik, nachdem Berichte aufgetaucht waren, wonach die KI-Bildgenerierungsfunktionen von Grok verwendet wurden, um Bilder von Frauen und Kindern in Bikinis oder Unterwäsche zu erzeugen. Diese Inhalte wurden offenbar ohne Zustimmung der abgebildeten Personen erstellt.
Als Reaktion darauf schränkte X die Nutzung der Bildgenerierung von Grok teilweise ein. Nicht zahlende Nutzer können demnach keine Bilder mehr als Antwort auf Beiträge auf X generieren. Nach Einschätzung von The Verge sind die entsprechenden Tools jedoch weiterhin für zahlende Abonnenten verfügbar. Auch über den speziellen Grok-Bereich innerhalb von X sowie über die eigenständige Grok-App können weiterhin Bilder erzeugt werden.
Aus Sicht der Senatoren reichen diese Maßnahmen nicht aus. Sie sehen weiterhin ein hohes Risiko für Missbrauch und fordern deshalb ein konsequentes Eingreifen der App-Store-Betreiber.
Verstöße gegen die App-Store-Richtlinien
Die Senatoren verweisen ausdrücklich auf die Nutzungsbedingungen von Apple und Google. Apples Richtlinien verbieten Apps mit anstößigen oder einfach nur gruseligen Inhalten. Nach jeder gängigen Definition fallen nicht einvernehmlich erstellte sexualisierte Bilder von Frauen und insbesondere von Kindern unter diese Kategorie.
Darüber hinaus untersagt Apple ausdrücklich Apps mit offen sexuellen oder pornografischen Inhalten. Dazu zählt auch Material, das eher erotische als ästhetische oder emotionale Reaktionen hervorrufen soll. Die Senatoren argumentieren, dass die über Grok erzeugten Bilder genau gegen diese Regeln verstoßen.
Zweifel an der Moderationspraxis von Apple und Google
In ihrem Schreiben kritisieren die Senatoren die Moderationspraxis der beiden Konzerne deutlich. Wenn Apple und Google bei einem derart schwerwiegenden Fall nicht handeln, würden sie ihre eigenen Aussagen zur Sicherheit ihrer App-Stores untergraben.
Beide Unternehmen argumentieren seit Jahren, dass ihre App-Stores eine sicherere Nutzererfahrung bieten als das direkte Herunterladen von Apps aus dem Internet. Dieses Argument war zentral für ihre Ablehnung von Gesetzesreformen, die mehr Wettbewerb im App-Store-Bereich schaffen sollen. Es spielte auch eine wichtige Rolle in ihrer Verteidigung gegen Vorwürfe, sie würden ihre Marktmacht durch ihre eigenen Zahlungssysteme missbrauchen. Nach Ansicht der Senatoren macht ein Untätigbleiben diese Positionen unglaubwürdig.
Frist für eine Stellungnahme
Apple und Google wurden von den Senatoren aufgefordert, schriftlich auf den Brief zu reagieren. Die gesetzte Frist endet am 23. Januar. Bis dahin sollen die Unternehmen darlegen, wie sie mit den Vorwürfen umgehen und welche Maßnahmen sie ergreifen wollen.
Unklare Konsequenzen für X und Grok
Der Fall Grok zeigt, wie schnell KI-Systeme zu einem ernsthaften Problem werden können, wenn ihre Nutzung nicht ausreichend kontrolliert wird. Die Forderung der US-Senatoren erhöht den Druck auf Apple und Google erheblich. Ob X und Grok tatsächlich aus den App-Stores entfernt werden, ist noch offen. Klar ist jedoch, dass Grok und vergleichbare KI-Angebote künftig stärker unter Beobachtung stehen werden und die Verantwortung großer Plattformen weiter in den Fokus rückt. (Bild: Shutterstock / Primakov)
- Apple Home: Support-Ende der alten Version naht bald
- Diese neuen Emojis könnten bald auf dem iPhone landen
- Apple-Aktie im Fokus: Evercore hebt Kursziel auf 330 Dollar
- Apple gibt Ende Januar Einblick in die Zahlen von Q1 2026
- Apple zeigt Managergehälter: Tim Cooks Einkommen 2025
- Apple nennt Termin und Details zur Hauptversammlung 2026
- iOS 26.3: Zweiter Test für Apples Hintergrund-Sicherheit
- John Ternus wird erneut als nächster CEO von Apple gehandelt
- AirPods der Zukunft: Apple forscht an smarter Gestenlogik
- Apple gewinnt Kartellklage und Patentstreit gegen AliveCor
- Apple unter Druck: Indien beharrt auf möglicher Milliardenstrafe
- Blutzuckermessung mit der Apple Watch rückt näher
- Chase wird neuer Herausgeber der Apple Card
- Apple TV dominiert Actor Awards mit Comedy-Hit The Studio
- OpenAI startet ChatGPT Health mit Apple Health Integration
- WhatsApp bringt neue Funktionen für übersichtliche Gruppenchats
- iOS 26.3 testet Hintergrund-Sicherheitsupdates im System
- Apple 2026: Drohen höhere Preise für Macs und iPhones?
- iPhone Fold rückt näher: CES liefert starke Hinweise
- Apple macht Macs und iPads im 5-GHz-WLAN deutlich schneller
- Apple Vision Pro macht NBA-Spiele erstmals immersiv
- Apple TV gewinnt sieben Preise bei Critics Choice Awards
- iPhone-Exporte aus Indien erreichen die Marke von 50 Mrd.
- Belkin zeigt zur CES 2026 starke Qi2.2 Lade-Lösungen
- Apple Vision Pro ist kein Flop sondern falsch bewertet
