Grok, der KI-Chatbot des Unternehmens xAI, steht zunehmend unter internationalem Druck. Mehrere Regierungen reagieren auf eine Welle von sexualisierten, KI-generierten Bildern, die über das soziale Netzwerk X verbreitet wurden. Besonders problematisch ist, dass viele dieser Inhalte nicht einvernehmlich erstellt wurden und reale Frauen sowie Minderjährige zeigen. Indonesien und Malaysia haben als erste Länder drastische Maßnahmen ergriffen und den Zugang zu Grok vorübergehend gesperrt.
Der Fall Grok macht deutlich, wie schnell generative KI gesellschaftliche und rechtliche Grenzen überschreiten kann. Was als technologische Innovation beworben wurde, entwickelte sich innerhalb kurzer Zeit zu einem ernsthaften politischen und ethischen Konflikt. Die Vorwürfe reichen von der Verletzung der Menschenwürde bis hin zu möglichem Verstoß gegen Gesetze zum Schutz von Minderjährigen. Gleichzeitig zeigt sich, wie unterschiedlich Staaten, Aufsichtsbehörden und Unternehmen auf dieselbe Problemlage reagieren.
Sperre von Grok in Indonesien
Indonesische Regierungsvertreter erklärten, dass der Zugang zu Grok vorübergehend gesperrt wurde. Hintergrund ist die Verbreitung von sexualisierten, KI-generierten Bildern, die von Grok als Antwort auf Nutzeranfragen erstellt und anschließend auf X veröffentlicht wurden. In vielen Fällen handelte es sich um nicht einvernehmliche Deepfakes mit real existierenden Frauen, teilweise auch mit Minderjährigen und mit gewalttätigen Darstellungen.
Die indonesische Ministerin für Kommunikation und Digitales, Meutya Hafid, bezeichnete diese Praxis als schwerwiegende Verletzung der Menschenrechte sowie der Würde und Sicherheit der Bürger im digitalen Raum. Zusätzlich wurden Vertreter von X zu Gesprächen ins Ministerium einbestellt, um das weitere Vorgehen zu klären.
Malaysia folgt mit ähnlichem Verbot
Kurz nach der Entscheidung Indonesiens kündigte auch Malaysia ein Verbot von Grok an. Laut einem Bericht der New York Times erklärte die malaysische Regierung, dass sie ebenfalls auf die Verbreitung der problematischen Inhalte reagiert. Damit zählen Indonesien und Malaysia zu den bislang konsequentesten Staaten im Umgang mit Grok und den durch die KI erzeugten Bildern.
Reaktionen anderer Staaten und der EU
Auch außerhalb Südostasiens wächst der Druck auf xAI. In Indien ordnete das IT-Ministerium an, dass das Unternehmen Maßnahmen ergreifen müsse, um zu verhindern, dass Grok obszöne Inhalte generiert. Ziel ist es, die automatische Erstellung solcher Bilder technisch einzuschränken.
Auf europäischer Ebene forderte die Europäische Kommission xAI dazu auf, sämtliche Dokumente im Zusammenhang mit Grok aufzubewahren. Dieser Schritt gilt als mögliche Vorbereitung auf eine formelle Untersuchung.
Im Vereinigten Königreich erklärte die Kommunikationsaufsichtsbehörde Ofcom, dass sie eine schnelle Bewertung vornehmen werde, um festzustellen, ob ein Verstoß gegen geltende Vorschriften vorliegt. Premierminister Keir Starmer sagte in einem Interview, Ofcom habe seine volle Unterstützung für mögliche Maßnahmen.
Zurückhaltung der USA und politischer Druck
In den Vereinigten Staaten blieb eine klare Reaktion der Regierung bislang aus. Unter Präsident Donald Trump äußerten sich staatliche Stellen nicht öffentlich zu dem Thema. Dies fällt auch deshalb auf, weil xAI-Chef Elon Musk als wichtiger Geldgeber Trumps gilt und im Vorjahr ein umstrittenes Ministerium für Regierungseffizienz leitete.
Stattdessen kam politischer Druck aus dem Kongress. Demokratische Senatoren forderten Apple und Google dazu auf, X aus ihren App-Stores zu entfernen. Damit soll die Verbreitung der Inhalte über mobile Plattformen eingeschränkt werden.
Reaktion von xAI und Elon Musk
xAI reagierte zunächst mit einer öffentlichen Entschuldigung über den offiziellen Grok-Account. Das Unternehmen räumte ein, dass ein Beitrag gegen ethische Standards und möglicherweise gegen US-Gesetze im Zusammenhang mit Material über sexuellen Kindesmissbrauch verstoßen habe.
In einem weiteren Schritt schränkte xAI die KI-Bildgenerierungsfunktion auf zahlende Abonnenten von X ein. Diese Maßnahme hatte jedoch offenbar keine Auswirkungen auf die eigenständige Grok-App, über die weiterhin jeder Nutzer Bilder generieren konnte.
Elon Musk äußerte sich persönlich zu der Debatte. Als Reaktion auf die Frage, warum die britische Regierung nicht auch gegen andere KI-Bildgeneratoren vorgehe, erklärte er, die Behörden suchten nach jedem Vorwand für Zensur.
Internationaler Kurswechsel im Umgang mit Grok und KI-Deepfakes
Der Umgang mit Grok zeigt, wie stark sich der internationale Ton gegenüber KI-Anbietern verschärft hat. Die Sperren in Indonesien und Malaysia markieren einen Wendepunkt, an dem Staaten bereit sind, schnell und sichtbar einzugreifen. Gleichzeitig offenbaren die unterschiedlichen Reaktionen weltweit eine fehlende einheitliche Linie im Umgang mit KI-generierten Deepfakes. Für Grok und xAI wird entscheidend sein, ob technische und organisatorische Maßnahmen ausreichen, um weitere Verbote und mögliche Untersuchungen zu vermeiden. (Bild: bilalulker / DepositPhotos.com)
- OpenAI fordert reale Arbeitsdaten von Auftragnehmern
- WhatsApp Channels bringen die App unter das EU-Gesetz
- Apple TV erhält sieben Nominierungen bei den PGA Awards 2026
- Instagram Datenleck: 17,5 Millionen Nutzer betroffen
- Grok-Skandal: US-Senatoren fordern App-Store-Sperre
- Apple Home: Support-Ende der alten Version naht bald
- Diese neuen Emojis könnten bald auf dem iPhone landen
- Apple-Aktie im Fokus: Evercore hebt Kursziel auf 330 Dollar
- Apple gibt Ende Januar Einblick in die Zahlen von Q1 2026
- Apple zeigt Managergehälter: Tim Cooks Einkommen 2025
- Apple nennt Termin und Details zur Hauptversammlung 2026
- iOS 26.3: Zweiter Test für Apples Hintergrund-Sicherheit
- John Ternus wird erneut als nächster CEO von Apple gehandelt
- AirPods der Zukunft: Apple forscht an smarter Gestenlogik
- Apple gewinnt Kartellklage und Patentstreit gegen AliveCor
- Apple unter Druck: Indien beharrt auf möglicher Milliardenstrafe
- Blutzuckermessung mit der Apple Watch rückt näher
- Chase wird neuer Herausgeber der Apple Card
- Apple TV dominiert Actor Awards mit Comedy-Hit The Studio
- OpenAI startet ChatGPT Health mit Apple Health Integration
- WhatsApp bringt neue Funktionen für übersichtliche Gruppenchats
- iOS 26.3 testet Hintergrund-Sicherheitsupdates im System
- Apple 2026: Drohen höhere Preise für Macs und iPhones?
- iPhone Fold rückt näher: CES liefert starke Hinweise
- Apple macht Macs und iPads im 5-GHz-WLAN deutlich schneller
