Sexualisierte Deepfakes: Malaysia & Indonesien sperren Grok

Dieser Beitrag kann Partnerlinks enthalten. Mehr dazu im Partnerprogramm.

Apfelpatient bei Google bevorzugen 1 Klick – so siehst du uns häufiger bei Google

Grok, der KI-Chatbot des Unternehmens xAI, steht zunehmend unter internationalem Druck. Mehrere Regierungen reagieren auf eine Welle von sexualisierten, KI-generierten Bildern, die über das soziale Netzwerk X verbreitet wurden. Besonders problematisch ist, dass viele dieser Inhalte nicht einvernehmlich erstellt wurden und reale Frauen sowie Minderjährige zeigen. Indonesien und Malaysia haben als erste Länder drastische Maßnahmen ergriffen und den Zugang zu Grok vorübergehend gesperrt.

Der Fall Grok macht deutlich, wie schnell generative KI gesellschaftliche und rechtliche Grenzen überschreiten kann. Was als technologische Innovation beworben wurde, entwickelte sich innerhalb kurzer Zeit zu einem ernsthaften politischen und ethischen Konflikt. Die Vorwürfe reichen von der Verletzung der Menschenwürde bis hin zu möglichem Verstoß gegen Gesetze zum Schutz von Minderjährigen. Gleichzeitig zeigt sich, wie unterschiedlich Staaten, Aufsichtsbehörden und Unternehmen auf dieselbe Problemlage reagieren.

Sperre von Grok in Indonesien

Indonesische Regierungsvertreter erklärten, dass der Zugang zu Grok vorübergehend gesperrt wurde. Hintergrund ist die Verbreitung von sexualisierten, KI-generierten Bildern, die von Grok als Antwort auf Nutzeranfragen erstellt und anschließend auf X veröffentlicht wurden. In vielen Fällen handelte es sich um nicht einvernehmliche Deepfakes mit real existierenden Frauen, teilweise auch mit Minderjährigen und mit gewalttätigen Darstellungen.

Die indonesische Ministerin für Kommunikation und Digitales, Meutya Hafid, bezeichnete diese Praxis als schwerwiegende Verletzung der Menschenrechte sowie der Würde und Sicherheit der Bürger im digitalen Raum. Zusätzlich wurden Vertreter von X zu Gesprächen ins Ministerium einbestellt, um das weitere Vorgehen zu klären.

Malaysia folgt mit ähnlichem Verbot

Kurz nach der Entscheidung Indonesiens kündigte auch Malaysia ein Verbot von Grok an. Laut einem Bericht der New York Times erklärte die malaysische Regierung, dass sie ebenfalls auf die Verbreitung der problematischen Inhalte reagiert. Damit zählen Indonesien und Malaysia zu den bislang konsequentesten Staaten im Umgang mit Grok und den durch die KI erzeugten Bildern.

Reaktionen anderer Staaten und der EU

Auch außerhalb Südostasiens wächst der Druck auf xAI. In Indien ordnete das IT-Ministerium an, dass das Unternehmen Maßnahmen ergreifen müsse, um zu verhindern, dass Grok obszöne Inhalte generiert. Ziel ist es, die automatische Erstellung solcher Bilder technisch einzuschränken.

Auf europäischer Ebene forderte die Europäische Kommission xAI dazu auf, sämtliche Dokumente im Zusammenhang mit Grok aufzubewahren. Dieser Schritt gilt als mögliche Vorbereitung auf eine formelle Untersuchung.

Im Vereinigten Königreich erklärte die Kommunikationsaufsichtsbehörde Ofcom, dass sie eine schnelle Bewertung vornehmen werde, um festzustellen, ob ein Verstoß gegen geltende Vorschriften vorliegt. Premierminister Keir Starmer sagte in einem Interview, Ofcom habe seine volle Unterstützung für mögliche Maßnahmen.

Zurückhaltung der USA und politischer Druck

In den Vereinigten Staaten blieb eine klare Reaktion der Regierung bislang aus. Unter Präsident Donald Trump äußerten sich staatliche Stellen nicht öffentlich zu dem Thema. Dies fällt auch deshalb auf, weil xAI-Chef Elon Musk als wichtiger Geldgeber Trumps gilt und im Vorjahr ein umstrittenes Ministerium für Regierungseffizienz leitete.

Stattdessen kam politischer Druck aus dem Kongress. Demokratische Senatoren forderten Apple und Google dazu auf, X aus ihren App-Stores zu entfernen. Damit soll die Verbreitung der Inhalte über mobile Plattformen eingeschränkt werden.

Reaktion von xAI und Elon Musk

xAI reagierte zunächst mit einer öffentlichen Entschuldigung über den offiziellen Grok-Account. Das Unternehmen räumte ein, dass ein Beitrag gegen ethische Standards und möglicherweise gegen US-Gesetze im Zusammenhang mit Material über sexuellen Kindesmissbrauch verstoßen habe.

In einem weiteren Schritt schränkte xAI die KI-Bildgenerierungsfunktion auf zahlende Abonnenten von X ein. Diese Maßnahme hatte jedoch offenbar keine Auswirkungen auf die eigenständige Grok-App, über die weiterhin jeder Nutzer Bilder generieren konnte.

Elon Musk äußerte sich persönlich zu der Debatte. Als Reaktion auf die Frage, warum die britische Regierung nicht auch gegen andere KI-Bildgeneratoren vorgehe, erklärte er, die Behörden suchten nach jedem Vorwand für Zensur.

Internationaler Kurswechsel im Umgang mit Grok und KI-Deepfakes

Der Umgang mit Grok zeigt, wie stark sich der internationale Ton gegenüber KI-Anbietern verschärft hat. Die Sperren in Indonesien und Malaysia markieren einen Wendepunkt, an dem Staaten bereit sind, schnell und sichtbar einzugreifen. Gleichzeitig offenbaren die unterschiedlichen Reaktionen weltweit eine fehlende einheitliche Linie im Umgang mit KI-generierten Deepfakes. Für Grok und xAI wird entscheidend sein, ob technische und organisatorische Maßnahmen ausreichen, um weitere Verbote und mögliche Untersuchungen zu vermeiden. (Bild: bilalulker / DepositPhotos.com)