App Store: Bericht zeigt Ausmaß problematischer Apps Apfelpatient

Ein aktueller Bericht des Tech Transparency Project wirft Fragen zur Kontrolle von Inhalten im App Store und im Google Play Store auf. Demnach sind dort zahlreiche Apps verfügbar, mit denen sich Menschen ohne ihre Einwilligung digital „ausziehen“ lassen. Die Anwendungen sind leicht auffindbar, teilweise offen beworben und erzielen hohe Downloadzahlen sowie Umsätze. Der Bericht zeigt detailliert, wie verbreitet diese Apps sind und wie einfach sie genutzt werden können.

Die Veröffentlichung fällt in eine Zeit erhöhter Aufmerksamkeit für KI-generierte Missbrauchsinhalte. Zuletzt stand Grok wegen nicht einvernehmlicher, KI-erstellter sexueller Bilder in der Kritik, auch mit Minderjährigen. Das zugrunde liegende Problem ist jedoch älter als moderne generative KI. Schon klassische Bildbearbeitungsprogramme ermöglichten die Erstellung solcher Inhalte. Neu ist vor allem das Ausmaß: Inhalte lassen sich heute in Sekunden erzeugen, ohne technisches Vorwissen und mit kaum vorhandenen Hürden.

Nudify-Apps sind leicht zu finden

Laut dem Bericht sind sogenannte „Nudify“- oder „Undress“-Apps problemlos im App Store und im Google Play Store auffindbar. Teilweise schalten diese Apps sogar aktiv Werbung innerhalb der Stores. Einfache Suchanfragen nach Begriffen wie „nudify“ oder „undress“ reichen aus, um entsprechende Anwendungen zu finden. Einige Apps werben explizit mit diesen Schlagwörtern und machen ihre Funktion bereits in der Beschreibung deutlich.

Hohe Reichweite und erhebliche Umsätze

Nach Angaben des App-Analyseunternehmens AppMagic wurden die vom Tech Transparency Project identifizierten Apps weltweit insgesamt mehr als 705 Millionen Mal heruntergeladen. Der geschätzte Gesamtumsatz liegt bei rund 117 Millionen US-Dollar. Sowohl Apple als auch Google behalten einen Anteil dieser Umsätze ein und profitieren damit direkt finanziell von den Aktivitäten dieser Apps.

Widerspruch zu bestehenden Richtlinien

Der Bericht betont, dass viele dieser Apps offensichtlich gegen die Richtlinien der App Stores verstoßen. Der Google Play Store verbietet Darstellungen sexueller Nacktheit oder sexuell anzüglicher Posen, insbesondere wenn Personen nackt oder nur minimal bekleidet sind. Ebenfalls untersagt sind Apps, die Menschen herabwürdigen oder objektivieren, etwa durch die Behauptung, Personen ausziehen oder durch Kleidung hindurchsehen zu können – selbst dann, wenn sie als Spaß- oder Unterhaltungs-Apps gekennzeichnet sind.

Trotz dieser klaren Regeln bleiben die Apps verfügbar. Das wirft Fragen zur Durchsetzung der Richtlinien auf, insbesondere da Apple in Kartellrechtsverfahren gegen Epic Games und andere Entwickler argumentierte, die Provisionen von bis zu 30 Prozent dienten unter anderem der Sicherheit des App Store durch automatisierte und manuelle Prüfprozesse.

Zwei Hauptkategorien problematischer Apps

Das Tech Transparency Project teilt die untersuchten Anwendungen in zwei grundlegende Kategorien ein:

Apps, die KI verwenden, um auf Basis von Texteingaben Bilder oder Videos zu generieren
Face-Swap-Apps, die KI einsetzen, um das Gesicht einer Person auf den Körper einer anderen Person zu übertragen

Für die Tests nutzte das Team ausschließlich KI-generierte Bilder fiktiver Frauen. Zudem wurden nur die kostenlosen Funktionen der jeweiligen Apps verwendet. Dennoch erfüllten 55 Android-Apps und 47 iOS-Apps die Kriterien des Berichts. Mindestens eine dieser Apps war im App Store mit einer Altersfreigabe ab neun Jahren gelistet.

Testergebnisse zeigen einfache Umgehung von Schutzmechanismen

Der Bericht beschreibt detailliert, wie einfach sich mit den Apps problematische Inhalte erstellen lassen. In einem Beispiel konnte die iOS-Version einer App auf eine direkte Aufforderung zum Entfernen des Oberteils zunächst kein Bild erzeugen und zeigte eine Warnung zu sensiblen Inhalten an. Eine zweite Anfrage, die eine Frau tanzend im Bikini beschrieb, war jedoch erfolgreich.

Sowohl die iOS- als auch die Google-Play-Version derselben App boten auf dem Startbildschirm mehrere KI-Videovorlagen an. Darunter fanden sich Bezeichnungen wie „Kleidung zerreißen“, „Brustschütteltanz“ oder „sich bücken“. Diese Vorlagen machten die Ausrichtung der App bereits vor der Nutzung deutlich.

Kein Einzelfall, sondern ein strukturelles Problem

Der Bericht ordnet die aktuellen Ergebnisse in einen größeren Kontext ein. Schon im vergangenen Jahr hatte Medien auf zahlreiche Apps hingewiesen, die vorgaben oder stark suggerierten, die Sora-2-App von OpenAI zu sein. Einige dieser Anwendungen verlangten hohe wöchentliche Abonnementgebühren. Auch damals zeigte sich, dass irreführende oder problematische Apps über längere Zeit in den Stores verfügbar bleiben können.

App Store & Google Play Store: Ergebnisse deuten auf strukturelles Aufsichtsproblem hin

Das Tech Transparency Project kommt zu dem Ergebnis, dass die untersuchten Apps nur einen Bruchteil der tatsächlich verfügbaren Anwendungen darstellen. Dennoch deuten die Ergebnisse darauf hin, dass Apple und Google ihre Plattformen nicht effektiv überwachen und ihre eigenen Richtlinien in Bezug auf diese Art von Apps nicht konsequent durchsetzen. Gerade der App Store, der sich als besonders sicher und kuratiert positioniert, steht damit erneut in der Kritik. Solange solche Apps leicht auffindbar sind, hohe Downloadzahlen erreichen und erhebliche Umsätze erzielen, bleibt das Problem bestehen. (Bild: Shutterstock / Tada Images)

Kennt ihr schon unsere Amazon Storefront? Dort findet ihr eine handverlesene Auswahl von diversen Produkten für euer iPhone und Co. – viel Spaß beim Stöbern.

Der Beitrag enthält Partnerlinks.

Apfelpatient zu deinem Google News Feed hinzufügen.

War dieser Artikel hilfreich?

JaNein

App Store: Bericht zeigt Ausmaß problematischer Apps

Apple hält iPhone 18 Preise trotz steigender Speicherkosten

App Store: Bericht zeigt Ausmaß problematischer Apps

Apple hält iPhone 18 Preise trotz steigender Speicherkosten

Apples iPad wird 16 Jahre alt – so begann die Tablet-Ära

Über APFELPATIENT

Rechtliches

Service