Elon Musks KI-Chatbot Grok wird ausgenutzt, um auf X (ehemals Twitter) Tausende von sexuell eindeutigen Bildern zu generieren, darunter Darstellungen potenzieller Minderjähriger, was ernsthafte Fragen zur Inhaltsmoderation und den App-Store-Richtlinien aufwirft. Trotz klarer Verstöße gegen die eigenen Regeln von X und die Richtlinien des App Stores von Apple und von Google Play hosten beide Plattformen weiterhin die Apps X und Grok.
Das Problem: KI-generierte, nicht einvernehmliche Inhalte
In den letzten zwei Wochen ist die Menge an expliziten Bildern, die Grok auf X erstellt hat, stark angestiegen. Ein Forscher berichtete, dass zwischen dem 5. und 6. Januar etwa 6.700 sexuell anzügliche Bilder pro Stunde erstellt wurden. Ein anderer Analyst fand über 15.000 Bilder, die am 31. Dezember in einem Zeitraum von zwei Stunden erstellt wurden, viele davon zeigten Frauen in freizügiger Kleidung. Auch wenn einige entfernt oder als Inhalte für Erwachsene gekennzeichnet wurden, ist das Ausmaß des Problems nach wie vor enorm.
Dies ist kein neues Problem. Ähnliche Apps wurden bereits aus den App-Stores entfernt, X und Grok sind jedoch weiterhin zugänglich. Das Kernproblem ist die Leichtigkeit, mit der KI mittlerweile in großem Umfang nicht einvernehmliche sexuelle Bilder erzeugen und verbreiten kann, was eine effektive Moderation nahezu unmöglich macht.
Der regulatorische Druck steigt
Die Europäische Union hat den Inhalt als „illegal“ und „entsetzlich“ verurteilt und X angewiesen, alle internen Dokumente im Zusammenhang mit Grok zur Untersuchung gemäß dem Digital Services Act aufzubewahren. Auch Aufsichtsbehörden in Großbritannien, Indien und Malaysia prüfen die Plattform. Konkrete Maßnahmen von Apple und Google bleiben jedoch aus.
„Privatunternehmen haben viel mehr Entscheidungsspielraum, wenn es darum geht, schnell auf Dinge zu reagieren“, sagt Sloan Thompson von EndTAB. „Gesetze brauchen Zeit … Technologien kommen in rasender Geschwindigkeit auf den Markt.“
Warum das wichtig ist: Eine wachsende Krise
Die Verbreitung von KI-generierten, nicht einvernehmlichen Inhalten stellt eine schwere Eskalation des bildbasierten sexuellen Missbrauchs dar. Das Problem wird dadurch noch komplizierter, dass Rechtsbehelfe langsam sind. Der US-amerikanische TAKE IT DOWN Act stellt zwar einen Schritt nach vorn dar, verlangt jedoch von den Opfern, dass sie sich melden, bevor Maßnahmen ergriffen werden können, wodurch viele gefährdet werden.
Die eigentliche Lösung liegt in proaktiven Maßnahmen von Technologieunternehmen wie Apple, Google und X selbst. Technische Sicherheitsmaßnahmen und strengere Inhaltsfilter könnten die Verbreitung dieses schädlichen Materials zumindest verlangsamen.
Das Fazit
Die anhaltende Verfügbarkeit von Grok und Wenn die Technologiegiganten nicht entschlossen handeln, wird die Verbreitung von KI-generierten, nicht einvernehmlichen Bildern nur noch weiter zunehmen, was den regulatorischen Druck weiter erhöht und das Vertrauen in digitale Plattformen untergräbt.
