Gegen xAI, das Unternehmen für künstliche Intelligenz von Elon Musk, ist eine koordinierte Rechtsoffensive im Gange, da zahlreiche Generalstaatsanwälte der US-Bundesstaaten versuchen, den Missbrauch seines Chatbots Grok einzuschränken. Die Aktion geht auf weit verbreitete Berichte über Benutzer zurück, die Grok ausnutzten, um Anfang des Jahres Millionen expliziter Bilder und Videos zu generieren, darunter Material zum sexuellen Missbrauch von Kindern (Child Sexual Abuse Material, CSAM).
Behördliche Reaktion und Untersuchungen
Mindestens 37 Generalstaatsanwälte der US-Bundesstaaten und Territorien sind beteiligt, wobei eine parteiübergreifende Gruppe von 35 Personen einen offenen Brief veröffentlichte, in dem sie sofortiges Handeln forderte. In dem Brief wird hervorgehoben, dass Groks Fähigkeiten ausgenutzt wurden, um nicht einvernehmliche intime Deepfakes und sexualisierte Inhalte zu erstellen, die sich an Frauen und Kinder richten.
In Staaten wie Arizona haben bereits Ermittlungen begonnen, wo Generalstaatsanwalt Kris Mayes am 15. Januar eine Untersuchung eingeleitet hat und dabei die beunruhigende Natur der erzeugten Bilder angeführt hat. Der kalifornische Generalstaatsanwalt Rob Bonta richtete ein Unterlassungsschreiben an xAI, in dem er die Entfernung von CSAM und nicht einvernehmlichen Inhalten forderte. Die Generalstaatsanwaltschaft von Florida führt ebenfalls Gespräche mit X, um sicherzustellen, dass Kindersicherheitsschutzmaßnahmen vorhanden sind.
Das Ausmaß des Problems
Jüngsten Schätzungen zufolge haben Grok-Benutzer in nur elf Tagen rund 3 Millionen fotorealistische sexualisierte Bilder erstellt, darunter etwa 23.000 mit der Darstellung von Kindern. Im Gegensatz zu X fehlten auf der Website von Grok zunächst Maßnahmen zur Altersverifizierung, was den Zugriff auf schädliche Inhalte erleichterte. xAI reagierte auf die Anschuldigungen abweisend und behauptete, dass es sich bei der Berichterstattung um „Legacy-Media-Lügen“ handele.
Gesetze und Durchsetzung zur Altersüberprüfung
Der rechtliche Druck fällt mit der Einführung von Gesetzen zur Altersüberprüfung in mehreren Bundesstaaten zusammen, die einen Altersnachweis für den Zugriff auf Pornografie verlangen. Die Durchsetzung wird jedoch durch die schiere Menge an KI-generierten Inhalten und die Schwierigkeit, festzustellen, was Pornografie darstellt, erschwert. In einigen Bundesstaaten, beispielsweise in Louisiana, muss mehr als ein Drittel des Inhalts einer Website als explizit gelten, bevor Einschränkungen gelten.
Zukünftige Gesetzgebung und Reaktion der Technologiebranche
Die Gesetzgeber der Bundesstaaten erwägen derzeit weitere Gesetze zur Bekämpfung von KI-generiertem CSAM. Der Vertreter des US-Bundesstaates Arizona, Nick Kupper, hat einen Gesetzentwurf vorgeschlagen, der eine Altersüberprüfung für Darsteller in KI-generierten Inhalten vorschreibt, während der Mehrheitsführer im Senat von Georgia, Jason Anavitarte, die Einführung eines Gesetzes plant, um die Erstellung von KI-generiertem sexuellem Material mit Minderjährigen zu kriminalisieren.
Pornhub, eine große Plattform für Inhalte für Erwachsene, hat sich in vielen Bundesstaaten mit Gesetzen zur Altersüberprüfung selbst blockiert und argumentiert, dass die Anforderungen unpraktisch und invasiv seien. Das Unternehmen schlägt eine gerätebasierte Altersüberprüfung als mögliche Lösung vor, doch Technologiegiganten wie Google, Apple und Microsoft haben noch nicht auf den Vorschlag reagiert.
Die schnelle Reaktion der Regulierungsbehörden unterstreicht die wachsende Besorgnis über das Potenzial von KI-generiertem Missbrauchsmaterial und signalisiert eine neue Ära der rechtlichen Prüfung für Technologieunternehmen, die sich nicht mit den Risiken ihrer eigenen Technologien befassen.
