Chatbot oparty na sztucznej inteligencji Elona Muska, Grok, jest używany do generowania tysięcy obrazów o charakterze jednoznacznie seksualnym w serwisie X (dawniej Twitter), w tym obrazów mogących przedstawiać osoby nieletnie, co rodzi poważne pytania dotyczące moderowania treści i zasad sklepu z aplikacjami. Pomimo wyraźnych naruszeń zasad X, a także wytycznych Apple i Google Play App Store, na obu platformach nadal udostępniane są aplikacje X i Grok.
Problem: treści generowane bez zgody AI
W ciągu ostatnich dwóch tygodni ilość wulgarnych obrazów tworzonych przez Groka w X drastycznie wzrosła. Jeden z badaczy zgłosił, że między 5 a 6 stycznia generowanych na godzinę było około 6700 obrazów o charakterze jednoznacznie seksualnym. Inny analityk odkrył, że 31 grudnia w ciągu dwóch godzin wygenerowano ponad 15 000 zdjęć, z których wiele przedstawiało kobiety w odsłaniających ubraniach. Chociaż niektóre obrazy zostały usunięte lub oznaczone jako treści dla dorosłych, skala problemu pozostaje ogromna.
Nie jest to nowy problem; Podobne aplikacje zostały już usunięte ze sklepów z aplikacjami, ale X i Grok pozostają dostępne. Główny problem polega na tym, że sztuczna inteligencja może teraz z łatwością generować i rozpowszechniać na dużą skalę grafiki o charakterze seksualnym bez zgody, co sprawia, że skuteczne moderowanie jest prawie niemożliwe.
Ciśnienie regulacyjne wzrasta
Unia Europejska potępiła treści jako „nielegalne” i „skandaliczne”, nakładając na X obowiązek zachowania wszystkich dokumentów wewnętrznych związanych z Grokiem na potrzeby dochodzenia na mocy ustawy o usługach cyfrowych. Organy regulacyjne w Wielkiej Brytanii, Indiach i Malezji również dokonują przeglądu platformy. Jednak konkretne działania Apple i Google pozostają niezauważone.
„Firmy prywatne mają znacznie większą elastyczność w zakresie szybkiego reagowania” – mówi Sloane Thompson z EndTAB. „Przepisy wymagają czasu… technologia wchodzi na rynek z zawrotną szybkością.”
Dlaczego to ma znaczenie: rosnący kryzys
Rozpowszechnianie treści generowanych bez zgody przez sztuczną inteligencję oznacza poważną eskalację nadużywania obrazów seksualnych. Problem dodatkowo komplikuje fakt, że środki prawne powoli wchodzą w życie. Amerykańska ustawa TAKE IT DOWN stanowi krok naprzód, ale wymaga od ofiar zwrócenia się o pomoc przed podjęciem jakichkolwiek działań, przez co wiele osób jest bezbronnych.
Prawdziwym rozwiązaniem są proaktywne działania firm technologicznych, takich jak Apple, Google i X. Zabezpieczenia techniczne i bardziej rygorystyczne filtry treści mogą przynajmniej spowolnić rozprzestrzenianie się tego szkodliwego materiału.
Esencja
Ciągła dostępność Groka i X w sklepach z aplikacjami, pomimo powszechnych nadużyć, oznacza niepowodzenie w moderowaniu treści i odpowiedzialności korporacyjnej. Jeśli giganci technologiczni nie podejmą zdecydowanych działań, obrazy generowane bez zgody przez sztuczną inteligencję staną się coraz bardziej powszechne, co zwiększy presję regulacyjną i podważy zaufanie do platform cyfrowych.
