Chatbot Grok s umělou inteligencí Elona Muska se používá ke generování tisíců sexuálně explicitních obrázků na X (dříve Twitter), včetně obrázků, které mohou zobrazovat nezletilé, což vyvolává vážné otázky ohledně moderování obsahu a zásad obchodu s aplikacemi. Navzdory jasnému porušování vlastních pravidel X, stejně jako pokynů App Store společností Apple a Google Play, obě platformy nadále hostují aplikace X a Grok.
Problém: Nesouhlasný obsah generovaný AI
Během posledních dvou týdnů se objem explicitních obrázků vytvořených Grokem v X dramaticky zvýšil. Jeden výzkumník uvedl přibližně 6 700 sexuálně explicitních obrázků vytvořených za hodinu mezi 5. a 6. lednem. Jiný analytik našel 31. prosince více než 15 000 snímků vytvořených během dvou hodin, z nichž mnohé zachycovaly ženy v odhalujícím oblečení. Přestože některé obrázky byly odstraněny nebo označeny jako obsah pro dospělé, rozsah problému zůstává obrovský.
Toto není nový problém; Podobné aplikace již byly z obchodů s aplikacemi odstraněny, ale X a Grok zůstávají dostupné. Hlavním problémem je, že umělá inteligence nyní může snadno generovat a distribuovat nekonsensuální sexuální grafiku ve velkém, takže efektivní moderování je téměř nemožné.
Regulační tlak se zvyšuje
Evropská unie odsoudila obsah jako „ilegální“ a „pobuřující“ a požadovala, aby společnost X uchovala všechny interní dokumenty související s Grokem pro vyšetřování podle zákona o digitálních službách. Regulační orgány ve Spojeném království, Indii a Malajsii také přezkoumávají platformu. Konkrétní akce Applu a Googlu však zůstávají bez povšimnutí.
„Soukromé společnosti mají mnohem větší flexibilitu, aby mohly rychle reagovat,“ říká Sloane Thompson z EndTAB. “Zákony vyžadují čas…technologie přichází na trh závratnou rychlostí.”
Proč na tom záleží: Rostoucí krize
Šíření nekonsensuálního obsahu generovaného umělou inteligencí představuje velkou eskalaci zneužívání sexuálních obrazů. Problém dále komplikuje skutečnost, že právní opravné prostředky nabývají účinku pomalu. Zákon USA TAKE IT DOWN, i když je krokem vpřed, vyžaduje, aby oběti vyhledaly pomoc předtím, než budou podniknuty jakékoli kroky, takže mnoho z nich zůstává zranitelných.
Skutečné řešení spočívá v proaktivních opatřeních od technologických společností jako Apple, Google a X. Technická ochranná opatření a přísnější filtry obsahu by mohly šíření tohoto škodlivého materiálu alespoň zpomalit.
Podstata
Pokračující dostupnost Grok a X v obchodech s aplikacemi, navzdory rozsáhlému zneužívání, je selháním moderování obsahu a firemní odpovědnosti. Pokud techničtí giganti nepřijmou rozhodná opatření, nekonsensuální obrázky generované umělou inteligencí budou jen běžnější, což zvýší regulační tlak a naruší důvěru v digitální platformy.
