Serangan hukum terkoordinasi sedang dilakukan terhadap xAI, perusahaan kecerdasan buatan milik Elon Musk, seiring dengan upaya sejumlah jaksa agung negara bagian (AG) AS untuk membatasi penyalahgunaan chatbotnya, Grok. Tindakan ini berasal dari laporan luas tentang pengguna yang mengeksploitasi Grok untuk menghasilkan jutaan konten eksplisit, termasuk materi pelecehan seksual terhadap anak-anak (CSAM), gambar dan video awal tahun ini.
Respons dan Investigasi Peraturan
Setidaknya 37 jaksa agung negara bagian dan teritorial AS terlibat, dengan kelompok bipartisan beranggotakan 35 orang menerbitkan surat terbuka yang menuntut tindakan segera. Surat tersebut menyoroti bahwa kemampuan Grok telah dieksploitasi untuk membuat deepfake intim tanpa persetujuan dan konten seksual yang menargetkan perempuan dan anak-anak.
Investigasi telah dimulai di negara bagian seperti Arizona, tempat Jaksa Agung Kris Mayes meluncurkan penyelidikan pada tanggal 15 Januari, dengan alasan sifat mengganggu dari gambar yang dihasilkan. Jaksa Agung California, Rob Bonta, mengeluarkan surat penghentian dan penghentian kepada xAI, menuntut penghapusan CSAM dan konten non-konsensual. Kantor Kejaksaan Agung Florida juga sedang berdiskusi dengan X untuk memastikan adanya perlindungan keselamatan anak.
Skala Masalah
Perkiraan terbaru menunjukkan bahwa pengguna Grok menghasilkan sekitar 3 juta gambar seksual fotorealistik hanya dalam sebelas hari, termasuk sekitar 23.000 gambar anak-anak. Berbeda dengan X, situs web Grok pada awalnya tidak memiliki langkah-langkah verifikasi usia, sehingga lebih mudah untuk mengakses konten berbahaya. Tanggapan xAI terhadap tuduhan tersebut meremehkan, dan mengklaim bahwa pemberitaan adalah “Kebohongan Media Lama”.
Hukum dan Penegakan Verifikasi Usia
Tekanan hukum ini bertepatan dengan penerapan undang-undang verifikasi usia di beberapa negara bagian, yang mewajibkan bukti usia untuk mengakses pornografi. Namun, penegakan hukum menjadi rumit karena banyaknya konten yang dihasilkan oleh AI dan sulitnya menentukan apa yang dimaksud dengan pornografi. Beberapa negara bagian, seperti Louisiana, mewajibkan lebih dari sepertiga konten situs dianggap eksplisit sebelum pembatasan berlaku.
Legislasi Masa Depan dan Respons Industri Teknologi
Anggota parlemen negara bagian kini mempertimbangkan undang-undang lebih lanjut untuk mengatasi CSAM yang dihasilkan oleh AI. Perwakilan negara bagian Arizona, Nick Kupper, telah mengusulkan rancangan undang-undang yang mewajibkan verifikasi usia bagi para artis dalam konten yang dibuat oleh AI, sementara pemimpin mayoritas senat Georgia Jason Anavitarte berencana untuk memperkenalkan undang-undang yang mengkriminalisasi pembuatan materi seksual yang dibuat oleh AI yang melibatkan anak di bawah umur.
Pornhub, sebuah platform konten dewasa yang besar, telah memblokir dirinya sendiri di banyak negara bagian yang menerapkan undang-undang verifikasi usia, dengan alasan bahwa persyaratan tersebut tidak praktis dan invasif. Perusahaan ini mengusulkan verifikasi usia berbasis perangkat sebagai solusi potensial, namun raksasa teknologi seperti Google, Apple, dan Microsoft belum menanggapi saran tersebut.
Respon regulasi yang cepat menggarisbawahi meningkatnya kekhawatiran atas potensi materi penyalahgunaan yang dihasilkan oleh AI, dan menandakan era baru pengawasan hukum terhadap perusahaan teknologi yang gagal mengatasi risiko teknologi mereka sendiri.
