Jakarta (tutur.co.id) — Perusahaan rintisan kecerdasan buatan milik Elon Musk, xAI, mulai memberlakukan pembatasan terhadap fitur pembuatan dan pengeditan gambar pada chatbot Grok yang terintegrasi di platform media sosial X. Langkah ini diambil setelah muncul gelombang kritik dan kecaman global terkait pemanfaatan teknologi tersebut untuk menciptakan dan menyebarkan gambar seksual tanpa persetujuan individu yang fotonya digunakan.
Sebelumnya, pengguna X dapat meminta Grok untuk mengedit foto seseorang secara langsung di kolom komentar, termasuk memanipulasi gambar dengan menghilangkan pakaian atau mengubah pose menjadi bernuansa seksual. Konten hasil manipulasi tersebut kemudian dipublikasikan secara otomatis sebagai balasan di platform, memicu kekhawatiran serius terkait privasi dan eksploitasi digital.
Mulai Jumat lalu, Grok memberi pemberitahuan kepada pengguna bahwa fitur pembuatan dan pengeditan gambar kini hanya tersedia bagi pelanggan berbayar di platform X. Kebijakan ini secara signifikan menghentikan kemampuan Grok untuk menghasilkan dan mempublikasikan otomatis gambar semacam itu melalui unggahan atau komentar pengguna.
Namun demikian, celah masih ditemukan. Pengguna tetap dapat membuat gambar seksual melalui tab Grok—area interaksi langsung dengan chatbot di dalam platform X—lalu mengunggahnya secara manual. Selain itu, aplikasi Grok versi terpisah yang beroperasi di luar platform X masih memungkinkan pembuatan gambar tanpa memerlukan langganan.
Dalam keterangannya, Elon Musk menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti mengunggah materi terlarang secara langsung ke platform.
Pembatasan ini belum sepenuhnya meredakan kekhawatiran regulator global. Komisi Eropa menilai langkah tersebut tidak menyentuh persoalan utama, yakni keberadaan dan penyebaran gambar tidak senonoh, termasuk yang melibatkan perempuan dan anak-anak. Otoritas Uni Eropa menegaskan bahwa status berbayar atau tidak berbayar tidak mengubah prinsip dasar perlindungan hukum terhadap konten ilegal.
Tekanan serupa juga datang dari berbagai pemerintah dan lembaga pengawas di sejumlah negara yang telah mengecam serta membuka penyelidikan atas maraknya konten eksplisit hasil generasi Grok di X. Situasi ini menuntut platform untuk menunjukkan langkah konkret dalam mencegah serta menurunkan konten ilegal secara efektif.
Di Jerman, Menteri Media Wolfram Weimer bahkan menyebut maraknya gambar semi-telanjang berbasis AI sebagai bentuk “industrialisasi pelecehan seksual,” menandakan meningkatnya kekhawatiran bahwa teknologi kecerdasan buatan tanpa pengamanan ketat dapat memperparah pelanggaran martabat dan hak individu.
Kasus Grok ini kembali menyoroti tantangan besar dalam tata kelola kecerdasan buatan global, khususnya terkait etika, perlindungan privasi, serta tanggung jawab platform digital dalam mencegah penyalahgunaan teknologi generatif. (sas)