Jakarta (tutur.co.id) — Pemerintah akhirnya menarik rem pada laju teknologi kecerdasan buatan yang dinilai melampaui batas etika. Melalui Kementerian Komunikasi dan Digital, akses aplikasi Grok—produk AI milik xAI di bawah Platform X—diputus sementara. Alasannya tegas: negara tak ingin ruang digital menjadi ladang kekerasan seksual berbasis teknologi, terutama terhadap perempuan dan anak.
Pemutusan akses terhadap Grok diumumkan Menteri Komunikasi dan Digital Meutya Hafid di Jakarta, Sabtu (10/1/2026). Kebijakan itu disebut sebagai langkah preventif sekaligus korektif untuk merespons maraknya penyalahgunaan teknologi akal imitasi dalam pembuatan konten pornografi palsu atau deepfake seksual nonkonsensual.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya. Negara, kata dia, memiliki tanggung jawab konstitusional untuk memastikan ruang digital tidak berubah menjadi arena kekerasan baru yang sulit dilacak dan dipulihkan dampaknya.
Teknologi deepfake memungkinkan wajah atau tubuh seseorang direkayasa ke dalam konten pornografi yang tampak nyata tanpa persetujuan. Dampaknya bukan sekadar reputasi yang hancur, tetapi juga trauma psikologis, tekanan sosial, hingga persoalan hukum bagi korban. Dalam banyak kasus, korban bahkan tidak pernah mengetahui konten tersebut beredar sampai kerusakan terjadi.
Meutya menegaskan pemutusan akses Grok bersifat sementara. Namun, langkah itu menjadi sinyal keras bahwa pemerintah tidak akan menunggu jatuhnya korban lebih banyak sebelum bertindak. Komdigi, lanjutnya, perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai dan tidak abai terhadap potensi penyalahgunaan teknologi yang mereka kembangkan.
Selain memblokir sementara, Komdigi juga memanggil Platform X untuk memberikan klarifikasi. Pemerintah ingin mendengar langsung sejauh mana dampak negatif penggunaan Grok serta langkah mitigasi konkret yang akan diambil agar fitur pembuatan gambar berbasis AI tidak terus disalahgunakan.
Langkah pemerintah ini memiliki dasar hukum. Komdigi merujuk Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam regulasi tersebut, setiap PSE diwajibkan memastikan sistem elektroniknya tidak memfasilitasi atau menyebarluaskan konten yang dilarang undang-undang.
Grok sendiri telah menuai kritik global. Meski pihak xAI menyatakan fitur pembuatan dan pengeditan gambar hanya tersedia bagi pelanggan berbayar di X, berbagai laporan menyebutkan celah yang memungkinkan pengguna non-berlangganan tetap memproduksi gambar bermuatan pornografi. Tuduhan ini memperkuat kesan bahwa pengamanan platform masih longgar.
Sejumlah negara telah lebih dulu bersuara. Inggris, Uni Eropa, dan India secara terbuka mengecam Platform X dan Grok. Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait chatbot tersebut. India dilaporkan mengancam akan mencabut perlindungan safe harbor jika X tidak segera menutup celah penyalahgunaan fitur AI-nya. Regulator komunikasi Inggris pun telah menghubungi xAI untuk meminta pertanggungjawaban.
Tindakan Komdigi menempatkan Indonesia dalam barisan negara yang mulai mengambil sikap tegas terhadap risiko teknologi AI. Namun, kasus Grok juga membuka pertanyaan yang lebih besar: sejauh mana negara mampu mengejar kecepatan inovasi teknologi tanpa terjebak pada reaksi sesaat?
Di satu sisi, regulasi diperlukan untuk melindungi martabat dan hak dasar warga negara. Di sisi lain, pemerintah dihadapkan pada tantangan merumuskan kebijakan yang tidak mematikan inovasi, tetapi cukup kuat untuk mencegah AI menjadi alat eksploitasi baru. Kasus Grok menjadi pengingat bahwa kecerdasan buatan, tanpa kendali etika dan hukum yang tegas, dapat berubah dari alat kemajuan menjadi sumber kekerasan digital yang sistemik.