Jakarta (tutur.co.id) — Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan belum adanya pengaturan yang eksplisit dan memadai dalam Grok AI untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata, khususnya yang melibatkan warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri seseorang.
Kemkomdigi memandang manipulasi digital terhadap foto pribadi tidak hanya sebagai pelanggaran kesusilaan, tetapi juga sebagai bentuk perampasan kendali individu atas identitas visualnya. Praktik semacam ini berisiko menimbulkan dampak psikologis, sosial, hingga kerusakan reputasi bagi korban.
Sebagai tindak lanjut, Kemkomdigi saat ini melakukan koordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan konten deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
Alexander menegaskan bahwa setiap PSE yang beroperasi di Indonesia memiliki kewajiban untuk memastikan teknologi yang mereka sediakan tidak disalahgunakan sebagai sarana eksploitasi seksual, pelanggaran privasi, maupun perusakan martabat individu. Kepatuhan terhadap peraturan perundang-undangan nasional menjadi syarat mutlak bagi seluruh PSE.
Kemkomdigi juga mengingatkan bahwa apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif dari penyedia layanan, pemerintah memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X di wilayah Indonesia.
Dari sisi regulasi, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi diperkuat melalui Pasal 172 dan Pasal 407. Pasal tersebut mengatur definisi pornografi serta ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun, atau pidana denda sesuai ketentuan yang berlaku.
Kemkomdigi menegaskan bahwa baik penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif maupun pidana.
Alexander juga mengimbau masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri untuk menempuh jalur hukum yang tersedia, termasuk melaporkan kepada aparat penegak hukum serta mengajukan pengaduan resmi ke Kemkomdigi.
Melalui langkah ini, Kemkomdigi menegaskan komitmennya menjaga ruang digital Indonesia tetap aman, bermartabat, dan menghormati hak privasi setiap warga negara di tengah pesatnya perkembangan teknologi kecerdasan buatan. (sas)