JAKARTA — Pemilik platform X, Elon Musk, mengambil langkah pembatasan terhadap fitur pembuatan dan penyuntingan gambar berbasis kecerdasan buatan Grok. Kebijakan ini diterapkan menyusul maraknya penyalahgunaan Grok AI untuk menghasilkan konten asusila dan pornografi deepfake. Mulai Jumat, 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok di X hanya dapat diakses oleh pelanggan berbayar X Premium.
Pembatasan tersebut langsung dirasakan pengguna X versi gratis. Ketika mencoba meminta Grok membuat atau mengedit gambar melalui perintah dengan tagar @Grok, sistem menampilkan pesan yang mengarahkan pengguna untuk berlangganan X Premium. Dalam pesan itu disebutkan bahwa pembuatan dan penyuntingan gambar saat ini dibatasi untuk pelanggan berbayar, disertai tautan menuju halaman langganan.
Namun, kebijakan ini belum sepenuhnya menutup akses. Berdasarkan temuan sejumlah pengguna, Grok masih dapat digunakan untuk membuat gambar jika diakses langsung melalui tab Grok di dalam aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga masih memungkinkan pembuatan gambar tanpa pembatasan serupa. Kondisi ini memunculkan kritik bahwa kebijakan yang diambil belum konsisten dan belum menyentuh akar persoalan.
Langkah pembatasan ini merupakan respons perusahaan xAI terhadap sorotan publik dan tekanan dari berbagai pihak. Sejumlah lembaga pemantau internet melaporkan bahwa Grok AI digunakan untuk membuat konten pornografi, termasuk yang melibatkan manipulasi wajah dan tubuh remaja. Isu tersebut memicu keprihatinan di banyak negara karena menyangkut perlindungan anak, privasi, serta hak atas citra diri.
Kritik juga datang dari pemerintah di Eropa dan Asia. Di Inggris, juru bicara Perdana Menteri Keir Starmer menilai pembatasan berbasis langganan tidak menyelesaikan masalah inti. Menurutnya, kebijakan tersebut hanya memindahkan fitur yang berpotensi menghasilkan gambar ilegal ke layanan berbayar, bukan mencegah penyalahgunaan sejak awal. Pandangan serupa disampaikan Komisi Eropa yang menegaskan bahwa baik pengguna gratis maupun berbayar, konten asusila tetap tidak dapat diterima.
Di Amerika Serikat, isu ini bahkan merambah ke ranah distribusi aplikasi. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk mendesak evaluasi terhadap keberadaan aplikasi X di toko aplikasi mereka. Alasannya, platform tersebut dinilai belum memenuhi ketentuan distribusi terkait keamanan pengguna dan moderasi konten.
Di Indonesia, perhatian serius datang dari Kementerian Komunikasi dan Digital atau Komdigi. Kementerian ini menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Hasil penelusuran sementara menunjukkan belum adanya pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi foto pribadi menjadi konten asusila bukan sekadar pelanggaran kesusilaan. Praktik tersebut dinilai sebagai perampasan kendali individu atas identitas visualnya, yang dapat menimbulkan dampak psikologis, sosial, dan kerugian reputasi. Menurutnya, hak atas citra diri merupakan bagian dari hak privasi yang harus dilindungi.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif. Upaya tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi. Pemerintah juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib patuh terhadap peraturan perundang-undangan nasional.
Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan, termasuk terhadap layanan Grok AI dan platform X. Selain itu, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, konten pornografi dan manipulasi citra pribadi tanpa hak dapat dikenai sanksi pidana. Ancaman hukuman mencakup pidana penjara dan denda sesuai ketentuan yang berlaku.
Kasus pembatasan Grok AI ini menegaskan tantangan besar dalam pengelolaan teknologi kecerdasan buatan. Di satu sisi, inovasi AI menawarkan kemudahan dan kreativitas baru. Di sisi lain, tanpa pengamanan yang kuat, teknologi yang sama berpotensi menjadi alat pelanggaran privasi dan martabat manusia. Pemerintah dan platform digital kini dihadapkan pada tuntutan untuk memastikan bahwa perkembangan AI berjalan seiring dengan perlindungan hak asasi dan kepatuhan hukum.
