JAKARTA — Polemik penggunaan Grok AI di platform X belum menunjukkan tanda mereda. Pembatasan fitur pembuatan dan penyuntingan gambar yang diumumkan oleh pemilik X, Elon Musk, justru memperluas perdebatan mengenai batas tanggung jawab platform digital dalam mengelola teknologi kecerdasan buatan. Di tengah derasnya kritik internasional, kebijakan tersebut dinilai masih jauh dari kata tuntas.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok melalui perintah di lini masa X dibatasi hanya untuk pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok dengan tagar @Grok akan menerima pemberitahuan otomatis bahwa fitur tersebut terkunci dan hanya tersedia bagi pelanggan berbayar. Pembatasan ini diumumkan setelah meningkatnya laporan penyalahgunaan Grok untuk menghasilkan konten asusila dan pornografi berbasis manipulasi foto.
Grok AI sebelumnya dipromosikan sebagai chatbot cerdas yang mampu menjawab pertanyaan kompleks sekaligus menghasilkan gambar berbasis kecerdasan buatan. Namun, kemampuan visual inilah yang kemudian menjadi sumber masalah. Sejumlah organisasi pemantau internet menemukan bahwa Grok digunakan untuk membuat gambar pornografi deepfake, yakni manipulasi foto seseorang agar tampak terlibat dalam adegan asusila, padahal tidak pernah terjadi.
Fenomena ini menimbulkan kekhawatiran luas karena deepfake semakin sulit dibedakan dari gambar asli. Bagi masyarakat awam, hasil manipulasi AI kerap terlihat meyakinkan. Akibatnya, korban dapat dengan mudah difitnah, dipermalukan, atau dirugikan secara sosial hanya melalui satu gambar yang tersebar di ruang digital. Dalam banyak kasus, penyebaran terjadi tanpa sepengetahuan atau persetujuan korban.
Meski pembatasan telah diberlakukan, efektivitas kebijakan ini dipertanyakan. Pengguna gratis masih dilaporkan dapat membuat gambar melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga belum menerapkan pembatasan serupa. Kondisi ini memperkuat kritik bahwa langkah yang diambil xAI bersifat parsial dan belum menyentuh seluruh ekosistem layanan.
Reaksi keras datang dari berbagai negara. Pemerintah Inggris menyatakan bahwa pembatasan berbasis langganan tidak menyelesaikan masalah utama. Menurut mereka, persoalan bukan terletak pada siapa yang membayar, melainkan pada kemampuan sistem AI untuk menghasilkan konten ilegal sejak awal. Selama Grok masih dapat memproduksi gambar asusila, risiko penyalahgunaan tetap terbuka.
Pandangan senada disampaikan oleh Uni Eropa. Komisi Eropa menegaskan bahwa konten asusila tidak dapat diterima dalam kondisi apa pun. Otoritas Eropa menilai bahwa pembatasan akses hanya bersifat kosmetik jika tidak disertai penguatan sistem moderasi, penyaringan perintah, dan pencegahan teknis yang ketat. Uni Eropa juga menyoroti pentingnya akuntabilitas platform digital terhadap dampak sosial teknologi yang mereka kembangkan.
Di Amerika Serikat, polemik Grok AI bahkan merembet ke ranah politik dan bisnis. Sejumlah senator dilaporkan melayangkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Para legislator menilai platform tersebut berpotensi melanggar standar distribusi aplikasi jika gagal melindungi pengguna dari konten berbahaya.
Di Indonesia, isu Grok AI juga mendapat perhatian serius. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap layanan tersebut. Pemerintah menilai praktik manipulasi foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli. Menurutnya, manipulasi digital terhadap foto pribadi bukan hanya pelanggaran norma kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Alexander menekankan bahwa dampak pelanggaran hak citra diri dapat sangat luas. Korban tidak hanya menghadapi tekanan psikologis, tetapi juga stigma sosial dan kerusakan reputasi yang dapat memengaruhi kehidupan pribadi maupun profesional. Dalam konteks digital, kerugian tersebut sering kali bersifat jangka panjang karena jejak konten sulit dihapus sepenuhnya.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan adanya mekanisme perlindungan yang efektif. Pemerintah mendorong penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi. Seluruh platform digital diingatkan untuk bertanggung jawab atas teknologi yang mereka sediakan.
Pemerintah juga menegaskan bahwa kepatuhan terhadap hukum nasional bersifat wajib. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan. Opsi pemblokiran layanan Grok AI maupun platform X dinyatakan terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi tersebut diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi dan manipulasi citra pribadi tanpa hak diatur secara tegas, dengan ancaman pidana penjara dan denda. Ketentuan ini berlaku bagi individu maupun pihak yang menyediakan sarana teknologi.
Kasus Grok AI mencerminkan tantangan besar dalam pengelolaan kecerdasan buatan generatif. Di satu sisi, AI membuka peluang inovasi yang luas. Di sisi lain, tanpa pengamanan dan regulasi yang memadai, teknologi ini dapat menjadi alat pelanggaran privasi dan martabat manusia. Polemik ini menunjukkan bahwa inovasi teknologi kini tidak lagi bisa dilepaskan dari tanggung jawab sosial dan hukum.
Tekanan global terhadap X menandai perubahan sikap publik terhadap platform digital. Masyarakat dan pemerintah semakin menuntut akuntabilitas, bukan sekadar inovasi. Grok AI kini menjadi contoh nyata bagaimana kecerdasan buatan dapat berubah dari terobosan teknologi menjadi krisis kepercayaan ketika pengawasan dan perlindungan pengguna tidak berjalan seimbang.