Selular.id – Pemerintah melalui Kementerian Komdigi mengambil langkah berupa pemutusan akses sementara Grok AI, platform teknologi kecerdasan buatan dari Elon Musk, dengan tujuan menangkal arus produksi dan distribusi konten pornografi.
Penyelenggara Sistem Elektronik (PSE) diketahui diwajibkan menaati regulasi di republik, khususnya Permenkominfo No. 5 Tahun 2020 yakni meminta mereka memastikan platform tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan atau dokumen elektronik yang dilarang.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” terang Menteri Komdigi Meutya Hafid di Jakarta, Sabtu (10/1/2026).
Meutya menambahkan bahwa praktik deepfake seksual nonkonsensual adalah pelanggaran serius atas “hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.”
Pemerintah juga telah meminta platform X (dulu bernama Twitter), bagian dari xAI bersama Grok, untuk memberi klarifikasi terkait dampak negatif penggunaan Grok.
Baca juga:
- Grok AI Pilih Tabrak Anak-anak Demi Selamatkan Elon Musk
- Elon Musk Sebut Grok 4.1 Adalah AI Minim Halu dan Lebih Pintar
Indikasi tindakan manipulasi konten pengguna direpoduksi melalui teknologi AI Grok telah banyak dikecam sejumlah negara.
Khusus Indonesia, aparat penegak hukum telah mengancam memproses pidana pengelola Grok pasca Kementerian Komdigi melaporkan tindakan manipulasi foto pribadi atau deepfake bersifat sensitif tanpa persetujuan pemiliknya.
Minimnya Edukasi
Penyebaran manipulasi konten asusila bagi pendiri Indonesia Cyber Security Forum (ICSF) Ardi Sutedja adalah bentuk ancaman serius keamanan digital, serta kehormatan individu setiap warga negara.
Chatbot yang dikembangkan oleh perusahaan milik Elon Musk tersebut dipandang lebih “bebas” dalam membuat konten termasuk mengedit foto menjadi tak senonoh.
“Bayangkan foto Anda atau keluarga Anda tiba-tiba muncul di media sosial dalam bentuk yang vulgar dan merendahkan martabat, padahal Anda tidak pernah berpose seperti itu. Inilah kenyataan mengerikan yang kini mengintai masyarakat kita dengan hadirnya teknologi kecerdasan buatan yang semakin canggih seperti chatbot Grok,” kata Ardi dalam keterangan tertulis, Jumat (9/1/2026).
Ardi menjelaskan, belakangan ini Grok AI menjadi sorotan karena fiturnya yang kontroversial.
Berbeda dengan ChatGPT atau Gemini yang mempunyai batasan ketat, chatbot di platform media sosial (medsos) X (dulu Twitter) tersebut justru didesain untuk lebih “bebas”.
“Kemampuan ini bukan sekadar masalah teknis, tetapi ancaman serius terhadap keamanan digital dan kehormatan pribadi setiap warga negara Indonesia,” ungkap Ardi.
Dengan jumlah pengguna internet di Indonesia sebesar 212 juta orang, maka dianggap sebagai pasar digital yang amat besar dan menggiurkan.
Namun, di balik angka fantastis tersebut tersimpan kerentanan yang mengkhawatirkan.
Ardi mengutip survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) memperlihatkan sekitar 64% pengguna internet di Tanah Air belum memahami risiko keamanan digital secara komprehensif.
Kondisi ini diperparah dengan minimnya edukasi tentang bahaya manipulasi konten berbasis AI.
