Komdigi Putus Akses Sementara Grok, Lindungi Masyarakat dari Pornografi AI
JAKARTA, NusaBali.com – Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara terhadap aplikasi Grok.
Langkah ini diambil sebagai upaya melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi atau artificial intelligence (AI).
Menteri Komunikasi dan Digital Meutya Hafid menyatakan, kebijakan tersebut merupakan bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, serta menghormati hak asasi manusia. Pernyataan itu disampaikan Meutya di Jakarta, Sabtu (10/1/2026).
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya.
Menurut dia, penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek merupakan bentuk kekerasan berbasis digital. Dampaknya dinilai sangat merugikan korban, baik secara psikologis, sosial, maupun hukum.
Meutya menjelaskan, pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi atau menyebarluaskan konten terlarang.
Selain pemutusan akses, Komdigi juga telah meminta Platform X sebagai pihak terkait untuk segera hadir memberikan klarifikasi. Klarifikasi tersebut diperlukan untuk menjelaskan dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan dilakukan guna mencegah terulangnya penyalahgunaan teknologi tersebut.
“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya.
Ia menegaskan, tindakan pemutusan akses sementara ini memiliki dasar hukum yang jelas. Komdigi menjalankan kewenangannya sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan.
Seperti diketahui, Grok menuai kritik keras dari berbagai kalangan internasional karena dinilai memungkinkan pengguna membuat gambar bernuansa pornografi. Dalam pernyataannya, pihak Grok menyebut hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar. Namun, sejumlah pihak menuding aplikasi tersebut tetap memungkinkan pembuatan gambar tanpa harus berlangganan.
Sejumlah negara, antara lain Inggris, Uni Eropa, dan India, secara terbuka mengecam X dan Grok terkait isu tersebut. Uni Eropa bahkan meminta xAI untuk menyimpan seluruh dokumentasi yang berkaitan dengan chatbot tersebut.
Sementara itu, India dikabarkan memerintahkan X melakukan perubahan segera untuk menghentikan penyalahgunaan fitur pembuatan gambar, dengan ancaman pencabutan perlindungan safe harbor. Lembaga pengawas komunikasi Inggris juga menyatakan telah menghubungi xAI untuk meminta penjelasan terkait persoalan ini.
Komentar