Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses sementara terhadap aplikasi Grok sebagai langkah melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi atau artificial intelligence (AI). Kebijakan ini diambil menyusul meningkatnya kekhawatiran terhadap maraknya praktik penyalahgunaan teknologi AI dalam bentuk konten manipulatif yang merugikan individu secara serius.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa langkah tersebut merupakan wujud kehadiran negara dalam menjaga ruang digital agar tetap aman, beretika, serta menghormati hak asasi manusia. Dalam pernyataan resminya di Jakarta pada Sabtu, 10 Januari, Meutya menyampaikan bahwa pemerintah tidak akan mentoleransi praktik digital yang berpotensi melanggar martabat dan keamanan warga negara.

Baca Juga: Bulog Siap Ekspor Beras ke Malaysia 2026

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya Hafid sebagaimana dikutip dari Antaranews.

Pemutusan akses terhadap aplikasi Grok bersifat sementara dan dilakukan sebagai langkah preventif. Pemerintah menilai perlu adanya evaluasi mendalam terhadap mekanisme pengawasan konten serta sistem mitigasi risiko yang dimiliki oleh platform berbasis AI tersebut. Tanpa pengamanan yang memadai, teknologi kecerdasan buatan dapat disalahgunakan untuk membuat konten palsu yang menyerupai individu nyata, terutama perempuan dan anak-anak.

Deepfake seksual nonkonsensual menjadi salah satu isu utama yang mendorong kebijakan ini. Teknologi AI memungkinkan manipulasi gambar dan video secara sangat realistis, sehingga kerap sulit dibedakan dari konten asli. Jika disebarluaskan, konten semacam ini dapat menyebabkan kerugian psikologis, sosial, hingga hukum bagi korban, sekaligus menciptakan ketidakamanan di ruang digital.

Komdigi menilai bahwa perlindungan masyarakat harus ditempatkan sebagai prioritas utama dalam pengembangan dan pemanfaatan teknologi digital. Oleh karena itu, pemerintah mendorong seluruh penyelenggara sistem elektronik, termasuk pengembang aplikasi berbasis AI, untuk mematuhi prinsip kehati-hatian, transparansi, dan tanggung jawab sosial.

Selain pemutusan akses, pemerintah juga membuka ruang dialog dengan pihak pengelola aplikasi Grok. Dialog ini bertujuan untuk memastikan adanya komitmen nyata dalam memperbaiki sistem, meningkatkan pengawasan konten, serta memperkuat perlindungan terhadap pengguna. Pemerintah menegaskan bahwa akses dapat dipulihkan apabila seluruh persyaratan keamanan dan etika telah dipenuhi.

Langkah Komdigi ini juga menjadi sinyal kuat bahwa Indonesia serius menghadapi tantangan era kecerdasan buatan. Di satu sisi, AI dipandang sebagai teknologi strategis yang dapat mendorong inovasi dan pertumbuhan ekonomi. Namun di sisi lain, pemanfaatannya harus diiringi dengan regulasi yang melindungi hak-hak dasar masyarakat.

Berita Rekomendasi: Anggaran Program Makan Bergizi Gratis 2026 Tembus Rp335 Triliun

Meutya Hafid menambahkan bahwa kebijakan ini sejalan dengan komitmen pemerintah dalam menciptakan ekosistem digital yang sehat dan bertanggung jawab. Negara tidak hanya berperan sebagai fasilitator teknologi, tetapi juga sebagai pelindung warga dari dampak negatif transformasi digital.

Dengan kebijakan pemutusan akses sementara terhadap aplikasi Grok, pemerintah berharap dapat memberikan efek jera sekaligus menjadi pembelajaran bagi platform digital lainnya. Ke depan, Komdigi akan terus memperkuat pengawasan dan regulasi agar ruang digital Indonesia tetap aman, bermartabat, dan bebas dari penyalahgunaan teknologi AI.

Sumber: Antara news