Kemkomdigi Dalami Dugaan Penyalahgunaan Grok AI di Platform X

ThePhrase.id - Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X (sebelumnya Twitter) yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/2026).

Kemkomdigi menegaskan manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan perampasan kendali individu atas identitas visualnya yang dapat berdampak pada kondisi psikologis, tekanan sosial, hingga kerusakan reputasi korban.

Saat ini, Kemkomdigi berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk memastikan penguatan moderasi konten, pencegahan deepfake asusila, serta penanganan cepat terhadap laporan pelanggaran privasi.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.

Kemkomdigi juga mengingatkan seluruh PSE untuk mematuhi peraturan perundang-undangan Indonesia. Ketidakpatuhan dapat berujung pada sanksi administratif hingga pemutusan akses layanan. Selain itu, penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dan manipulasi citra tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan yang berlaku.

Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkomdigi.

“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tutupnya. [nadira]