RADARBOJONEGORO.JAWAPOS.CO - Kemajuan teknologi kecerdasan buatan (AI) kembali menuai sorotan. Fitur pengeditan gambar pada Grok AI, asisten berbasis AI milik platform X (sebelumnya Twitter), justru dinilai membuka celah baru bagi pelecehan digital.
Sejumlah artis dan figur publik Indonesia mengeluhkan foto mereka dimanipulasi tanpa izin, kerap dengan nuansa seksual yang menjurus vulgar.
Fenomena ini memicu kekhawatiran serius soal privasi dan keamanan data pribadi. Dengan satu perintah sederhana, gambar yang sebelumnya biasa dapat diubah menjadi konten bermuatan seksual. “Ini seperti memberikan senjata kepada orang-orang tidak bertanggung jawab,” ujar salah satu korban, menggambarkan betapa mudahnya teknologi tersebut disalahgunakan.
Keluhan mulai mencuat sejak akhir Desember 2025, seiring popularitas fitur edit gambar Grok AI. Perempuan menjadi kelompok yang paling sering menjadi sasaran. Dari kalangan idola, anggota JKT48 Freya Jayawardana dan Shania Gracia menyuarakan keresahan mereka secara terbuka.
Freya, yang baru ditunjuk sebagai kapten JKT48, bahkan menuliskan pernyataan tegas di akun X miliknya. Ia meminta Grok menolak segala bentuk pemrosesan, pengambilan, maupun pengeditan foto dirinya tanpa izin. Unggahan tersebut viral dan dianggap sebagai simbol perlawanan terhadap potensi pelecehan berbasis AI.
Sementara itu, Shania Gracia mengaku kini enggan mengunggah foto ke media sosial karena khawatir dimanipulasi. Ia menyebut praktik tersebut sebagai “pelecehan yang tak terlihat, tapi nyata,” karena dampaknya dirasakan langsung oleh korban meski dilakukan secara digital.
Protes serupa datang dari penyanyi Bernadya Ribka. Melalui media sosial, ia mengkritik pengguna Grok yang memanfaatkan AI tersebut untuk konten tidak pantas. Ia menilai perilaku itu sudah melampaui batas etika dan mencerminkan ketidakdewasaan dalam menggunakan teknologi.
Aktris Sisca Saras juga mengecam penggunaan foto tanpa consent untuk keperluan seksual, menyebutnya sebagai bentuk kekerasan digital yang harus segera dihentikan. Dari kalangan komika, Arie Kriting turut bersuara lantang. Ia melarang keras Grok maupun pihak mana pun menyalahgunakan foto dirinya tanpa izin, karena berpotensi menjadi alat pelecehan.
Gelombang penolakan ini diperkuat oleh anggota JKT48 lainnya, Greesella Adhalia, yang juga meminta Grok menolak seluruh permintaan edit foto miliknya. Kasus-kasus tersebut menunjukkan bahwa persoalan ini tidak bersifat individual, melainkan sistemik.
Masalahnya pun tidak hanya mengancam selebriti. Pengguna umum melaporkan bahwa Grok dapat mengubah foto polos menjadi gambar berbikini atau lebih vulgar hanya dengan prompt sederhana, tanpa verifikasi persetujuan pemilik foto. Sejumlah netizen menyebut kondisi ini sebagai “makin ngeri”, karena siapa pun bisa menjadi korban.
Bahkan, Grok sendiri disebut masih memiliki keterbatasan dalam mencegah penyalahgunaan, meski pengguna telah mengubah pengaturan privasi. Hal ini menambah urgensi perlindungan ekstra dari sisi pengguna.
Sejumlah langkah pencegahan pun direkomendasikan. Pertama, pengguna disarankan menonaktifkan penggunaan data untuk pelatihan Grok melalui pengaturan X, dengan mematikan opsi pemanfaatan unggahan dan interaksi untuk pelatihan AI. Kedua, menggunakan alat anti-AI seperti pixel poisoning—misalnya Nightshade atau Glaze—yang dapat mengganggu pemrosesan gambar oleh sistem AI.
Langkah lain yang dianjurkan adalah menambahkan watermark, menurunkan resolusi foto, menghindari unggahan foto wajah penuh atau konten pribadi sensitif, serta mempertimbangkan format gambar yang lebih sulit diedit. Pengguna juga diminta aktif melaporkan konten manipulatif dan mendorong lahirnya regulasi AI yang lebih ketat, termasuk yang tengah dibahas di Indonesia.
Protes dari para artis ini diharapkan dapat menekan X dan Elon Musk untuk memperbaiki sistem Grok, terutama dalam hal perlindungan consent dan pembatasan fitur edit gambar. Di tengah pesatnya perkembangan teknologi, pesan yang mengemuka menjadi jelas: inovasi tidak boleh berjalan tanpa etika. Teknologi boleh maju, tetapi keselamatan dan martabat manusia harus tetap menjadi batasnya. (kam/bgs)
Editor : Hakam Alghivari