RADARBOJONEGORO.JAWAPOS.COM – Tiga hari setelah mengancam bakal memutus akses untuk media sosial X (dulu Twitter) dan platform kecerdasan buatan (AI) Grok yang tertanam pada media sosial tersebut, Kementerian Komunikasi dan Digital (Komdigi) RI menunjukkan bahwa mereka tidak main-main. Per Sabtu siang (10/1), Grok tidak dapat lagi diakses di Indonesia.
Komdigi memutuskan memblokir platform Grok menyusul maraknya kasus pelecehan dan pembuatan konten asusila yang berakar dari penggunaan AI tersebut. Selain itu, Komdigi meminta klarifikasi kepada X terkait fitur tersebut.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok. Pemerintah memandang praktik deepfake (pembuatan konten palsu dari rupa asli) seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” jelas Menkomdigi Meutya Hafid dalam pernyataan resmi kementerian pada Sabtu.
Sebagai pengingat kembali, baru-baru ini Grok meluncurkan fitur yang memberi kesempatan pada pengguna media sosial X untuk mengubah seluruh foto yang ada di dalam media sosial tersebut menggunakan teknologi AI. Akar masalahnya terletak pada ketiadaan batasan yang ditetapkan dalam fitur tersebut.
Masalah utama yang timbul dari fitur tersebut adalah setiap pengguna X dapat seenaknya mencomot dan mengubah foto milik orang lain tanpa izin, termasuk karya seni dan foto pribadi. Kemudian, tidak ada batasan prompt atau perintah yang ditetapkan oleh Grok, sehingga banyak pengguna yang usil memerintahkan AI tersebut membuat editan foto tidak senonoh.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” jelas Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar pada Rabu (7/1).
Tidak hanya Komdigi, DPR RI juga turut angkat suara mengenai problem digital tersebut. “Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya” ujar anggota Komisi I DPR RI, Amelia Anggraini dalam rilis resmi pada Jumat (9/1).
Pihak X dan xAI selaku pengembang Grok sendiri sudah memulai langkah preventif menanggapi kasus tersebut. Namun saat ini, mereka hanya menaruh fitur tersebut untuk pelanggan berbayar Grok.
Pemilik X dan xAI, Elon Musk mengancam menjerat pengguna AI miliknya yang usil ke ranah hukum. Namun hingga saat ini, belum ada tindakan lebih lanjut selain membatasi fitur ke pengguna berbayar.
“Siapapun yang memakai Grok untuk menciptakan konten bersifat ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” klaim Musk melalui media sosial pribadinya pada Rabu. (edo)
Editor : Yuan Edo Ramadhana