RADARBOJONEGORO.JAWAPOS.COM – Fitur baru kecerdasan buatan Grok milik perusahaan media sosial X (dulu Twitter) memantik banyak kontroversi. Bahkan Kementerian Komunikasi dan Digittal (Komdigi) RI turut angkat suara mengenai fitur tersebut.
Pada hakikatnya, Grok kini memiliki fitur untuk mengedit berbagai gambar yang tersebar di X secara instan menggunakan algoritma AI yang sudah tertanam. Masalahnya, fitur tersebut tidak memiliki batasan konkrit, sehingga semua gambar milik siapapun dapat diedit tanpa izin.
Masalah lebih besar mulai merebak ketika berbagai pengguna menyadari bahwa fitur Grok tersebut dapat digunakan untuk mengedit foto orang lain sesuka hati. Jadilah berbagai editan foto asusila atau tidak senonoh tanpa izin menggunakan AI mulai merebak di kalangan umum, dan melecehkan korban edit tersebut, baik perempuan maupun laki-laki.
Menurut Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar, Grok belum memiliki batasan atau pengaturan ketat untuk mencegah produksi konten asusila tersebut. Selain melanggar peraturan mengenai kesusilaan, penggunaan AI juga melanggar hukum hak privasi dan hak atas citra diri.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” jelas Alex dalam rilis resmi Komdigi pada Rabu (7/1).
Sehingga Komdigi mengupayakan diskusi dengan berbagai Penyelenggara Sistem Elektronik (PSE) untuk mengimplementasikan beraturan dan fitur yang dapat mencegah tindakan serupa. Terhadap Grok dan X, Komdigi juga mengancam pemblokiran layanan apabila platform AI dan media sosial tersebut tidak mengindahkan peringatan mereka.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tambah Alex.
Selain itu, Alex mendorong para pengguna media sosial yang telah menjadi korban editan asusila untuk mendorong pelaku ke ranah hukum. Lebih luas lagi, Alex mengingatkan bahwa berselancar di internet tetap mengedepankan etika.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujarnya.
Tentu, masalah ini tidak hanya menimpa Indonesia saja. Uni Eropa (EU) dan Pemerintahan Inggris menyerukan komplain dan ancaman serupa sejak Senin (5/1) karena permasalahan yang sama.
“Semua perusahaan memiliki tanggung jawab untuk mematuhi hukum melalui produk mereka, dan dalam kasus ini, pertanggungjawabannya adalah menghapus konten asusila hasil ciptaan AI tersebut. Kami tidak mau hal ini terjadi di Eropa, sungguh menjijikkan,” ujar Juru Bicara Bidang Teknologi Uni Eropa, Thomas Regnier kepada BBC pada Selasa (6/1). (edo)
Editor : Yuan Edo Ramadhana