SOLOBALAPAN.COM, JAKARTA – Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) kembali memicu kontroversi global yang serius.
Kali ini, sorotan tajam mengarah pada Grok, model AI yang dikembangkan oleh xAI, perusahaan milik miliarder Elon Musk.
Teknologi ini tengah menghadapi badai kritik dan teguran dari pemerintah berbagai negara setelah terbukti disalahgunakan untuk membuat gambar deepfake seksual.
Parahnya, manipulasi gambar ini dilakukan tanpa persetujuan subjek, termasuk menargetkan foto perempuan dewasa hingga anak di bawah umur.
Modus 'Melucuti' Pakaian Secara Digital
Berdasarkan laporan yang beredar, fitur generator gambar pada Grok dimanfaatkan oleh sejumlah pengguna platform X (dulunya Twitter) untuk memanipulasi foto orang sungguhan.
Dengan memasukkan perintah teks tertentu, AI tersebut mampu mengubah foto seseorang yang berpakaian lengkap menjadi seolah-olah mengenakan bikini, pakaian minim, atau bahkan tampak telanjang.
Meski sebagian konten dibuat secara sukarela oleh kreator konten dewasa, banyak laporan menunjukkan adanya pembuatan konten non-konsensual.
Foto-foto perempuan biasa hingga anak-anak dimodifikasi menjadi vulgar tanpa izin pemiliknya.
Padahal, kebijakan penggunaan xAI secara tegas melarang pembuatan konten pornografi yang menampilkan kemiripan dengan orang nyata serta eksploitasi anak.
Reaksi Keras dari Berbagai Negara
Skandal ini memicu respons cepat dari otoritas internasional.
Di Prancis, kantor kejaksaan Paris mengonfirmasi tengah menyelidiki maraknya deepfake berbasis Grok ini, dengan ancaman hukuman penjara hingga dua tahun bagi pelakunya.
Sementara itu, Pemerintah India melalui Kementerian Elektronika dan Teknologi Informasi telah mengirim surat resmi kepada X, menuntut peninjauan ulang tata kelola dan penghapusan segera konten yang merendahkan martabat perempuan tersebut.
Desakan serupa datang dari Inggris. Menteri Urusan Korban serta Kekerasan terhadap Perempuan dan Anak Perempuan Inggris, Alex Davies-Jones, secara terbuka mendesak Elon Musk untuk bertanggung jawab.
Ia mempertanyakan komitmen perusahaan terhadap perlindungan perempuan, mengingat Grok dapat memproduksi ratusan gambar seksual palsu dalam waktu singkat.
Baca Juga: Era Baru Browsing! Gemini AI Bikin Chrome Lebih Cerdas dan Aman dengan Bekerja Otomatis
Perusahaan Akui Ada Celah Keamanan
Menanggapi gelombang protes tersebut, akun resmi Grok di X akhirnya buka suara.
Pihak pengembang mengakui adanya celah dalam sistem pengaman mereka, khususnya terkait insiden yang melibatkan gambar anak-anak.
Mereka menyatakan tengah melakukan perbaikan mendesak untuk menutup celah tersebut dan meningkatkan sistem pemblokiran.
Kasus ini menambah daftar panjang tantangan etika dalam dunia AI generatif.
Sebelumnya, Grok memang dikenal memiliki pendekatan yang lebih longgar terhadap konten dewasa dengan mode spicy yang diluncurkannya, namun penyalahgunaan terhadap foto orang sungguhan dan anak di bawah umur dinilai telah melanggar batas hukum dan moral. (did)
Editor : Didi Agung Eko Purnomo