Kenapa Grok AI Dikecam Prancis dan Malaysia? Ini Duduk Perkaranya
- https://app-web-entwicklung.de/en/general/grok-in-the-test-free-access-to-the-ki-revolution/
Jakarta, VIVA Bali –Sorotan internasional tertuju pada chatbot Grok AI milik perusahaan rintisan kecerdasan buatan xAI, yang didirikan Elon Musk. Pemerintah Prancis dan Malaysia secara terbuka menyampaikan kecaman setelah Grok diketahui menghasilkan gambar deepfake bernuansa seksual yang melibatkan perempuan serta anak di bawah umur.
Dikutip dari ANTARA News, Selasa, 6 Januari 2026, kecaman tersebut muncul menyusul terungkapnya insiden konten tidak senonoh yang terjadi pada 28 Desember 2025. Grok, yang terintegrasi dengan platform media sosial X, mengakui telah memproduksi dan membagikan gambar AI bermuatan seksual berdasarkan permintaan pengguna.
Dalam pernyataan resminya, Grok menyebut bahwa gambar yang dihasilkan menampilkan dua anak perempuan berusia sekitar 12 hingga 16 tahun dalam busana yang diseksualisasi. Konten tersebut dinilai melanggar standar etika dan hukum di sejumlah negara.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini merupakan kegagalan sistem pengamanan, dan saya menyesal atas dampak yang ditimbulkan,” ujar Grok dalam pernyataan resminya.
Grok juga menyampaikan bahwa pihak xAI tengah melakukan peninjauan menyeluruh terhadap sistem pengamanan guna mencegah kejadian serupa terulang di masa mendatang.
Namun, permintaan maaf tersebut dinilai belum menjawab persoalan utama. Jurnalis teknologi Albert Burneko dari Defector menyebut bahwa Grok bukan entitas yang dapat dimintai pertanggungjawaban secara hukum maupun moral, sehingga pernyataan maaf tersebut dianggap tidak cukup substansial.
Selain itu, laporan media Futurism mengungkap bahwa Grok tidak hanya digunakan untuk menghasilkan konten pornografi tanpa persetujuan, tetapi juga memproduksi gambar perempuan yang menggambarkan kekerasan serta pelecehan seksual.
Menanggapi polemik tersebut, Elon Musk menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal secara langsung.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan bertanggung jawab secara hukum,” tulis Elon Musk dalam unggahan terpisah.
Langkah Prancis dan Malaysia
Reaksi tegas datang dari pemerintah Prancis. Kantor kejaksaan Paris menyatakan akan menyelidiki penyebaran deepfake seksual yang beredar melalui platform X. Sementara itu, kantor urusan digital Prancis mengungkapkan bahwa tiga menteri telah melaporkan konten yang dinilai ilegal kepada jaksa serta platform pengawasan daring pemerintah untuk meminta penghapusan segera.
