Post Views: 6

JAKARTA, WARTAXPRESS.com — Maraknya pemanfaatan kecerdasan buatan untuk memproduksi konten pornografi berbasis wajah atau identitas orang nyata menuai perhatian serius dari DPR RI.

Anggota Komisi I DPR RI, Amelia Anggraini, menilai penggunaan Grok AI dalam praktik tersebut menunjukkan lemahnya sistem pelindungan pada platform berbasis kecerdasan buatan.

Menurut Amelia, manipulasi foto dan video orang nyata ke dalam konten asusila tanpa persetujuan bukan sekadar pelanggaran norma, melainkan ancaman nyata terhadap hak asasi, privasi, dan keamanan data pribadi. Ia menilai praktik ini sebagai bentuk kekerasan baru di ruang digital yang berdampak luas bagi korban.

“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya” tegas Amelia melalui keterangan yang diterima Parlementaria, Jumat (9/1/2026). Dikutip dari situs DPR RI.

Amelia menambahkan bahwa korban dari praktik tersebut tidak hanya mengalami tekanan psikologis, tetapi juga risiko stigma sosial dan kerusakan reputasi jangka panjang.

Karena itu, ia menilai negara tidak boleh bersikap reaktif dan menunggu kasus mencuat di ruang publik.

Amelia merujuk pada pernyataan Direktorat Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital yang menyebutkan bahwa hasil penelusuran awal menemukan Grok AI belum memiliki mekanisme pengamanan yang eksplisit dan memadai untuk mencegah pembuatan, serta penyebaran pornografi berbasis foto nyata. Temuan tersebut, menurutnya, harus segera ditindaklanjuti.

Ia menegaskan pentingnya kehadiran negara dalam melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi secara transparan oleh publik.

Dalam kerangka Undang-Undang Pelindungan Data Pribadi (UU PDP), Amelia menekankan bahwa wajah, foto, dan video merupakan data pribadi yang tidak boleh diproses tanpa dasar hukum yang sah.

DPR mendorong pemerintah untuk memastikan seluruh penyedia platform digital dan layanan AI mematuhi standar pelindungan data yang ketat.

“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius. Selain itu, negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” ujar Politisi asal dapil Jawa Tengah VII itu.

Lebih lanjut, Amelia menyoroti pentingnya penguatan standar kepatuhan Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan pengembang AI.

Menurutnya, pendekatan pencegahan harus diterapkan sejak tahap perancangan sistem, disertai mekanisme moderasi konten yang transparan dan dapat diaudit.

Dalam aspek penegakan hukum, ia menegaskan bahwa sanksi administratif tidak boleh berdiri sendiri.

Masih dikatakan Amelia, mengingatkan bahwa Kitab Undang-Undang Hukum Pidana (KUHP) Nasional yang mulai berlaku sejak 2 Januari 2026 telah memuat ketentuan terkait pornografi, termasuk dalam Pasal 172 dan Pasal 407.

“Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum,” katanya.

Sebagai bagian dari fungsi pengawasan DPR, Amelia memastikan Komisi I DPR RI akan terus mengawal penanganan penyalahgunaan teknologi kecerdasan buatan agar berujung pada perlindungan nyata bagi korban dan peningkatan kepatuhan platform digital.

Ia juga menekankan pentingnya kejelasan penanggung jawab, indikator kepatuhan, tenggat waktu implementasi, serta konsekuensi yang tegas bagi setiap pelanggaran.

“Jika platform AI lain bisa memasang pagar pengaman dan pembatasan yang jelas, maka tidak ada alasan Grok AI tidak melakukan hal yang sama,” pungkasnya.