Bareskrim Polri Kaji Pemidanaan Penyalahgunaan AI untuk Konten Pornografi di Media Sosial

BATAMTODAY.COM, Jakarta - Badan Reserse Kriminal (Bareskrim) Polri tengah mengkaji aspek hukum terkait kemungkinan penerapan sanksi pidana terhadap penyalahgunaan kecerdasan buatan atau artificial intelligence (AI), termasuk pemanfaatan Grok, yang digunakan untuk memproduksi konten pornografi dan asusila di media sosial.

Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, menyatakan bahwa praktik penyimpangan penggunaan AI belakangan semakin marak, khususnya dalam bentuk manipulasi konten digital. Namun, menurutnya, tidak seluruh perbuatan tersebut telah diatur secara spesifik dengan sanksi hukum yang tegas.

"Sepanjang penggunaan AI tersebut dapat dikategorikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan sanksi pidana," kata Himawan kepada wartawan di Mabes Polri, Jakarta, Rabu (7/1/2026).

Himawan menjelaskan, perkembangan teknologi berbasis AI merupakan keniscayaan seiring kemajuan zaman. Meski demikian, pemanfaatan teknologi tersebut tidak boleh menyimpang dan merugikan masyarakat, terutama dari sisi moral dan etika.

"Perkembangan teknologi saat ini mengarah pada pemanfaatan artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, serta manipulasi visual," ujarnya.

Ia mengungkapkan, penyalahgunaan AI umumnya dilakukan dengan memanipulasi foto atau gambar seseorang hingga menampilkan visual bermuatan asusila dan pornografi tanpa persetujuan pihak yang bersangkutan. "Berdasarkan kondisi tersebut, kami sedang melakukan pendalaman dari sisi hukum. Penanganan penyalahgunaan AI menjadi salah satu fokus Direktorat Tindak Pidana Siber," tegas Himawan.

Bareskrim Polri juga mencatat adanya penggunaan Grok AI secara masif oleh sejumlah akun di platform media sosial X untuk memanipulasi foto individu. Dalam beberapa kasus, perintah yang diberikan kepada AI tersebut secara sengaja diarahkan untuk mengubah visual menjadi vulgar dan bermuatan pornografi.

Kajian hukum ini diharapkan dapat menjadi dasar penguatan regulasi serta penegakan hukum terhadap penyalahgunaan teknologi AI di ruang digital.

Editor: Gokli