[Shot!] Memakaikan seragam sekolah dan meminta hubungan seksual…

'Roleplay eksploitasi seksual anak' merajalela di platform obrolan AI
Bertebaran karakter yang menyiratkan anak di bawah umur, seperti botol susu dan seragam sekolah
Di tengah minimnya regulasi, remaja pun mengonsumsinya tanpa hambatan
Otoritas "Menerima laporan terkait…memantau informasi cabul"

Di tengah menjadi masalahnya materi eksploitasi seksual anak yang menggunakan deepfake kecerdasan buatan (AI) (teknologi manipulasi gambar canggih), roleplay eksploitasi seksual bahkan digelar di platform obrolan.

Melampaui sekadar menampilkan gambar yang tidak pantas, pengguna mengarahkan situasi seksual melalui percakapan waktu nyata dengan karakter anak, dan hal itu 'diwujudkan'.

Pada tanggal 14, di platform obrolan A berbasis AI, sejumlah karakter yang tampak sebagai anak di bawah umur ditampilkan secara terbuka, seperti bayi yang mengisap botol susu, siswi berseragam sekolah, dan gadis bertubuh mungil. Bahkan ada kasus adegan hubungan seksual digambarkan pada gambar promosinya.

Rentang usia yang konkret seperti 'siswa sekolah dasar' dan 'gadis 12 tahun' ditetapkan, dan sebagian karakter dipromosikan dengan gambar gadis kecil berpakaian dalam.

Ada pula karakter dengan keterangan "disebut aktris anak berbakat sejak masa taman kanak-kanak dan kini masih aktif meski masih SD", atau karakter yang disetel sebagai siswa remaja yang duduk di ruang kelas.

Karakter AI semacam ini dirancang untuk segera memberikan reaksi sesuai permintaan pengguna.

Ketika di platform A disampaikan sapaan "halo" kepada karakter dengan keterangan tinggi 140 cm, berat 25 kg, dan 'bertubuh mungil seperti anak SD', dikirimkan pesan situasi yang berbunyi "ia menjumput sedikit ujung rok pakaian yang tampak seperti seragam sekolah lalu berputar-putar mengelilingi Anda". Setelah itu, karakter tersebut mengirim pesan yang secara terang-terangan menuntut tindakan seksual dan melanjutkan roleplay yang tidak pantas.

Platform A adalah platform obrolan yang memungkinkan pengguna berbincang dengan karakter buatan AI. Tidak ada batasan usia untuk mendaftar, dan pembatasan usia minimal 14 tahun hanya diberlakukan saat mengatur profil.

Pengguna dapat membuat sendiri karakter AI atau berbincang secara waktu nyata dengan karakter buatan orang lain. Platform ini dimanfaatkan untuk beragam tujuan seperti percintaan, konsultasi masalah, dan bermain peran (roleplay). Pada dasarnya dapat digunakan gratis, dan dengan pembayaran berbayar, model AI berkinerja tinggi dapat diterapkan sehingga memungkinkan percakapan yang panjang dan canggih.

Masalahnya, sebagian pengguna menyalahgunakan hal ini untuk keperluan percakapan seksual atau roleplay eksploitasi seksual. Karena saat membuat karakter, usia, penampilan, dan sifat dapat diatur secara rinci, banyak karakter yang mengingatkan pada anak di bawah umur, seperti berseragam sekolah atau bertubuh kecil seperti anak-anak, yang dibuat.

Ketika kontroversi meluas, pada tanggal 12 platform A melalui pengumuman menyatakan, "Kami akan secara bertahap menyembunyikan karakter yang mengarahkan penggambaran tidak pantas dengan penampilan yang dapat disalahartikan sebagai anak di bawah umur atau dalam keadaan mengenakan seragam sekolah."

Namun, bahkan setelah pengumuman itu, sejumlah besar karakter yang disetel sebagai anak di bawah umur tetap dapat dicari dan diajak berbincang. Sebab, kata kunci atau gambar tertentu memang dapat diblokir, tetapi sulit mengendalikan secara waktu nyata roleplay seksual yang diarahkan pengguna secara licik melalui percakapan dengan AI.

Bahkan di komunitas daring tempat berkumpulnya pengguna platform A, cara untuk menghindari penindakan dibagikan.

Para pengguna menyebut 'nongkae', istilah slang untuk karakter bertubuh gadis kecil, seraya saling memperingatkan, "apakah 'nongkae' akan dihapus lebih dulu", "jangan lega hanya karena belum disembunyikan", dan berbagi status penghapusan serta pendeteksian karakter anak di bawah umur.

Seorang pejabat Komisi Peninjauan Media Penyiaran dan Komunikasi pada tanggal 13, dalam jawaban tertulis atas pertanyaan kantor berita Yonhap, menyatakan, "Saat ini telah dikonfirmasi adanya laporan terkait platform A," dan "Komisi secara mandiri memantau informasi cabul. Jika ditemukan konten yang melanggar peraturan yang berlaku di situs tersebut, kami akan mengambil tindakan yang tepat melalui peninjauan."

Namun, bukan hanya platform A.

Di platform B, dengan judul obrolan 'putrimu', ada yang mempromosikan gambar yang menggambarkan tindakan seksual dengan mengingatkan pada hubungan ayah dan anak perempuan, atau dengan menampilkan karakter gadis kecil bertubuh jauh lebih kecil dibandingkan pria dewasa.

Selain itu, di platform C, platform D, platform E, dan lainnya, muncul karakter obrolan yang disetel sebagai siswa SD berusia 10 tahun berseragam sekolah dan siswa SMA berusia 17 tahun.

Materi eksploitasi seksual semacam ini merupakan konten berbahaya yang khas, yang merajalela memanfaatkan situasi minimnya regulasi atas konten AI.

Saat ini chatbot AI Grok milik X (X·dulu Twitter) yang dimiliki Elon Musk berada di pusat kontroversi pembuatan gambar seksual, dan konten AI norak nan sensasional seperti 'drama perselingkuhan buah' yang mempersonifikasikan buah untuk menggambarkan perselingkuhan dan perbuatan durhaka pun ikut menyebar.

Remaja pun dapat mengonsumsi konten semacam ini tanpa hambatan berarti.

Pengacara Heo Jeong-won dari Firma Hukum Daeryun menjelaskan, "Sekalipun berupa gambar buatan AI atau karakter virtual, jika secara jelas dikenali sebagai anak-anak/remaja melalui seragam sekolah, penampilan kekanakan, atau setelan sebagai siswa, dan menggambarkan tindakan seksual sebagaimana diatur dalam Pasal 2 angka 4 Undang-Undang tentang Perlindungan Anak dan Remaja dari Kejahatan Seksual, hal itu dapat menjadi objek hukuman."

Namun, Pengacara Heo menunjukkan, "Menurut hukum yang berlaku, batasnya kabur, apakah sekadar gambar atau komik yang menggambarkan anak/remaja juga termasuk objek hukuman, ataukah hanya materi berupa grafik komputer yang benar-benar tampak seperti anak sungguhan," dan "diperlukan penyempurnaan atas kriteria penilaian 'kejelasan' bahwa sesuatu dikenali sebagai anak/remaja."

[Baca artikel selengkapnya]
[Shot!] Dipakaikan seragam sekolah hingga dituntut secara seksual… (kunjungi)
Dipakaikan seragam sekolah hingga dituntut secara seksual…'roleplay eksploitasi seksual anak' merajalela di platform obrolan AI (kunjungi)
'Eksploitasi seksual anak' menggunakan deepfake AI…ada pula platform obrolan tempat digelarnya roleplay (kunjungi)