Tangkapan layar dari ruang obrolan Telegram dengan lebih dari 220.000 anggota yang menggunakan teknologi kecerdasan buatan untuk menghasilkan deepfake (pemalsuan mendalam) terhadap perempuan.
Deepfake pornografi, gambar yang diubah secara digital yang dihasilkan menggunakan teknologi kecerdasan buatan, beredar luas di aplikasi perpesanan Telegram Korea Selatan, termasuk saluran Telegram yang membuat deepfake gambar telanjang sesuai permintaan untuk lebih dari 220.000 anggota. Saluran tersebut, yang mudah diakses melalui pencarian online dasar, mengenakan biaya untuk gambar palsu berdasarkan foto orang sungguhan. Para ahli mengatakan saluran tersebut adalah contoh nyata dari kondisi pornografi deepfake saat ini – yang bahkan tidak disadari oleh banyak orang sebagai tindakan ilegal.
Saluran Telegram Hankyoreh, yang diakses melalui tautan di X (sebelumnya dikenal sebagai Twitter) pada Rabu, dilengkapi dengan bot gambar yang mengubah foto perempuan yang diunggah ke saluran tersebut menjadi gambar telanjang deepfake. Saat The Hankyoreh memasuki saluran tersebut, sebuah pesan muncul meminta pengguna untuk “mengunggah foto wanita yang Anda sukai”.
Hankyoreh mengunggah foto seorang wanita yang dibuat dengan AI, dan dalam waktu lima detik, saluran tersebut menghasilkan deepfake telanjang dari foto tersebut. Alat deepfake bahkan memungkinkan pengguna untuk menyesuaikan bagian tubuh pada gambar yang dihasilkan. Hingga Rabu 21 Agustus, channel Telegram memiliki kurang lebih 227.000 pengguna.
Saluran Telegram sangat mudah digunakan. Menelusuri istilah tertentu di X dan media sosial lainnya menunjukkan tautan ke saluran tersebut, dan postingan dengan tautan bahkan terdaftar sebagai “postingan teratas” di X. Postingan masih terus meningkat untuk mempromosikan saluran pipa tersebut.
Saluran Telegram menghasilkan hingga dua foto telanjang deepfake secara gratis, tetapi memerlukan pembayaran untuk mendapatkan gambar tambahan. Setiap foto memerlukan satu “berlian” – mata uang dalam saluran senilai $0,49 (sekitar 650 won) – dan pengguna harus membeli setidaknya 10 berlian, dengan diskon tersedia untuk pembelian massal. Pengguna yang mengundang teman untuk bergabung ke saluran tersebut juga akan menerima berlian gratis, tampaknya untuk memperluas basis pengguna. Cryptocurrency adalah satu-satunya metode pembayaran yang diterima, mungkin karena alasan anonimitas.
Ruang obrolan tidak mengizinkan pengguna untuk saling mengirim pesan atau gambar. Masalahnya adalah kami tidak tahu bagaimana deepfake yang diproduksi oleh saluran tersebut digunakan oleh anggota.
“Gambar deepfake eksploitasi seksual seperti ini yang dibuat di ruang obrolan Telegram dibagikan di ruang obrolan grup lain, yang merupakan hasil dari kejahatan seksual berskala besar,” kata Seo Hye-jin, direktur hak asasi manusia di Asosiasi Pengacara Wanita Korea.
Dia menilai: “Jika ada lebih dari 220.000 orang di ruang Telegram pada saat gambar-gambar ini dibuat, kerusakan yang disebabkan oleh penyebarannya bisa sangat besar.”
Keberadaan sejumlah besar saluran Telegram dengan model yang menghasilkan pendapatan kemungkinan mencerminkan kenyataan bahwa menciptakan deepfake yang sangat merusak bukanlah sebuah masalah besar.
“Fakta adanya struktur keuntungan menunjukkan adanya permintaan yang besar,” kata Kim Hye-jung, direktur Pusat Bantuan Kekerasan Seksual Korea.
“Meskipun penghinaan seksual terhadap perempuan telah menjadi bentuk 'konten' online, masyarakat memandangnya sebagai kejahatan kecil yang merupakan faktor kunci dalam pelanggaran seksual,” lanjutnya.
Reporter Park Go-eun
Silakan arahkan pertanyaan atau komentar ke [english@hani.co.kr]