Dalam saluran Telegram dengan sekitar 1.300 anggota, terdapat ruang obrolan pribadi untuk 70 perguruan tinggi dan universitas di seluruh negeri. Teks tebal adalah nama universitas. (Disadap dari Telegram)
“Ada yang tahu ******-***, lahir tahun 2007, *** lulusan SMA? Kalau berkenan, silakan kirim DM ke saya.
Setelah pengungkapan baru-baru ini tentang gambar deepfake eksplisit yang dibagikan di beberapa kampus universitas di Korea Selatan, The Hankyoreh telah menemukan bukti bahwa praktik ilegal dalam membuat dan mendistribusikan gambar manipulasi dari kenalan dari sekolah atau komunitas tertentu sedang merajalela secara online. Sasaran deepfake tidak hanya mencakup siswa di perguruan tinggi dan universitas terbesar di negara ini, namun juga siswa sekolah menengah pertama dan sekolah menengah atas serta anak di bawah umur.
Hankyoreh melakukan pencarian online di berbagai platform media sosial pada 21 Agustus dan menemukan banyak chat room Telegram yang mendistribusikan konten pornografi deepfake ilegal yang diklasifikasikan menurut wilayah tempat tinggal dan sekolahnya. Cakupan kejahatan terus meluas dan menjadi lebih rinci.
Prosesnya adalah sebagai berikut. Satu kelompok menarik calon anggota melalui obrolan Telegram yang disebut “Teman dari Teman”. Dari sana, kelompok ini dibagi lagi menjadi kawasan pemukiman dan universitas. Para anggota kemudian berbicara satu sama lain tentang gadis-gadis tertentu untuk melihat apakah banyak anggota mengenali salah satu dari mereka. Mereka kemudian mengambil foto umum korbannya dari media sosial dan menggunakannya untuk membuat deepfake pornografi secara ilegal.
Satu saluran Telegram memiliki lebih dari 1.300 anggota. Saluran ini menyediakan berbagai ruang obrolan yang dikategorikan berdasarkan universitas, mencakup lebih dari 70 universitas. Anggota memposting foto remaja putri yang mereka kenal, bersama dengan informasi dasar seperti jurusan, tanggal pendaftaran dan nama. Anggota lain di ruang obrolan yang sama akan ikut campur jika mereka mengenal wanita muda itu. Orang yang mengenal orang tersebut akan membentuk ruang obrolannya sendiri untuk membuat dan membagikan konten ilegal. Setelah terdapat cukup banyak deepfake untuk orang tertentu, anggota membuat ruang obrolan yang didedikasikan untuk orang tersebut. Label ruang obrolan bertuliskan nama-nama seperti “Penghinaan Kim ***-***”.
Deepfake disebarkan secara sistematis dalam skala yang mengkhawatirkan. Gambar-gambar seksual eksplisit dan terlarang dibagikan berulang kali di ruang obrolan, dan beberapa anggota bahkan membuat emoji dari gambar tersebut “hanya untuk bersenang-senang.” Gambar yang dibuat di satu ruang dengan cepat menyebar ke ruang obrolan lainnya.
Satu ruang obrolan bernama “Ruang Berbagi Tautan” memiliki lebih dari 3.700 anggota. Anggota ruang obrolan berbagi tautan yang mengarah ke obrolan khusus yang menargetkan deepfake dari satu orang atau deepfake yang terkait dengan mahasiswa di universitas tertentu. Beberapa chat room bahkan memiliki proses penyaringan di mana pelamar harus mengirimkan 10 foto orang yang mereka kenal dan lulus wawancara untuk bisa masuk.
Saluran Telegram yang didedikasikan untuk deepfake oleh siswa sekolah menengah memiliki lebih dari 2,340 anggota. Anggota saluran tersebut secara teratur memproduksi dan mendistribusikan konten yang dapat membuat Anda dipenjara setidaknya selama satu tahun karena memiliki atau menontonnya.
Penjahat yang menciptakan deepfake yang meresahkan ini memperluas basis korban mereka sambil mengklasifikasikan dan memberi label pada konten ilegal mereka secara lebih rinci, sehingga menambah ketakutan banyak perempuan dan anak perempuan.
Seorang wanita berusia 24 tahun yang biasanya suka menggunakan platform media sosial mengatakan kepada The Hankyoreh: “Meskipun saya telah menetapkan akun saya sebagai akun pribadi, mau tak mau saya memikirkan orang-orang yang saya kenal menggunakan foto saya untuk tujuan kriminal.
Mahasiswa berusia 24 tahun lainnya, yang meminta The Hankyoreh untuk diidentifikasi hanya dengan nama belakangnya, Kim, mengatakan: “Tidak mungkin mengetahui di mana foto-foto ini dibagikan dan seberapa jauh penyebarannya. Benar-benar membuat frustrasi.”
Karena Telegram adalah perusahaan luar negeri dengan server di luar Korea Selatan, Komisi Standar Komunikasi Korea dan lembaga domestik lainnya tidak memiliki yurisdiksi hukum untuk meminta penghapusan konten yang didistribusikan melalui ruang obrolannya. Sekalipun pihak berwenang setempat melakukan penyelidikan, penyitaan dan/atau surat perintah penggeledahan dan penyitaan yang mereka peroleh tidak mempunyai kekuatan, sehingga sangat sulit untuk mengidentifikasi tersangka secara individu.
“Deepfakes yang didistribusikan di Telegram kemudian dapat disebarkan ke situs web lain, di mana mereka akan disalin, diubah, dan didistribusikan kembali. Oleh karena itu, kita perlu mengubah undang-undang seperti Undang-Undang Bisnis Telekomunikasi yang mewajibkan platform luar negeri mana pun yang memiliki cabang di Korea Selatan untuk bekerja sama dengan Investigasi Domestik. .
Kritikus juga menunjukkan bahwa otoritas investigasi acuh tak acuh dan undang-undang tersebut tidak efisien.
Saluran Telegram untuk “teman sekolah menengah dan sekolah menengah atas” memiliki 2.340 anggota. Setelah pengguna memverifikasi identitas mereka, mereka menemukan kenalan yang sama dan menghasilkan deepfake. (Dipotong dari Telegraf)
“Keluhan paling umum yang kami dengar dari korban deepfake adalah bahwa penyelidik tidak dapat mengidentifikasi tersangka spesifik yang beroperasi melalui Telegram, namun aktor swasta seperti '56 Flame' telah mengidentifikasi individu tertentu yang terkait dengan kejahatan deepfake,” kata peneliti Heo Min-sook.
“Penyelidik pada dasarnya hanya duduk-duduk saja dan tidak menjajaki semua kemungkinan identifikasi,” tambah Heo.
“Mereka yang membuat deepfake ilegal dengan tujuan untuk mendistribusikannya dapat dijatuhi hukuman hingga lima tahun penjara atau denda 50 juta won ($37.453), namun sebagian besar tersangka menerima masa percobaan atau penundaan penuntutan,” lanjut Heo.
“Kita perlu mengubah undang-undang untuk menghukum tidak hanya mereka yang mendistribusikan atau memproduksi deepfake, tapi juga mereka yang memiliki atau melihatnya. Pengadilan juga perlu mengakui keseriusan kejahatan semacam itu,” katanya.
Reporter Gao Nalin
Silakan arahkan pertanyaan atau komentar ke [english@hani.co.kr]