Penulis: Li Hailin
Semakin banyak warga Korea Selatan, termasuk anak di bawah umur, yang menjadi korban kejahatan seks “deepfake”, gambar dan video yang menggabungkan foto pribadi tak dikenal dengan konten eksplisit, kata polisi dan pakar industri TI pada hari Senin.
Aparat penegak hukum telah berjanji untuk mengerahkan lebih banyak sumber daya untuk menangkap para pelaku, sementara para ahli telah meminta pemerintah untuk meluncurkan kampanye nasional untuk meningkatkan kesadaran masyarakat akan kejahatan tersebut dan mengadvokasi hukuman yang lebih berat bagi para pelakunya.
Sebuah postingan online yang diunggah ke X (sebelumnya Twitter) pada hari Minggu mengungkapkan daftar ratusan sekolah menengah pertama, sekolah menengah atas, dan perguruan tinggi tempat siswanya menjadi korban kejahatan seks deepfake.
Apakah sekolah-sekolah ini benar-benar terkena dampaknya dan sejauh mana dampaknya masih belum dapat dikonfirmasi.
Namun, hingga pukul 14.00 pada hari Senin, postingan tersebut telah menerima lebih dari 57.000 retweet dan 26.000 suka, jumlah yang terus meningkat karena akun tersebut terus mengumpulkan laporan kasus serupa dari pengguna online.
Postingan X yang diunggah pada Minggu menampilkan daftar sekolah di Korea Selatan yang siswanya diduga menjadi korban kejahatan seks deepfake. Hingga Senin, postingan tersebut telah menerima lebih dari 570.000 retweet dan 260.000 suka. menangkap dari
Selain itu, perkumpulan siswa di banyak sekolah di Seoul dan Provinsi Gyeonggi, termasuk Sekolah Menengah Desain Hongik, telah mengeluarkan peringatan di akun media sosial mereka untuk mengingatkan siswa akan potensi risiko deepfake.
“Gambar deepfake yang menggunakan foto siswa Sekolah Menengah Desain Hongik dan informasi pribadi mereka saat ini dibagikan di Telegram,” bunyi pemberitahuan darurat tersebut. Pemberitahuan darurat tersebut mendesak siswa untuk menghapus atau menghindari memposting foto diri mereka secara online untuk mencegah mereka menjadi korban deepfake kriminal.
Menurut Badan Kepolisian Metropolitan Seoul pada hari Senin, 10 remaja di atas usia 14 tahun ditangkap karena kejahatan deepfake di Seoul saja antara bulan Januari dan Juli tahun ini.
Menurut Badan Kepolisian Nasional, sebagian besar tersangka yang terlibat dalam kejahatan gambar dan video deepfake tahun lalu adalah remaja, yaitu 75,8%. Selain itu, sekitar 20% berusia 20-an, sehingga total 95,8% tersangka berusia antara 10 dan 20-an.
Sebagian besar kasus ini melibatkan mahasiswa laki-laki yang menyasar mahasiswa perempuan, namun kejahatan deepfake semakin menjadi bentuk kekerasan atau pelecehan di kampus yang berdampak pada semua gender.
“Sangat mengkhawatirkan bahwa tidak hanya siswa tetapi juga guru yang menjadi korban kejahatan deepfake, yang meningkat di kalangan remaja yang paham IT,” kata seorang pejabat polisi pada konferensi pers reguler.
Kejahatan seksual palsu terhadap tentara perempuan juga terungkap.
Sebuah ruang obrolan online dengan lebih dari 900 peserta telah ditemukan, di mana video palsu dan gambar tentara wanita yang dijuluki “amunisi” oleh pengguna didistribusikan dan dipertukarkan, bersama dengan komentar yang menghina dan kasar.
Selain itu, media lokal pekan lalu melaporkan di ruang obrolan Telegram di mana bot berbayar dan gratis langsung mengubah gambar menjadi foto telanjang deepfake.
Ruang obrolan menawarkan dua gambar deepfake pertama secara gratis, kemudian beralih ke sistem berbayar, mengenakan biaya $0,49 per foto dalam mata uang kripto. Pada tanggal 21 Agustus, hampir 227.000 pengguna online telah bergabung dengan ruang obrolan.
“Ada sekitar 260.000 taksi di Korea Selatan. Artinya kemungkinan terjadinya kejahatan seksual di Korea Selatan hampir sama besarnya dengan menemukan taksi di jalan.
Jumlah kejahatan terkait deepfake meningkat dari 156 pada tahun 2021 menjadi 160 pada tahun 2022 dan menjadi 180 pada tahun 2022, menurut data yang diserahkan oleh Badan Kepolisian Nasional ke kantor Perwakilan Demokrat Cho Eun-hee pada hari Rabu.
Meskipun ada kemajuan pesat dalam teknologi, undang-undang dan lembaga masih berjuang untuk mengimbangi upaya mencegah munculnya aktivitas kriminal.
Meskipun Undang-Undang Kecerdasan Buatan diperkenalkan pada Kongres ke-21, RUU tersebut gagal disahkan dan ditinggalkan sebelum mencapai ambang persetujuan.
Meskipun Majelis Nasional ke-22 diperkirakan akan mempertimbangkan beberapa undang-undang terkait kecerdasan buatan, revisi Undang-Undang Hukuman Kekerasan Seksual tahun 2020 menetapkan bahwa pelaku kejahatan seks deepfake, baik mereka memproduksi atau mendistribusikan konten semacam itu, akan menghadapi hukuman penjara hingga lima tahun. tahun atau denda paling banyak lima tahun.
Namun, hanya sedikit yang benar-benar dihukum.
Menurut sistem putusan online Mahkamah Agung, hingga Senin, 35 dari 71 putusan tingkat pertama dan kedua terkait kejahatan deepfake antara tahun 2020 dan tahun lalu telah ditangguhkan.
Dari 36 kasus yang tersisa, 31 kasus mengakibatkan hukuman penjara karena melakukan kejahatan seks lainnya selain deepfake, dan hanya 5 kasus yang mengakibatkan hukuman penjara karena deepfake saja. Kebanyakan pelanggar pertama kali menerima masa percobaan.
Kim Myung-joo, seorang profesor perlindungan informasi di Universitas Wanita Seoul, mengatakan: “Pemerintah harus mendidik masyarakat tentang keseriusan dan sifat tidak etis dari deepfake. Jika metode etis saja tidak cukup, pemerintah harus menggunakan undang-undang untuk menyelesaikan masalah ini.”
“Undang-undang Hukuman Kekerasan Seksual tidak efektif dalam meningkatkan kesadaran karena hukuman bagi pelaku pertama kali seringkali ringan dan tidak memberikan efek jera yang kuat,” kata profesor tersebut, yang mendesak tindakan keras terhadap kejahatan terkait deepfake.
“Kami akan memperkuat pendidikan pencegahan untuk memastikan siswa memahami konsekuensi serius dari perilaku kriminal dan bagaimana catatan kriminal dapat berdampak signifikan terhadap kehidupan sosial dan profesional mereka,” kata Kepala Polisi Seoul Kim Bong-sik.
Komisi Komunikasi Korea Selatan berencana memberikan tanggapan tegas terhadap video deepfake, namun mengidentifikasi distributornya masih menjadi tantangan karena Telegram memiliki server di luar negeri.
Pakar kecerdasan buatan asing dan eksekutif industri, termasuk pakar teknologi perintis Yoshua Bengio, menandatangani surat terbuka pada bulan Februari yang menyerukan pengawasan yang lebih ketat terhadap produksi deepfake.
Surat tersebut, yang berjudul “Mengganggu Rantai Pasokan Deepfake,” merekomendasikan pengaturan deepfake, termasuk mengkriminalisasi sepenuhnya pornografi deepfake, dan menyebutkan hukuman pidana bagi siapa pun yang membuat atau mempromosikan penyebaran deepfake yang berbahaya.