Gelombang baru influencer yang dihasilkan oleh kecerdasan buatan mengambil alih Instagram, dengan konten yang dicuri dari bintang dan model porno sungguhan tanpa persetujuan mereka. Meta milik Mark Zuckerberg tampaknya tidak mengambil tindakan apa pun terhadap penipuan yang dikenal sebagai “mucikari kecerdasan buatan”.
kabel Industri “mucikari kecerdasan buatan” yang sedang berkembang dilaporkan membanjiri media sosial dengan influencer palsu, mengambil alih platform seperti Instagram dengan profil yang dibuat secara artifisial. Influencer kecerdasan buatan ini sering kali dilatih tentang foto dan video curian dari bintang porno asli dan model Instagram. Wajah asli yang dihasilkan AI kemudian ditukar dengan tubuh manusia untuk membuat konten baru yang palsu namun meyakinkan.
Praktik ini telah meningkat pesat dalam beberapa bulan terakhir, sebuah tanda yang jelas bahwa Instagram milik Mark Zuckerberg tidak mampu atau tidak mau menghentikan membanjirnya profil yang dibuat oleh AI. Investigasi meninjau lebih dari 1.000 akun semacam itu, 10% di antaranya berisi video palsu yang mencuri penampilan wanita sungguhan. Beberapa dari akun ini menganggap dirinya sebagai “model virtual” yang dihasilkan oleh kecerdasan buatan, sementara akun lainnya tidak mengungkapkan informasi apa pun.
Bintang film porno mengatakan mereka kini bersaing langsung dengan para peniru AI dan akibatnya kehilangan pendapatan. Aktris dewasa Elaina St James mengatakan jangkauan dan penayangan Instagram-nya anjlok seiring bertambahnya jumlah akun kecerdasan buatan. “Itu karena saya bersaing dengan sesuatu yang tidak wajar,” katanya.
Membuat profil palsu ini kini semakin mudah berkat banyaknya alat AI yang mudah diakses dan panduan “cara melakukan” yang dijual secara online. Dengan $200 atau kurang, siapa pun dapat membeli kursus video mendetail tentang “AI Pimping”. Panduan tersebut merekomendasikan penggunaan berbagai aplikasi untuk menghasilkan wajah, tubuh, dan karakter yang realistis. Beberapa aplikasi sudah tersedia di toko aplikasi Apple dan Google. Bahkan ada situs web “satu atap” yang menyederhanakan seluruh proses pertumbuhan influencer AI.
Orang-orang di balik akun ini, sebagian besar laki-laki, kemudian menggunakannya untuk mengarahkan pengikutnya ke situs porno bayar-per-tayang, layanan berlangganan, dan layanan obrolan “kencan”. Mengajarkan strategi langkah demi langkah untuk memikat orang-orang yang kesepian agar menghabiskan lebih banyak uang untuk berkomunikasi dengan model kecerdasan buatan.
Beberapa “mucikari AI” secara terbuka membual tentang betapa menguntungkannya industri rumahan ilegal. “Professor EP”, pencipta panduan cara kerja yang populer, mengklaim telah menghasilkan lebih dari $1 juta dari influencer AI-nya “Emily Pellegrini” dalam waktu kurang dari 6 bulan. EP tanpa malu-malu mempromosikan teknologi deepfake dalam kursusnya sambil mempertahankan lapisan tipis penyangkalan yang masuk akal.
Para peneliti mengatakan dorongan Instagram untuk meningkatkan keterlibatan dan pendapatan iklan tampaknya menghambat tindakan keras yang sebenarnya. “Instagram dapat menjualnya sebagai lalu lintas,” kata Alexios Mantzarlis dari Cornell Tech. “Ia dapat menjual iklan yang bertentangan dengan hal tersebut. Jadi apakah akan ada masa depan di mana ada akun manusia nyata yang hampir seperti sekelompok kecil orang elit Instagram? Bagaimana dengan akun yang sama?
St James setuju: “Jika mereka tiba-tiba menyingkirkan semua bot, akun mati, akun palsu, akun penipu, apa yang akan terjadi pada iklan mereka?”
Baca selengkapnya kabel Di Sini.
Lucas Nolan adalah reporter Breitbart News, yang meliput kebebasan berpendapat dan sensor online.