Bot deepfake Telegram dipakai untuk membuat foto telanjang
Deepfake lagi-lagi disalahgunakan oleh pengguna teknologi. Kali ini sebuah bot Telegram kedapatan dimanfaatkan oleh penggunanya untuk menghasilkan foto telanjang palsu.
Sejumlah peneliti menemukan bahwa ekosistem deepfake di Telegramkerap digunakan untuk menghasilkan foto-foto telanjang dengan menggunakan bot. Pengguna yang berinteraksi dengan bot tersebut biasanya melakukan request foto telanjang menggunakan foto orang yang mereka kenal.
Investigasi mengenai hal ini dilakukan oleh lembaga keamanan Sensity. Secara khusus, lembaga ini memfokuskan dirinya pada apa yang mereka sebut “kecerdasan ancaman visual.” Ini merupakan istilah yang merujuk pada penyebaran deepfake. Lembaga keamanan ini menemukan ada lebih dari 100.000 gambar yang telah dihasilkan dan dibagikan di berbagai channel Telegram hingga Juli 2020.
Jumlah sebenarnya diprediksi jauh lebih banyak dari hasil temuan tersebut. Pasalnya ada gambar yang tidak dibagikan antar pengguna Telegram. Belum lagi cakupan waktu penelitian yang hanya sampai Juli saja. Sensity melaporkan, 70% pengguna yang memanfaatkan deepfake tersebut datang dari Rusia dan beberapa negara di sekitarnya.
Dilansir dari TheVerge (21/10), bot tersebut dilaporkan masih aktif. Bot di Telegram biasanya dapat digunakan secara gratis, namun mereka akan menghasilkan gambar telanjang dengan watermark atau hanya menampilkan sebagian saja. Lebih lanjut, pengguna dapat membayar untuk dapat “membuka” seluruh bagian yang masih tertutup.
Kabarnya hanya butuh dana sekitar USD1,28 untuk menghasilkan 100 foto telanjang palsu. Investigasi Sensity mengungkap kalau beberapa gambar yang dihasilkan menunjukkan orang di bawah umur.
Untuk diketahui, software yang digunakan untuk menghasilkan gambar-gambar tersebut adalah DeepNude. Software ini pertama kali muncul pada Juni lalu. Hanya dalam waktu beberapa jam, pembuat situs ini langsung menutup layanannya, karena adanya kekhawatiran penyalahgunaan oleh pengguna. Kendati begitu, software tersebut masih menyebar sampai saat ini.
DeepNudes menggunakan AI untuk menghasilkan gambar telanjang palsu. Sebagian memang tampak palsu dengan finishing yang kurang rapi. Namun, sebagian lainnya tampil layaknya gambar asli.
Sensity sendiri menyatakan tidak memiliki bukti kalau pengembangan bot ini memang dilakukan untuk tujuan seperti didapati sekarang. Giorgio Patrini, CEO Sensity mengatakan bahwa deepfake jelas-jelas memiliki ancaman besar bagi keamanan dan reputasi seseorang.
