Alat pendeteksi deepfake belum sempurna
Para peneliti mengatakan, dengan melakukan manipulasi lanjutan dari video deepfake berhasil menipu AI dari alat pendeteksi deepfake.
Deepfake saat ini menjadi salah satu momok yang menakutkan bagi banyak orang. Hal ini dikarenakan siapapun yang memiliki teknologi tersebut dapat menyebarkan berita palsu menggunakan wajah siapapun yang ada di internet.
Saat ini, berbagai pihak seperti Microsoft, Facebook, universitas, dan lainnya sedang mencari cara untuk mengidentifikasi deepfake di platform mereka. Tapi, dalam sebuah pernyataan terbaru, sekelompok ilmuwan mengatakan bahwa alat pendeteksi deepfake yang ada saat ini masih dapat ditipu.
Hal ini diungkapkan oleh sekelompok ilmuwan komputer dari UC San Diego. Tim tersebut menunjukkan bagaimana alat deteksi dapat dibodohi dengan memasukkan input yang disebut "contoh permusuhan" ke dalam setiap bingkai video pada konferensi visi komputer WACV 2021 yang berlangsung online pada bulan Januari lalu.
Mereka mengatakan bahwa contoh video yang mereka gunakan telah dimanipulasi ulang yang dapat menyebabkan sistem AI melakukan kesalahan. Seperti diketahui, cara kerja pendeteksi ini adalah memfokuskan diri ke wajah yang ada di dalam video tersebut.
AI kemudian mengirim data wajah yang dipotong ke jaringan neural dan akan dicocokkan dengan wajah asli. Sistem detektor kemudian dapat menentukan apakah video itu asli dengan melihat elemen yang tidak direproduksi dengan baik pada deepfake, seperti berkedip.
Tapi, dikarenakan sudah dimanipulasi ulang, AI tersebut mendeteksi bahwa wajah yang ada di video deepfake tersebut sebagai wajah asli. Teknik yang mereka kembangkan berfungsi bahkan untuk video terkompresi dan bahkan jika mereka tidak memiliki akses penuh ke model detektor.
“Untuk menggunakan detektor deepfake ini dalam praktiknya, kami berpendapat bahwa penting untuk mengevaluasi mereka terhadap musuh adaptif yang menyadari pertahanan ini dan dengan sengaja mencoba menggagalkan pertahanan ini. Kami menunjukkan bahwa metode canggih saat ini untuk deteksi deepfake dapat dengan mudah dilewati jika musuh memiliki pengetahuan lengkap atau bahkan sebagian tentang detektor,” kata para ilmuwan, seperti dikutip dari laman Engadget (11/2).
Jadi, meski alat mendeteksi deepfake mengatakan bahwa sebuah yang sudah dimanipulasi sebagai video asli kita tetap disarankan untuk mengecek ulang keabsahannya. Hal ini penting agar kita tidak menjadi korban disinformasi.
