Penggunaan deepfake kini terlarang di Facebook

Facebook baru-baru ini memperkenalkan seperangkat aturan baru yang melarang deepfake di platform mereka. Kebijakan ini secara khusus menargetkan video yang diedit menggunakan AI atau machine learning untuk membuatnya terlihat asli, dan pada titik yang rata-rata pengguna tidak bisa dengan mudah menentukan bahwa video tersebut tidak nyata.

Facebook meluncurkan aturan ini menjelang pemilihan presiden 2020 untuk membantu mencegah penyebaran disinformasi pada platform-nya. Namun, sebagaimana dicatat oleh publikasi perusahaan, mereka tidak akan benar-benar menyingkirkan semua video palsu di jejaring sosial miliknya.

Aturan baru ini tidak mencakup video yang dimanipulasi untuk parodi atau sindiran, atau yang diedit semata-mata untuk menghilangkan atau mengubah urutan kata-kata. Aturan ini juga tidak akan mengarah pada penghapusan video yang diedit menggunakan bentuk manipulasi yang lebih rendah, seperti video Nancy Pelosi yang sempat viral, seperti lapor Engadget (8/1/2020).

Facebook mengatakan mereka masih akan mengecek "shallowfakes" ini (istilah yang digunakan peneliti disinformasi) dan membatasi penyebaran mereka di News Feed atau menghapusnya sepenuhnya jika dijalankan sebagai iklan.

Jejaring sosial tersebut menjelaskan bahwa pendekatan yang diambil sangat penting untuk strategi mereka. "Jika kami hanya menghapus semua video yang dimanipulasi yang ditandai oleh pemeriksa fakta sebagai palsu, video tersebut masih akan tersedia di tempat lain di internet atau ekosistem media sosial,” kata perwakilan Facebook.