Upaya YouTube melawan konten deepfake dengan teknologi deteksi mutakhir

YouTube telah mengumumkan pengembangan alat baru untuk melindungi para kreator dan artis dari penggunaan tidak sah wajah dan suara mereka yang dihasilkan oleh kecerdasan buatan (AI). Langkah ini diambil sebagai respons terhadap meningkatnya kekhawatiran tentang penyalahgunaan teknologi deepfake yang semakin canggih.

Dilansir dari Engadget (6/9), alat baru ini dirancang untuk mendeteksi konten AI-generated yang menggunakan wajah atau suara seseorang tanpa izin. YouTube berencana meluncurkan program percontohan untuk alat deteksi suara pada awal tahun depan. Teknologi ini akan memungkinkan para kreator, aktor, musisi, dan atlet untuk menemukan dan mengelola konten yang menggunakan versi deepfake dari wajah atau suara mereka.

Salah satu fitur utama yang akan diperkenalkan adalah teknologi identifikasi nyanyian sintetis, yang akan menjadi bagian dari sistem Content ID YouTube. Sistem ini secara otomatis memeriksa pelanggaran hak cipta dan dapat menghapus film atau lagu yang diunggah tanpa izin. Teknologi ini akan membantu musisi terkenal seperti Drake, Billie Eilish, atau Taylor Swift untuk menemukan dan menghapus video yang menggunakan suara mereka secara tidak sah.

Selain itu, alat deteksi wajah akan membantu tokoh publik seperti influencer, aktor, dan atlet untuk melacak dan menandai media AI-generated yang menggunakan wajah mereka di YouTube. Namun, belum jelas apakah YouTube akan menggunakan alat ini secara proaktif untuk mendeteksi gambar AI-generated yang meniru orang-orang yang tidak terkenal.

Amjad Hanif, Wakil Presiden Produk Kreator YouTube, menyatakan bahwa AI seharusnya meningkatkan kreativitas manusia, bukan menggantikannya. “Kami berkomitmen untuk bekerja sama dengan mitra kami untuk memastikan kemajuan di masa depan memperkuat suara mereka, dan kami akan terus mengembangkan pengaman untuk mengatasi kekhawatiran dan mencapai tujuan bersama”.

Langkah ini merupakan bagian dari upaya YouTube untuk menciptakan lingkungan yang lebih aman bagi para kreator dan pengguna. Dengan meningkatnya jumlah video deepfake di internet, yang sebagian besar digunakan untuk tujuan yang tidak etis, alat ini diharapkan dapat memberikan perlindungan yang lebih baik bagi semua pihak yang terlibat.