Fitur terbaru TikTok AI izinkan pengguna membuat video ekstrem

Oleh: Lysti Rahma - Senin, 24 Jun 2024 10:06 WIB

Symphony Digital Avatars, yang diluncurkan minggu ini, dirancang untuk membantu bisnis membuat iklan dengan menggunakan avatar digital yang menyerupai aktor bayaran.

TikTok menghadapi skandal serius setelah kesalahan teknis pada platformnya mengizinkan pengguna membuat video dengan konten berbahaya, termasuk kutipan Adolf Hitler dan pesan-pesan ekstrem lainnya. Kesalahan ini pertama kali ditemukan oleh CNN, yang menunjukkan betapa rentannya alat baru TikTok, Symphony Digital Avatars.

Dilansir dari The Verge (24/6), Symphony Digital Avatars, yang diluncurkan minggu ini, dirancang untuk membantu bisnis membuat iklan dengan menggunakan avatar digital yang menyerupai aktor bayaran. Teknologi AI di balik alat ini memungkinkan pengiklan memasukkan teks yang ingin diucapkan oleh avatar. Namun, versi internal tanpa pengawasan yang bocor ke publik memungkinkan pengguna pribadi mengaksesnya dan membuat video dengan skrip apa pun, tanpa batasan.

Laura Perez, juru bicara TikTok, dalam pernyataan resminya kepada The Verge, menyatakan bahwa masalah ini disebabkan oleh "kesalahan teknis" yang memungkinkan "sejumlah kecil pengguna" mengakses versi internal alat tersebut selama beberapa hari. TikTok mengklaim telah menyelesaikan masalah ini dan menarik versi yang bocor tersebut.

Investigasi CNN mengungkapkan potensi bahaya alat ini. Mereka berhasil membuat video yang memuat pesan dari "Surat untuk Amerika" karya Osama bin Laden, slogan supremasi kulit putih, dan instruksi palsu untuk memilih di hari yang salah. Ironisnya, video-video tersebut tidak memiliki tanda air yang mengindikasikan bahwa konten tersebut dihasilkan oleh AI, fitur yang seharusnya ada pada versi resmi alat ini.

Walaupun CNN tidak mempublikasikan video-video tersebut di TikTok, Perez menegaskan bahwa jika video tersebut diunggah, kontennya akan ditolak karena melanggar kebijakan TikTok. Namun, insiden ini menimbulkan pertanyaan serius tentang potensi penyalahgunaan alat ini di masa depan dan kesiapan TikTok dalam mencegahnya.