Fitur terbaru TikTok AI izinkan pengguna membuat video ekstrem

TikTok menghadapi skandal serius setelah kesalahan teknis pada platformnya mengizinkan pengguna membuat video dengan konten berbahaya, termasuk kutipan Adolf Hitler dan pesan-pesan ekstrem lainnya. Kesalahan ini pertama kali ditemukan oleh CNN, yang menunjukkan betapa rentannya alat baru TikTok, Symphony Digital Avatars.

Dilansir dari The Verge (24/6), Symphony Digital Avatars, yang diluncurkan minggu ini, dirancang untuk membantu bisnis membuat iklan dengan menggunakan avatar digital yang menyerupai aktor bayaran. Teknologi AI di balik alat ini memungkinkan pengiklan memasukkan teks yang ingin diucapkan oleh avatar. Namun, versi internal tanpa pengawasan yang bocor ke publik memungkinkan pengguna pribadi mengaksesnya dan membuat video dengan skrip apa pun, tanpa batasan.

Laura Perez, juru bicara TikTok, dalam pernyataan resminya kepada The Verge, menyatakan bahwa masalah ini disebabkan oleh "kesalahan teknis" yang memungkinkan "sejumlah kecil pengguna" mengakses versi internal alat tersebut selama beberapa hari. TikTok mengklaim telah menyelesaikan masalah ini dan menarik versi yang bocor tersebut.

Investigasi CNN mengungkapkan potensi bahaya alat ini. Mereka berhasil membuat video yang memuat pesan dari "Surat untuk Amerika" karya Osama bin Laden, slogan supremasi kulit putih, dan instruksi palsu untuk memilih di hari yang salah. Ironisnya, video-video tersebut tidak memiliki tanda air yang mengindikasikan bahwa konten tersebut dihasilkan oleh AI, fitur yang seharusnya ada pada versi resmi alat ini.

Walaupun CNN tidak mempublikasikan video-video tersebut di TikTok, Perez menegaskan bahwa jika video tersebut diunggah, kontennya akan ditolak karena melanggar kebijakan TikTok. Namun, insiden ini menimbulkan pertanyaan serius tentang potensi penyalahgunaan alat ini di masa depan dan kesiapan TikTok dalam mencegahnya.

Kasus ini menyoroti kebutuhan mendesak akan keamanan digital yang lebih ketat dan kontrol konten yang lebih baik di platform media sosial besar. Dengan teknologi AI yang semakin canggih, tantangan dalam mencegah penyalahgunaan dan memastikan keamanan pengguna semakin besar, menuntut respons yang lebih cepat dan efektif dari perusahaan teknologi.

Insiden ini menjadi pengingat kuat akan pentingnya pengawasan ketat terhadap alat-alat digital baru dan potensi bahaya yang mereka bawa jika tidak dikelola dengan baik. TikTok, sebagai salah satu platform terbesar di dunia, kini berada di bawah tekanan untuk memperkuat sistem keamanannya dan memastikan kejadian serupa tidak terulang.