Call of Duty gunakan AI untuk hindari chat voice berbahasa kotor

Game mempunyai kekuatan untuk menghubungkan orang-orang di seluruh dunia dalam kesenangan dan kerja sama tim, tetapi game juga dapat menciptakan ruang yang siap untuk ucapan-ucapan tidak mendidik dan kebencian. Activision berupaya meminimalkan masalah ini, dengan mengumumkan kolaborasi baru dengan Modulate, sebuah perusahaan yang menggunakan teknologi untuk mengidentifikasi masalah ini, untuk moderasi obrolan suara langsung di Call of Duty.

Sistem AI Modulate, ToxMod, berupaya mengidentifikasi ancaman seperti ujaran kebencian, radikalisasi, dan tindakan menyakiti diri sendiri secara real-time. Ia mengklaim bekerja dalam tiga langkah: triase, analisis, dan eskalasi. ToxMod mendengarkan semua obrolan suara dan menandakan obrolan yang memerlukan pengamatan lebih lanjut.

Dilansir dari Engadget (31/8), data yang ditandai ini disimpan di server, sementara semua data lainnya akan diproses langsung di perangkat awal. Perusahaan tersebut mengatakan bahwa mereka kemudian mengevaluasi segalanya mulai dari nada hingga emosi, menganalisis tidak hanya "apa yang dikatakan, tetapi juga bagaimana hal tersebut dikatakan dan bagaimana pemain lain menanggapinya."

Terakhir, upaya ini dilakukan untuk mengingatkan moderator tentang insiden paling tidak menyenangkan dan menyerahkan kepada mereka untuk mengambil tindakan. Perusahaan mengklaim ini adalah "satu-satunya solusi moderasi suara asli" yang tersedia saat ini, yang telah melindungi "puluhan juta pemain".

Integrasi ToxMod dapat membantu mencegah respons toksik secara keseluruhan, bekerja sama dengan sistem pelaporan dan berpusat pada teks yang ada. “Mengatasi gangguan voice chat khususnya telah lama menjadi tantangan luar biasa di dunia game,” kata chief technology officer Activision, Michael Vance. “Melalui kolaborasi ini, kami kini menghadirkan teknologi machine learning tercanggih dari Modulate yang dapat diskalakan secara realtime untuk penegakan tingkat global. Ini adalah langkah maju yang penting untuk menciptakan dan mempertahankan pengalaman yang menyenangkan, adil, dan ramah bagi semua pemain." Tahun lalu, Activision mulai mengizinkan tim moderasi game untuk membisukan pemain menggunakan bahasa kotor dalam obrolan suara dan teks.

ToxMod sekarang tersedia sebagai rilis beta bahasa Inggris di Amerika Utara untuk Call of Duty: Modern Warfare II dan Call of Duty: Warzone. Ini akan dirilis secara global – kecuali Asia – ketika Call of Duty: Modern Warfare III dirilis pada 10 November.