Google Jigsaw open source alat untuk tangani konten ekstremis di platform online

Jigsaw, anak perusahaan Google yang bergerak di bidang inkubasi teknologi, telah membuka akses kode sumber alat kontra-terorisme mereka, Altitude, untuk membantu perusahaan kecil mengatasi penyebaran konten ekstremis di platform online mereka.

Dilansir dari TechCrunch (23/7), dengan perusahaan teknologi besar seperti Meta, X, dan Google yang sudah berpengalaman dalam memoderasi konten berbahaya, banyak perusahaan digital yang lebih kecil kesulitan mengikuti langkah tersebut karena keterbatasan sumber daya. Hal ini menjadi semakin mendesak di tengah tekanan regulasi seperti Digital Services Act (DSA) di Eropa dan aturan khusus konten terorisme yang mengharuskan penghapusan konten ilegal secara cepat.

Sejak rebranding dari Google Ideas pada 2016, Jigsaw fokus mengembangkan produk untuk menghadapi isu sosial seperti disinformasi, sensor, dan penyebaran konten beracun serta ekstremis online. Pada November lalu, Jigsaw memperkenalkan alat moderasi konten baru bernama Altitude. Alat ini membantu moderator memverifikasi apakah konten di platform mereka cocok dengan yang telah ditandai di basis data pihak ketiga, tanpa harus memeriksa setiap sumber secara individu.

Altitude dikembangkan bersama Tech Against Terrorism, sebuah inisiatif yang diluncurkan pada 2017 oleh United Nations’ Counter-Terrorism Committee Executive Directorate (CTED), yang bertujuan mendukung industri teknologi dalam mengembangkan alat yang lebih efektif untuk menangani penggunaan internet oleh teroris. Selain itu, pengembangan alat ini juga melibatkan Global Internet Forum to Counter Terrorism (GIFCT), yang anggotanya terdiri dari perusahaan teknologi besar.

Sembilan bulan setelah pengumuman awal, Jigsaw kini menyerahkan Altitude secara resmi kepada Tech Against Terrorism yang akan melanjutkan pengembangan dan pemeliharaannya. Kode sumber Altitude kini tersedia di GitHub di bawah lisensi Apache 2.0, memungkinkan perusahaan untuk menghosting alat ini sendiri dan pihak ketiga untuk memeriksa kodenya.

Altitude mengumpulkan data dari sumber tepercaya seperti GIFCT dan Terrorist Content Analytics Platform dari Tech Against Terrorism, yang menyediakan basis data konten teroris yang terverifikasi secara real-time. Dengan menggabungkan konten ekstremis dan teroris (TVEC) dalam satu tampilan, Altitude memungkinkan moderator untuk meninjau dan menghapus konten dengan cepat serta mematuhi kewajiban hukum yang berlaku.

Jigsaw melakukan wawancara dengan pendiri, pemimpin kepercayaan dan keamanan, serta peninjau konten TVEC di sebelas platform dengan berbagai ukuran selama setahun. Temuan menunjukkan bahwa kesiapan platform dalam mengelola TVEC tidak selalu terkait dengan ukuran organisasi atau basis pengguna mereka. Bahkan layanan yang matang terkadang kekurangan sinyal untuk mengidentifikasi bahaya secara proaktif. 

Sebagai proyek open source, perusahaan mana pun dapat mengintegrasikan Altitude ke dalam platform mereka sendiri atau bekerja sama dengan Tech Against Terrorism untuk mendapatkan dukungan onboarding khusus. Jigsaw dan Tech Against Terrorism berencana menambahkan basis data khusus dan memperluas alat ini ke bahasa lain selain bahasa Inggris di masa depan.