Instagram sertakan AI untuk deteksi perundungan

Tahun lalu, Instagram memperkenalkan filter komentar yang dilengkapi machine learning guna menemukan kata-kata dan frasa yang menyinggung. Kini, perusahaan yang bernaung di Facebook itu memperluas cakupannya agar teknologi itu juga bisa diterapkan di foto maupun teks yang menyertai foto yang diunggah ke Instagram tersebut.

Instagram mengumumkan akan menggunakan Artificial Intelligence (AI) untuk mendeteksi bullying (perundungan) secara proaktif, sebelum akhirnya ditinjau oleh moderator manusia. Fitur baru ini akan dirilis kepada pengguna dalam beberapa minggu mendatang, atau bertepatan dengan Bulan Pencegahan Perundungan Nasional di Amerika Serikat (AS), dan tepat sebelum Pekan Anti-Bullying di Inggris. Dilansir The Verge, teknologi yang sama juga akan ditambahkan pada live video untuk menyaring komentar perundungan.

Penerapan teknologi ini secara langsung akan membantu Instagram mampu mempertahankan kepercayaan pengguna. Sebagaimana diketahui, induk perusahaannya - Facebook terjerat skandal pencurian data pengguna sehingga kepercayaan publik menurun. Instagram sendiri menjadi layanan milik Facebook yang masih dipercaya dan digandrungi pengguna. Oleh karenanya, mempertahankan kepercayaan pengguna dinilai sangatlah penting.

Wired pernah menjelaskan filter komentar berkat machine learning di Instagram. Meski dinilai canggih dan bisa diterapkan pada skala yang besar, teknologi ini tak akan sepenuhnya mampu memoderasi konten tanpa hadirnya manusia. Beruntung Instagram masih melibatkan manusia untuk meninjau konten, mengingat teknologi belum tentu memahami konteks manusia.

Menariknya, teknologi itu disebut Instagram tak hanya menganalisis caption, namun juga foto yang diunggah. Juru bicara Instagram kepada The Verge mencontohkan bahwa AI mencari gambar split-screen misalnya untuk menemukan potensi perundungan.