AI Google bisa blokir konten pornografi anak

Konten pornografi memang menimbulkan kekhawatiran banyak kalangan. Konten lain yang tak kalah mengkhawatirkan yaitu pelecehan seksual pada anak yang juga tersebar di internet dalam beragam versi. Sayangnya cukup sulit untuk memberantas konten itu hingga benar-benar bersih. Guna meminimalisir hal tersebut, Google kini meluncurkan software Artificial Intelligence (AI) secara gratis. 

Sebagian besar solusi teknologi dalam hal ini bekerja dengan memeriksa gambar dan video pada katalog materi yang sebelumnya telah diidentifikasi. Misalnya saja PhotoDNA yang merupakan tools besutan Microsoft yang disebarkan oleh perusahaan seperti Facebook dan Twitter.

Software semacam itu dikenal sebagai "crawler" yang efektif menghentikan orang yang membagikan konten pelecehan seksual anak. Namun teknologi itu tak mampu menangkap materi yang belum ditandai sebagai hal yang ilegal. Oleh karenanya, manusia harus terlibat sebagai moderator guna meninjau kontennya secara mandiri.

AI dari Google akan membantu memangkas proses itu. AI tersebut akan membantu moderator menyortir gambar dan video yang ditandai sebagai dan memprioritaskan konten pelecehan seksual anak yang paling mungkin untuk ditinjau. Dengan begitu, ada kemungkinan proses peninjauan akan menjadi lebih cepat. 

Dalam sebuah percobaan tools AI membantu seorang moderator mengambil tindakan pada konten pelecehan seksual anak, 700 persen lebih banyak selama periode waktu yang sama. "Software ini akan membantu tim seperti kami sendiri menggunakan sumber daya kami yang terbatas menjadi jauh lebih efektif.. Saat ini kami hanya menggunakan manusia untuk melewati konten dan berkata ya, tidak. Ini akan membantu," kata Fred Langford, wakil CEO Internet Watch Foundation (IWF) kepada The Verge.

Sebagai informasi, IWF merupakan salah satu organisasi terbesar yang didedikasikan untuk mengentikan penyebaran konten pelecehan seksual anak online. Organisasi ini berbasis di Inggris namun didanai perusahaan teknologi besar temasuk Google. 

IWF akan menguji tools AI baru Google secara menyeluruh guna melihat kinerjanya apakah sesuai dengan alur kerja moderator. Dia menambahkan bahwa tools seperti ini merupakan langkah menuju sistem otomatis penuh yang bisa mengidentifikasi konten yang sebelumnya kasat mata.