Meta gunakan AI untuk hindari remaja berbohong soal umur di Instagram

Meta baru-baru ini mengumumkan rencana mereka untuk menggunakan alat kecerdasan buatan (AI) yang disebut 'adult classifier' untuk menangkap remaja yang berbohong tentang usia mereka di Instagram. Langkah ini diambil sebagai respons terhadap tekanan dari regulator dan orang tua yang khawatir tentang dampak media sosial terhadap kesehatan mental remaja.

Dilansir dari Engadget (6/11), alat tersebut akan mulai diterapkan pada awal tahun 2025 dan bertujuan untuk memastikan bahwa pengguna di bawah usia 18 tahun mendapatkan pengaturan privasi yang lebih ketat.

Menurut Allison Hartnett, Direktur Manajemen Produk untuk Pemuda dan Dampak Sosial di Meta, perangkat lunak ini akan menganalisis berbagai indikator seperti akun yang diikuti oleh pengguna dan konten yang sering mereka interaksi. Jika alat ini mencurigai bahwa seseorang berusia di bawah 18 tahun, meskipun profil mereka menyatakan sebaliknya, mereka akan secara otomatis dipindahkan ke akun remaja dengan pengaturan privasi yang lebih ketat.

Pengaturan privasi ini termasuk akun yang secara otomatis diatur ke mode privat dan pembatasan dalam mengirim pesan kepada orang yang tidak dikenal. Remaja yang mencoba mengubah usia mereka secara manual di akun mereka akan diminta untuk memverifikasi identitas mereka dengan mengunggah ID resmi atau berbagi video selfie melalui Yoti, sebuah teknologi verifikasi usia yang sebelumnya telah digunakan oleh Meta untuk Facebook Dating.

Meta pertama kali mengumumkan penggunaan AI untuk mengidentifikasi pengguna muda yang berbohong tentang usia mereka saat meluncurkan akun remaja pada bulan September. Dengan akun-akun ini, perusahaan secara otomatis menerapkan pengaturan privasi yang paling ketat untuk anak-anak di bawah usia 16 tahun. Langkah ini diambil untuk melindungi remaja dari konten yang berbahaya dan interaksi yang tidak diinginkan di platform mereka.

Meskipun Meta belum mengungkapkan seberapa akurat alat 'adult classifier' ini dalam menentukan usia seseorang, perusahaan berencana untuk memberikan opsi bagi pengguna yang salah diidentifikasi untuk mengajukan banding. Meta juga berencana untuk menandai remaja yang mencoba membuat akun baru menggunakan alamat email yang sudah terkait dengan akun yang ada dan tanggal lahir yang berbeda.

Dengan penerapan alat 'adult classifier' ini, Meta berharap dapat meningkatkan keamanan dan kesejahteraan remaja di platform mereka. Langkah ini menunjukkan komitmen Meta untuk menghadapi tantangan dalam melindungi pengguna muda dari risiko online dan memastikan pengalaman yang lebih aman di media sosial.