Seorang pria harus dipenjara karena kesalahan teknologi pengenalan wajah

Seorang pria tidak bersalah di New Jersey harus mendekam di penjara selama 10 hari karena kesalahan software face recognition atau perangkat lunak pengenalan wajah yang salah mengidentifikasi dia sebagai tersangka. Saat itu, Clearview AI tengah mencari tersangka dari kasus pencurian. Perangkat tersebut menggunakan foto yang diambil dari media sosial untuk mengidentifikasi tersangka kriminal.

Menurut laporan dari NJ Advance Media (29/12), polisi setempat tengah mencari tersangka yang mencuri di toko suvenir sebuah hotel dan kabur menggunakan Dodge Challenger-nya. Gambar yang terjadi di lokasi pun tertangkap oleh perangkat lunak Clearview dan mengidentifikasi seseorang bernama Njeer Park. Tidak lama setelah itu, Park ditangkap dan ditahan oleh polisi.

Namun, klaim Park mengatakan kalau dirinya tidak pernah pegi ke kota tempat insiden itu. Saat persidangan berlanngsung, Hakim bahkan meminta lebih banyak bukti kepada jaksa penuntut, selain dari perangkat lunak pengenalan wahah. Tidak lama kemudian, kasus itu diam-diam dibatalkan dan Park dibebaskan setelah 10 hari di penjara dan menghabiskan jutaan dolar untuk menyewa pengacara.

Kasus salah identifikasi ini menyoroti bahaya yang dapat ditimbulkan oleh sebuah perangkat lunak pengenalan wajah. Ini bukan pertama kalinya terjadi. Sebelumnya di Detroit, seseorang ditangkap secara keliru karena sebuah teknologi dan menghabiskan 30 jam di dalam penjara. Ini terjadi setelah video dari perampokan diputar melalui alat pengenalan wajah dan dia ditandai sebagai tersangka. Dalam praktiknya di dunia nyata, sebuah algoritma bisa saja salah dan tidak bisa sepenuhnya diandalkan.

Terlepas dari kasus di atas, sangat sedikit pengawasan pada penggunaan teknologi pengenalan wajah dalam penegakan hukum. Potensi kesalahan dan penyalahgunaan sangat besar kemungkinan terjadi. Maka dari itu banyak perusahaan besar, seperti Amazon, Microsoft, dan IBM semuanya telah menyerukan moratorium dan reformasi penggunaannya oleh penegak hukum.

Sejak penangkapan Parks, New Jersey telah menghentikan penggunaan produk pengenal wajah untuk sementara waktu dan mengembangkan kebijakan yang mengatur penggunaannya.