OpenAI larang akun Tiongkok yang gunakan ChatGPT untuk pengawasan

OpenAI baru-baru ini mengumumkan bahwa mereka telah melarang sejumlah akun yang berasal dari Tiongkok karena terlibat dalam aktivitas yang terkait dengan pengembangan alat pengawasan media sosial. Dilansir dari Engadget (24/2), langkah ini diambil setelah OpenAI menemukan bahwa akun-akun tersebut menggunakan ChatGPT untuk mengedit dan debug kode untuk alat pengawasan yang dirancang untuk memantau sentimen anti-Tiongkok di berbagai platform media sosial seperti X, Facebook, YouTube, dan Instagram.

Menurut laporan yang dirilis oleh OpenAI, kampanye ini, yang disebut "Peer Review," melibatkan penggunaan ChatGPT untuk menghasilkan pitch penjualan untuk program yang dirancang untuk memantau seruan protes terhadap pelanggaran hak asasi manusia di Tiongkok. Alat ini juga digunakan untuk memantau protes di negara-negara seperti Amerika Serikat, Jerman, dan Inggris, dengan tujuan membagikan wawasan tersebut kepada otoritas Tiongkok.

Jaringan akun-akun ini beroperasi sesuai dengan pola waktu bisnis di Tiongkok daratan, menggunakan model AI OpenAI dalam bahasa Tiongkok, dan menggunakan alat tersebut dengan volume dan variasi yang konsisten dengan pemantauan manual, bukan otomatisasi. OpenAI juga menemukan bahwa para operator menggunakan model AI mereka untuk memeriksa klaim bahwa wawasan mereka telah dikirim ke kedutaan besar Tiongkok di luar negeri dan kepada agen intelijen yang memantau protes di berbagai negara.

Ben Nimmo, seorang penyelidik utama di OpenAI, menyatakan bahwa ini adalah pertama kalinya perusahaan menemukan alat AI semacam ini. Nimmo juga menambahkan bahwa ancaman semacam ini kadang-kadang memberi mereka gambaran tentang apa yang dilakukan oleh aktor jahat di bagian lain internet karena cara mereka menggunakan model AI OpenAI.

Sebagian besar kode untuk alat pengawasan ini tampaknya didasarkan pada versi open-source dari salah satu model Llama milik Meta. Selain itu, kelompok ini juga menggunakan ChatGPT untuk menghasilkan ulasan kinerja akhir tahun di mana mereka mengklaim telah menulis email phishing atas nama klien di Tiongkok.

Dalam insiden terpisah, OpenAI juga melarang akun yang menggunakan ChatGPT untuk menghasilkan posting media sosial yang kritis terhadap Cai Xia, seorang ilmuwan politik dan pembangkang Tiongkok yang tinggal di pengasingan di Amerika Serikat. Kelompok yang sama juga menggunakan chatbot untuk menghasilkan artikel dalam bahasa Spanyol yang kritis terhadap Amerika Serikat, yang kemudian diterbitkan oleh organisasi berita arus utama di Amerika Latin.

Langkah tegas OpenAI ini menunjukkan komitmen mereka untuk mencegah penyalahgunaan model AI mereka dan melindungi kebebasan pribadi serta hak asasi manusia di seluruh dunia.