OpenAI blokir akun dari Tiongkok yang langgar kebijakan penggunaan platform

Teknologi AI memang di satu sisi memiliki kemampuan untuk membantu kita dalam kehidupan sehari-hari. Namun, tak jarang juga ada pihak yang tak bertanggung jawab menggunakan teknologi tersebut untuk hal-hal negatif.

Baru-baru ini, OpenAI telah mengambil tindakan tegas dengan memblokir akun sekelompok pengguna dari Tiongkok yang mencoba memanfaatkan ChatGPT untuk mengembangkan dan memperbaiki kode dalam proyek alat pengawasan media sosial berbasis AI. 

Adalah Peer Review, sebuah kampanye yang bertujuan untuk memantau sentimen anti-Tiongkok di berbagai platform media sosial seperti X, Facebook, YouTube, dan Instagram. Berdasarkan dokumen yang diperoleh, operasi tersebut tampaknya secara khusus berusaha mengidentifikasi seruan protes terkait pelanggaran hak asasi manusia di Tiongkok, dengan tujuan membagikan informasi tersebut kepada otoritas negara.

Menurut OpenAI, jaringan ini terdiri dari akun-akun ChatGPT yang aktif dalam pola waktu yang sesuai dengan jam kerja di Tiongkok, mengajukan permintaan dalam bahasa Tiongkok, dan menggunakan model AI dengan volume serta variasi yang menunjukkan bahwa interaksi dilakukan secara manual, bukan otomatis. 

OpenAI juga menemukan bahwa operator di balik operasi ini menggunakan model AI mereka untuk mengoreksi klaim mengenai pengiriman wawasan kepada kedutaan besar Tiongkok di luar negeri dan badan intelijen yang memantau aksi protes di berbagai negara seperti AS, Jerman, dan Inggris, seperti dilansir dari laman Engadget (24/2).

Ben Nimmo, seorang penyelidik utama di OpenAI, mengungkapkan bahwa ini adalah pertama kalinya perusahaan menemukan penggunaan AI untuk tujuan semacam ini. Dia menyatakan bahwa pola penggunaan ChatGPT oleh kelompok ini memberikan wawasan baru tentang aktivitas mereka di bagian lain dari internet. 

Sebagian besar kode dalam alat pengawasan ini tampaknya berbasis pada versi sumber terbuka dari salah satu model Llama milik Meta. Selain itu, kelompok tersebut juga menggunakan ChatGPT untuk membuat tinjauan kinerja akhir tahun serta email phishing atas nama klien mereka di Tiongkok.

Dalam pernyataan resminya, OpenAI menekankan bahwa menilai dampak dari aktivitas ini memerlukan keterlibatan berbagai pemangku kepentingan, termasuk pengelola model AI sumber terbuka yang mungkin memiliki wawasan lebih lanjut tentang operasi tersebut. 

Secara terpisah, OpenAI juga mengungkap bahwa mereka baru-baru ini memblokir akun yang menggunakan ChatGPT untuk membuat postingan media sosial yang mengkritik Cai Xia, seorang ilmuwan politik dan pembangkang Tiongkok yang tinggal di pengasingan di AS. 

Selain itu, kelompok ini juga menggunakan chatbot untuk menghasilkan artikel dalam bahasa Spanyol yang mengkritik AS, yang kemudian diterbitkan oleh organisasi berita di Amerika Latin dan sering dikaitkan dengan individu atau perusahaan asal Tiongkok.