OpenAI blokir akun dari Tiongkok yang langgar kebijakan penggunaan platform
Sekelompok orang di Tiongkok menggunakan ChatGPT untuk membuat aplikasi pengawasan media sosial, akun mereka kini diblokir.
Teknologi AI memang di satu sisi memiliki kemampuan untuk membantu kita dalam kehidupan sehari-hari. Namun, tak jarang juga ada pihak yang tak bertanggung jawab menggunakan teknologi tersebut untuk hal-hal negatif.
Baru-baru ini, OpenAI telah mengambil tindakan tegas dengan memblokir akun sekelompok pengguna dari Tiongkok yang mencoba memanfaatkan ChatGPT untuk mengembangkan dan memperbaiki kode dalam proyek alat pengawasan media sosial berbasis AI.
Adalah Peer Review, sebuah kampanye yang bertujuan untuk memantau sentimen anti-Tiongkok di berbagai platform media sosial seperti X, Facebook, YouTube, dan Instagram. Berdasarkan dokumen yang diperoleh, operasi tersebut tampaknya secara khusus berusaha mengidentifikasi seruan protes terkait pelanggaran hak asasi manusia di Tiongkok, dengan tujuan membagikan informasi tersebut kepada otoritas negara.
Menurut OpenAI, jaringan ini terdiri dari akun-akun ChatGPT yang aktif dalam pola waktu yang sesuai dengan jam kerja di Tiongkok, mengajukan permintaan dalam bahasa Tiongkok, dan menggunakan model AI dengan volume serta variasi yang menunjukkan bahwa interaksi dilakukan secara manual, bukan otomatis.
OpenAI juga menemukan bahwa operator di balik operasi ini menggunakan model AI mereka untuk mengoreksi klaim mengenai pengiriman wawasan kepada kedutaan besar Tiongkok di luar negeri dan badan intelijen yang memantau aksi protes di berbagai negara seperti AS, Jerman, dan Inggris, seperti dilansir dari laman Engadget (24/2).