OpenAI pertimbangkan rilis alat pendeteksi teks ChatGPT

OpenAI, perusahaan di balik pengembangan ChatGPT, mengungkapkan bahwa mereka sedang meneliti alat watermarking teks yang berpotensi mendeteksi siswa yang menggunakan ChatGPT untuk menulis tugas mereka. Meskipun demikian, rencana peluncuran alat ini masih dipertimbangkan dengan hati-hati.

Menurut laporan dari The Wall Street Journal (5/8), perusahaan ini belum memutuskan apakah akan merilis alat tersebut. Dalam pernyataan yang diberikan kepada TechCrunch, seorang juru bicara OpenAI mengonfirmasi bahwa perusahaan sedang meneliti metode watermarking teks seperti yang dijelaskan dalam laporan tersebut. 

"Metode watermarking teks yang kami kembangkan secara teknis menjanjikan, tetapi memiliki risiko penting yang sedang kami pertimbangkan saat meneliti alternatif, termasuk kerentanan terhadap penyalahgunaan oleh pelaku jahat dan potensi dampak yang tidak proporsional terhadap kelompok seperti penutur non-Inggris," ujar juru bicara OpenAI.

Pendekatan watermarking teks ini berbeda dari upaya sebelumnya untuk mendeteksi teks yang dihasilkan AI, yang sebagian besar tidak efektif. Bahkan, OpenAI sendiri menutup alat pendeteksi teks AI sebelumnya tahun lalu karena tingkat akurasi yang rendah.

Watermarking teks yang diusulkan akan fokus pada deteksi tulisan dari ChatGPT dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark tak terlihat dalam teks yang dihasilkan. Watermark ini dapat dideteksi oleh alat terpisah yang dikembangkan oleh OpenAI.