OpenAI kembali dihadapkan gugatan karena halusinasi ChatGPT
OpenAI kembali mendapatkan gugatan karena halusinasi ChatGPT, dimana orang tua di Austria disebut telah membunuh anaknya saat mencari namanya sendiri.
Sudah lebih dari dua tahun sejak ChatGPT diperkenalkan ke publik, tapi OpenAI masih bergulat dengan salah satu tantangan terbesarnya, yakni halusinasi AI. Ini merupakan sebuah bentuk penyampaian informasi palsu seolah-olah itu adalah fakta yang biasa dialami oleh AI.
Baru-baru ini, kelompok advokasi Austria Noyb mengajukan pengaduan kedua terhadap OpenAI, menyoroti contoh spesifik dimana ChatGPT salah menuduh seorang pria Norwegia sebagai pembunuh anaknya sendiri.
Dilansir dari laman Engadget (21/3), pria tersebut menanyakan kepada ChatGPT tentang dirinya, dan AI ini justru memberikan informasi palsu bahwa ia dihukum 21 tahun penjara karena membunuh dua anaknya dan mencoba membunuh anak ketiganya.
Yang lebih mengkhawatirkan, tanggapan ChatGPT juga menyertakan beberapa informasi nyata, seperti jumlah anaknya, jenis kelamin mereka, dan kota kelahirannya, yang dimana menciptakan narasi fiktif yang tampak kredibel.
Kelompok Noyb menilai bahwa hal ini melanggar Regulasi Perlindungan Data Umum (GDPR) Uni Eropa, yang mengharuskan data pribadi bersifat akurat dan memberi hak bagi individu untuk memperbaikinya jika ada kesalahan. Joakim Söderberg, pengacara dari Noyb, menyatakan bahwa pemberitahuan di ChatGPT yang mengatakan "AI dapat membuat kesalahan" tidak cukup sebagai pembelaan.
