OpenAI kembali dihadapkan gugatan karena halusinasi ChatGPT

Sudah lebih dari dua tahun sejak ChatGPT diperkenalkan ke publik, tapi OpenAI masih bergulat dengan salah satu tantangan terbesarnya, yakni halusinasi AI. Ini merupakan sebuah bentuk penyampaian informasi palsu seolah-olah itu adalah fakta yang biasa dialami oleh AI.

Baru-baru ini, kelompok advokasi Austria Noyb mengajukan pengaduan kedua terhadap OpenAI, menyoroti contoh spesifik dimana ChatGPT salah menuduh seorang pria Norwegia sebagai pembunuh anaknya sendiri.

Dilansir dari laman Engadget (21/3), pria tersebut menanyakan kepada ChatGPT tentang dirinya, dan AI ini justru memberikan informasi palsu bahwa ia dihukum 21 tahun penjara karena membunuh dua anaknya dan mencoba membunuh anak ketiganya. 

Yang lebih mengkhawatirkan, tanggapan ChatGPT juga menyertakan beberapa informasi nyata, seperti jumlah anaknya, jenis kelamin mereka, dan kota kelahirannya, yang dimana menciptakan narasi fiktif yang tampak kredibel.

Kelompok Noyb menilai bahwa hal ini melanggar Regulasi Perlindungan Data Umum (GDPR) Uni Eropa, yang mengharuskan data pribadi bersifat akurat dan memberi hak bagi individu untuk memperbaikinya jika ada kesalahan. Joakim Söderberg, pengacara dari Noyb, menyatakan bahwa pemberitahuan di ChatGPT yang mengatakan "AI dapat membuat kesalahan" tidak cukup sebagai pembelaan.

"Anda tidak bisa begitu saja menyebarkan informasi palsu dan kemudian sekadar menambahkan pernyataan kecil bahwa semua yang Anda katakan mungkin tidak benar," ujar Söderberg.

Ini bukan pertama kalinya Noyb mengajukan keluhan terhadap OpenAI. Pada April 2024, mereka juga mengajukan gugatan karena kesalahan tanggal lahir figur publik dalam database ChatGPT. OpenAI menolak permintaan untuk menghapus atau memperbaiki informasi tersebut, dengan alasan bahwa sistemnya tidak bisa mengedit data secara langsung, hanya memblokir penggunaan informasi tertentu dalam permintaan spesifik.

Halusinasi di ChatGPT bukan masalah baru. Beberapa contoh lain yang pernah terjadi termasuk menuduh seseorang melakukan penipuan dan penggelapan, melabeli seorang reporter pengadilan sebagai pelaku pelecehan anak, hingga mengaitkan seorang profesor hukum dengan pelecehan seksual.

Kasus ini kembali memunculkan pertanyaan besar, seberapa jauh tanggung jawab OpenAI atas kesalahan yang dibuat oleh ChatGPT? Meskipun manusia juga bisa melakukan kesalahan, bisakah AI yang memiliki pengaruh luas dan sering digunakan sebagai sumber informasi diberi kelonggaran yang sama?

Kini, dunia menunggu bagaimana OpenAI akan menanggapi gugatan terbaru ini dan apakah ada langkah konkret untuk mengatasi halusinasi AI yang berulang.