Peneliti: Chatbot AI canggih ogah mengakui keterbatasan pengetahuan

Seiring dengan kemajuan teknologi, chatbot AI semakin canggih dan mampu memberikan jawaban yang lebih akurat. Namun, sebuah studi terbaru mengungkapkan bahwa chatbot AI yang lebih maju juga cenderung memberikan jawaban yang salah daripada mengakui bahwa mereka tidak tahu jawabannya.

Dilansir dari Engadget (27/9), penelitian yang dilakukan oleh tim dari Valencian Research Institute for Artificial Intelligence di Spanyol menunjukkan bahwa model AI yang lebih besar dan lebih canggih, seperti OpenAI GPT-4 dan Meta LLaMA, lebih sering memberikan jawaban yang salah daripada menghindari pertanyaan yang sulit. Tim peneliti menguji model-model ini dengan ribuan pertanyaan tentang aritmatika, anagram, geografi, dan sains, serta kemampuan mereka untuk mengubah informasi, seperti mengurutkan daftar secara alfabetis.

Salah satu alasan utama mengapa chatbot AI canggih cenderung memberikan jawaban yang salah adalah karena mereka dirancang untuk menjawab hampir semua pertanyaan yang diajukan kepada mereka. José Hernández-Orallo, profesor di Universitat Politecnica de Valencia, Spanyol, yang memimpin proyek ini, menyatakan bahwa chatbot AI saat ini “menjawab hampir semua hal,” yang berarti lebih banyak jawaban yang benar, tetapi juga lebih banyak jawaban yang salah.

Masalah ini diperparah oleh fakta bahwa pengguna sering kali tidak dapat membedakan antara jawaban yang benar dan yang salah. Penelitian menunjukkan bahwa pengguna cenderung menganggap jawaban yang salah sebagai benar, yang dapat menyebabkan penyebaran informasi yang salah. Hal ini menimbulkan risiko besar, terutama ketika chatbot digunakan dalam konteks yang memerlukan akurasi tinggi, seperti medis atau hukum.

Untuk mengatasi masalah ini, tim peneliti merekomendasikan agar pengembang AI meningkatkan kinerja chatbot untuk pertanyaan yang mudah dan memprogram mereka untuk menolak menjawab pertanyaan yang terlalu sulit. Hernández-Orallo menyarankan bahwa pengguna perlu memahami batasan chatbot AI dan menggunakan mereka dengan bijak.