Fitur suara canggih OpenAI dituding bisa manipulasi emosi pengguna

OpenAI, perusahaan teknologi yang dikenal dengan produk kecerdasan buatan (AI), telah merilis fitur terbaru bernama Advanced Voice Mode. Fitur ini memungkinkan pengguna untuk berkomunikasi dengan AI yang mampu meniru percakapan manusia secara realistis. Namun, peluncuran ini memicu kekhawatiran di kalangan pakar teknologi dan etika.

Dilansir dari The Verge (16/8), Advanced Voice Mode di ChatGPT dirancang untuk meniru aspek-aspek percakapan manusia seperti intonasi, jeda, dan bahkan tawa. Pengguna dapat memilih dari beberapa opsi suara, yang masing-masing menampilkan karakteristik suara yang berbeda, termasuk kemampuan untuk mengekspresikan emosi secara halus.

Dalam uji coba yang dilakukan oleh Kylie Robison, seorang jurnalis teknologi, fitur ini menunjukkan kemampuan yang mengesankan. Robison mengungkapkan bahwa suara AI ini terdengar sangat alami hingga menciptakan perasaan tidak nyaman, yang sering disebut sebagai "uncanny valley". Meskipun fitur ini memberikan kesan bahwa AI memahami dan merespons emosi manusia, pada kenyataannya AI tersebut hanya memprediksi respons berdasarkan pola yang telah dipelajarinya.

Namun, fitur ini bukan tanpa kontroversi. Pakar etika teknologi mengingatkan bahwa kemampuan AI untuk meniru percakapan manusia secara realistis bisa memicu masalah kepercayaan, di mana pengguna mungkin sulit membedakan antara interaksi dengan manusia asli dan mesin. Hal ini menimbulkan risiko bahwa AI bisa disalahgunakan untuk memanipulasi emosi atau menyebarkan informasi yang menyesatkan.

Di sisi teknis, beberapa pengguna melaporkan adanya masalah saat mencoba menghubungkan fitur ini dengan perangkat Bluetooth serta kesulitan dalam merekam percakapan dengan AI. Selain itu, respon AI yang terlalu manusiawi terkadang menimbulkan kekhawatiran akan potensi pengasingan sosial, terutama di era digital di mana interaksi manusia semakin berkurang.