Fitur suara canggih OpenAI dituding bisa manipulasi emosi pengguna
Robison mengungkapkan bahwa suara AI ini terdengar sangat alami hingga menciptakan perasaan tidak nyaman, yang sering disebut sebagai "uncanny valley".
OpenAI, perusahaan teknologi yang dikenal dengan produk kecerdasan buatan (AI), telah merilis fitur terbaru bernama Advanced Voice Mode. Fitur ini memungkinkan pengguna untuk berkomunikasi dengan AI yang mampu meniru percakapan manusia secara realistis. Namun, peluncuran ini memicu kekhawatiran di kalangan pakar teknologi dan etika.
Dilansir dari The Verge (16/8), Advanced Voice Mode di ChatGPT dirancang untuk meniru aspek-aspek percakapan manusia seperti intonasi, jeda, dan bahkan tawa. Pengguna dapat memilih dari beberapa opsi suara, yang masing-masing menampilkan karakteristik suara yang berbeda, termasuk kemampuan untuk mengekspresikan emosi secara halus.
Dalam uji coba yang dilakukan oleh Kylie Robison, seorang jurnalis teknologi, fitur ini menunjukkan kemampuan yang mengesankan. Robison mengungkapkan bahwa suara AI ini terdengar sangat alami hingga menciptakan perasaan tidak nyaman, yang sering disebut sebagai "uncanny valley". Meskipun fitur ini memberikan kesan bahwa AI memahami dan merespons emosi manusia, pada kenyataannya AI tersebut hanya memprediksi respons berdasarkan pola yang telah dipelajarinya.
Namun, fitur ini bukan tanpa kontroversi. Pakar etika teknologi mengingatkan bahwa kemampuan AI untuk meniru percakapan manusia secara realistis bisa memicu masalah kepercayaan, di mana pengguna mungkin sulit membedakan antara interaksi dengan manusia asli dan mesin. Hal ini menimbulkan risiko bahwa AI bisa disalahgunakan untuk memanipulasi emosi atau menyebarkan informasi yang menyesatkan.
Di sisi teknis, beberapa pengguna melaporkan adanya masalah saat mencoba menghubungkan fitur ini dengan perangkat Bluetooth serta kesulitan dalam merekam percakapan dengan AI. Selain itu, respon AI yang terlalu manusiawi terkadang menimbulkan kekhawatiran akan potensi pengasingan sosial, terutama di era digital di mana interaksi manusia semakin berkurang.
Sejumlah pakar juga mengkhawatirkan dampak jangka panjang dari teknologi ini terhadap kehidupan sosial. Mereka menilai bahwa interaksi yang semakin sering dilakukan dengan AI, alih-alih dengan manusia, dapat mengurangi kualitas hubungan sosial dan meningkatkan rasa kesepian di masyarakat.
Meskipun demikian, OpenAI tetap optimistis bahwa teknologi ini dapat dimanfaatkan untuk meningkatkan pengalaman pengguna dalam berinteraksi dengan AI. Mereka menekankan bahwa tujuan dari fitur ini adalah untuk menciptakan pengalaman percakapan yang lebih alami dan menyenangkan.
Peluncuran Advanced Voice Mode menambah deretan inovasi AI yang memicu perdebatan etis dan sosial. Dengan teknologi yang semakin canggih, tantangan bagi regulator dan pembuat kebijakan adalah memastikan bahwa kemajuan ini tidak merusak nilai-nilai sosial dan kemanusiaan yang ada.
