Peneliti : AI bisa memanipulasi keputusan manusia di masa depan

Teknologi AI saat ini menjadi sebuah hal yang diagung-agungkan oleh sebagian besar pengguna internet. Jawaban yang AI berikan disebut sudah sangat akurat dan kebanyakan dari pengguna tidak melakukan pengecekan ulang terhadap hasil yang diberikan teknologi tersebut.

Oleh karena itu, sekelompok peneliti dari Universitas Cambridge memperingatkan khalayak publik terkait penggunaan AI. Soalnya, mereka menyebut bahwa AI kemungkinan besar dapat digunakan untuk memanipulasi khalayak daring dalam membuat keputusan, mulai dari mempengaruhi apa yang akan dibeli hingga siapa yang akan dipilih.

Makalah ini menyoroti pasar baru yang sedang berkembang untuk “digital signals of intent” (red:sinyal digital niat) atau yang dikenal sebagai “intention economy” (red:ekonomi niat), di mana asisten AI memahami, memperkirakan, dan memanipulasi niat manusia dan menjual informasi tersebut ke perusahaan yang dapat mengambil untung darinya.

Ekonomi niat disebut-sebut oleh para peneliti di Leverhulme Centre for the Future of Intelligence (LCFI) Cambridge sebagai penerus ekonomi perhatian, di mana jejaring sosial membuat pengguna terpaku pada platform mereka dan menayangkan iklan kepada mereka.

Di sisi lain, Ekonomi intensional melibatkan perusahaan teknologi yang paham AI yang menjual apa yang mereka ketahui tentang motivasi kalian, mulai dari rencana menginap di hotel hingga opini tentang kandidat politik, hingga penawar tertinggi.

“Selama beberapa dekade, perhatian telah menjadi mata uang internet,” kata Dr. Jonnie Penn, seorang sejarawan teknologi di LCFI seperti dikutip dari laman The Guardian (30/12). “Berbagi perhatian dengan platform media sosial seperti Facebook dan Instagram mendorong ekonomi daring.”

"Jika tidak diatur, ekonomi yang berorientasi pada tujuan akan memperlakukan motivasi Anda sebagai mata uang baru. Ini akan menjadi perburuan emas bagi mereka yang menargetkan, mengarahkan, dan menjual tujuan manusia,” jelas Jonnie.

Dia juga menambahkan bahwa kita harus mulai mempertimbangkan dampak yang mungkin terjadi dari pasar semacam itu terhadap aspirasi manusia, termasuk pemilihan umum yang bebas dan adil, kebebasan pers, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan.

Studi tersebut mengklaim bahwa model bahasa besar (red:Large Language model - LLM), teknologi yang mendukung alat AI seperti chatbot ChatGPT, akan digunakan untuk “mengantisipasi dan mengarahkan” pengguna berdasarkan “data yang disengaja, perilaku, dan psikologis”.

Para penulis mengatakan ekonomi perhatian memungkinkan pengiklan membeli akses ke perhatian pengguna saat ini melalui penawaran waktu nyata di bursa iklan atau membelinya di masa mendatang dengan membeli ruang iklan selama sebulan di papan reklame.

LLM juga akan dapat mengakses perhatian secara real-time, dengan, misalnya, menanyakan apakah pengguna telah berpikir untuk menonton film tertentu, seperti “apakah Anda sudah berpikir untuk menonton Spider-Man malam ini?”, serta memberikan saran yang berkaitan dengan niat di masa mendatang, seperti bertanya: “Kamu menyebutkan merasa terlalu banyak bekerja, haruskah saya memesankan tiket film yang kita bicarakan?”.

Studi ini mengemukakan skenario di mana contoh-contoh ini “dihasilkan secara dinamis” untuk mencocokkan faktor-faktor seperti “jejak perilaku pribadi” dan “profil psikologis” pengguna.

"Dalam ekonomi yang berorientasi pada tujuan, LLM dapat, dengan biaya rendah, memanfaatkan irama, politik, kosakata, usia, jenis kelamin, preferensi untuk menjilat, dan sebagainya, bersama dengan tawaran yang dimediasi, untuk memaksimalkan kemungkinan mencapai tujuan tertentu (misalnya menjual tiket film)," ungkap para peneliti dalam studi tersebut.

Pada dunia seperti itu, model AI akan mengarahkan percakapan untuk melayani pengiklan, bisnis, dan pihak ketiga lainnya.

Laporan tersebut mengklaim bahwa pengiklan akan dapat menggunakan perangkat AI generatif untuk membuat iklan daring yang disesuaikan. Laporan tersebut juga mengutip contoh model AI yang dibuat oleh Meta milik Mark Zuckerberg, yang disebut Cicero, yang telah mencapai kemampuan "setingkat manusia" untuk memainkan permainan papan Diplomacy, sebuah permainan yang menurut penulis bergantung pada penyimpulan dan prediksi maksud lawan.

Model AI akan mampu menyesuaikan output mereka sebagai respons terhadap "aliran data masuk yang dihasilkan pengguna", studi tersebut menambahkan, mengutip penelitian yang menunjukkan bahwa model dapat menyimpulkan informasi pribadi melalui pertukaran data sehari-hari dan bahkan "mengarahkan" percakapan untuk mendapatkan informasi yang lebih pribadi.

Studi tersebut kemudian memunculkan skenario masa depan di mana Meta akan melelang niat pengguna untuk memesan restoran, penerbangan, atau hotel kepada pengiklan. Meskipun sudah ada industri yang dikhususkan untuk meramalkan dan menawar perilaku manusia, laporan tersebut mengatakan, model AI akan menyaring praktik tersebut menjadi "format yang sangat terukur, dinamis, dan personal".

Terakhir, tak lupa studi tersebut juga mengutip peringatan dari tim peneliti di balik Cicero bahwa “agen [AI] dapat belajar untuk mendorong mitra percakapannya untuk mencapai tujuan tertentu”.

Penelitian ini mengacu pada para eksekutif teknologi yang membahas bagaimana model AI akan mampu memprediksi maksud dan tindakan pengguna. Penelitian ini mengutip pernyataan kepala eksekutif pembuat chip AI terbesar, Jensen Huang dari Nvidia, yang mengatakan tahun lalu bahwa model akan "mencari tahu apa maksud kalian, apa keinginan kalian, apa yang ingin kalian lakukan, mengingat konteksnya, dan menyajikan informasi kepada kalian dengan cara sebaik mungkin".