Peneliti : AI bisa memanipulasi keputusan manusia di masa depan
Dalam sebuah pengumuman terbaru, para peneliti di Universitas Cambridge menyebut AI di masa depan berpotensi dapat memanipulasi keputusan manusia.
Teknologi AI saat ini menjadi sebuah hal yang diagung-agungkan oleh sebagian besar pengguna internet. Jawaban yang AI berikan disebut sudah sangat akurat dan kebanyakan dari pengguna tidak melakukan pengecekan ulang terhadap hasil yang diberikan teknologi tersebut.
Oleh karena itu, sekelompok peneliti dari Universitas Cambridge memperingatkan khalayak publik terkait penggunaan AI. Soalnya, mereka menyebut bahwa AI kemungkinan besar dapat digunakan untuk memanipulasi khalayak daring dalam membuat keputusan, mulai dari mempengaruhi apa yang akan dibeli hingga siapa yang akan dipilih.
Makalah ini menyoroti pasar baru yang sedang berkembang untuk “digital signals of intent” (red:sinyal digital niat) atau yang dikenal sebagai “intention economy” (red:ekonomi niat), di mana asisten AI memahami, memperkirakan, dan memanipulasi niat manusia dan menjual informasi tersebut ke perusahaan yang dapat mengambil untung darinya.
Ekonomi niat disebut-sebut oleh para peneliti di Leverhulme Centre for the Future of Intelligence (LCFI) Cambridge sebagai penerus ekonomi perhatian, di mana jejaring sosial membuat pengguna terpaku pada platform mereka dan menayangkan iklan kepada mereka.
Di sisi lain, Ekonomi intensional melibatkan perusahaan teknologi yang paham AI yang menjual apa yang mereka ketahui tentang motivasi kalian, mulai dari rencana menginap di hotel hingga opini tentang kandidat politik, hingga penawar tertinggi.