Sebuah studi dari Universitas Cambridge mengungkapkan potensi sifat manipulatif dari kecerdasan buatan (AI), dimana alat AI berpotensi digunakan untuk memengaruhi keputusan pengguna online, mulai dari pilihan konsumen hingga pemungutan suara politik. Penelitian memperkirakan bahwa pasar baru yang disebut “ekonomi niat” akan muncul, di mana asisten AI akan memprediksi dan memanipulasi niat pengguna dan menjual informasi ini kepada bisnis. Hal ini telah memicu pemikiran mendalam mengenai etika dan regulasi AI, serta kekhawatiran baru mengenai privasi pribadi dan keamanan data.
Menurut penelitian dari Universitas Cambridge, alat kecerdasan buatan (AI) berpotensi digunakan untuk memanipulasi keputusan pengguna online, mulai dari membeli barang hingga memilih siapa yang akan dipilih. Studi ini menunjukkan potensi munculnya pasar baru di masa depan, yang disebut “ekonomi niat”, di mana asisten AI dapat memahami, memprediksi, dan memanipulasi niat manusia dan menjual informasi ini kepada perusahaan yang memperoleh keuntungan darinya.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Tim peneliti berasal dari Center for Future Intelligence (LCFI) di Universitas Cambridge, dan mereka menganggap ekonomi niat sebagai penerus ekonomi perhatian. Dalam ekonomi perhatian, jejaring sosial menjaga perekonomian tetap berjalan dengan menarik perhatian pengguna dan menayangkan iklan. Dalam ekonomi niat, perusahaan teknologi yang memahami AI akan menjual informasi motivasi pengguna yang mereka miliki, seperti rencana pengguna untuk memesan hotel atau pandangan mereka terhadap kandidat politik tertentu, kepada perusahaan dengan tawaran tertinggi.
Dr Jonny Payne, sejarawan teknologi LCFI, mengatakan: “Perhatian telah menjadi mata uang internet selama beberapa dekade. Pengguna berbagi perhatian mereka di platform media sosial seperti Facebook dan Instagram, sehingga mendorong ekonomi online.” ekonomi niat akan memperlakukan motivasi pengguna sebagai mata uang baru dan akan memicu “demam emas” untuk niat manusia.
Studi tersebut menyatakan bahwa model bahasa besar (LLM) yang mendasari alat AI seperti ChatGPT akan digunakan untuk "memprediksi dan memandu" perilaku pengguna, dan model ini akan dianalisis melalui "data niat, perilaku, dan psikologis". Ekonomi perhatian memungkinkan pengiklan untuk memenangkan perhatian pengguna melalui penawaran waktu nyata, sedangkan dalam ekonomi niat, LLM akan dapat mengakses niat pengguna secara waktu nyata, seperti menanyakan pengguna apakah mereka akan mempertimbangkan untuk menonton film tertentu, atau menanyakan apakah mereka ingin membantu mereka, kata penelitian tersebut.
Dalam ekonomi yang sedang berkembang ini, pengiklan akan dapat memanfaatkan alat AI generatif untuk membuat iklan online yang dipersonalisasi. Selain itu, penelitian tersebut mencatat bahwa Cicero, model AI yang dikembangkan oleh perusahaan Meta milik Mark Zuckerberg, telah mencapai kemampuan "tingkat manusia" dalam memainkan permainan papan "Diplomasi", yang mengandalkan spekulasi dan Antisipasi niat lawan.
Penelitian ini lebih lanjut mengeksplorasi skenario masa depan di mana Meta mungkin melelang niat pengguna, seperti pemesanan restoran, penerbangan, atau hotel, kepada pengiklan. Meskipun sudah ada industri yang berdedikasi untuk memprediksi dan menawar perilaku manusia, model AI akan menyempurnakan praktik ini ke dalam bentuk yang “sangat terukur, dinamis, dan personal.”
Menyorot:
Alat AI dapat memanipulasi keputusan pengguna, membentuk “ekonomi niat” pasar baru.
Dalam perekonomian niat, motivasi pengguna akan diperlakukan sebagai mata uang baru, dan perusahaan teknologi akan menjual informasi ini.
Model AI akan membantu pengiklan menayangkan iklan secara akurat dengan menganalisis data pengguna untuk memprediksi niat mereka.
Studi ini telah memberikan peringatan bagi kita, menyerukan pertimbangan etika dan peraturan dalam pengembangan teknologi AI untuk mencegah penggunaan jahat, menjaga hak pengguna dan keamanan data, dan memastikan bahwa kemajuan ilmu pengetahuan dan teknologi bermanfaat bagi umat manusia.