Seorang ahli etika AI di Universitas Cambridge telah memperingatkan bahwa di masa depan, asisten AI dapat memprediksi dan memengaruhi keputusan kita tanpa kita sadari, dan bahkan menjual “sinyal niat” ini kepada perusahaan. Mereka menyebutnya “ekonomi niat,” dan ini adalah pasar digital yang menguntungkan namun meresahkan. Artikel ini akan mengeksplorasi secara mendalam mekanisme operasi, potensi risiko, dan tren raksasa teknologi di bidang ini, serta menganalisis dampaknya terhadap masyarakat di masa depan.
Di masa depan, asisten AI dapat memprediksi dan memengaruhi keputusan kita pada tahap awal, menjual “niat” yang muncul ini secara real-time kepada perusahaan yang dapat memenuhi kebutuhan tersebut, bahkan sebelum kita menyadari keputusan kita. Ini bukanlah fiksi ilmiah, melainkan peringatan dari ahli etika AI di Universitas Cambridge. Mereka berpendapat bahwa kita sedang berada di awal “pasar baru yang menguntungkan namun meresahkan untuk sinyal niat digital,” yang memengaruhi segala hal mulai dari pembelian tiket film hingga pemungutan suara untuk kandidat. Mereka menyebutnya “ekonomi niat.”
Para peneliti di Center for Future Intelligence (LCFI) Universitas Cambridge percaya bahwa ledakan AI generatif dan meningkatnya keakraban kita dengan chatbots telah membuka bidang baru "teknologi persuasif", yang telah ditunjukkan oleh pengumuman terbaru dari teknologi tersebut. raksasa.
Agen AI yang mirip manusia, seperti asisten chatbot, mentor digital, dan bahkan pecinta virtual, akan memiliki akses ke sejumlah besar data psikologis dan perilaku pribadi, yang sering kali dikumpulkan melalui percakapan informal. AI ini tidak hanya mengetahui kebiasaan online kita, mereka juga memiliki kemampuan luar biasa untuk terhubung dengan kita melalui cara yang kita rasa nyaman – meniru kepribadian dan memprediksi respons yang kita inginkan. Para peneliti memperingatkan bahwa tingkat kepercayaan dan pemahaman seperti ini akan memungkinkan terjadinya manipulasi sosial berskala besar.
Yaqub Chaudhary, seorang peneliti tamu di LCFI, mengatakan: "Sumber daya besar yang diinvestasikan untuk memposisikan asisten AI di berbagai bidang kehidupan menimbulkan pertanyaan tentang kepentingan dan tujuan siapa sebenarnya yang disebut asisten ini." diucapkan selama percakapan, cara pengucapannya, dan kesimpulan real-time yang diambil dari percakapan tersebut, lebih bersifat pribadi daripada sekadar rekaman interaksi online. “Kami memperingatkan bahwa alat AI telah dikembangkan untuk memperoleh, menyimpulkan, mengumpulkan, mencatat, memahami, memprediksi, dan pada akhirnya memanipulasi dan mengkomersialkan rencana dan tujuan manusia.”
Dr Jonnie Penn, sejarawan teknologi di LCFI Universitas Cambridge, menyatakan: "Perhatian telah menjadi mata uang internet selama beberapa dekade. Berbagi perhatian Anda dengan platform media sosial seperti Facebook dan Instagram akan mendorong ekonomi online," ia memperingatkan. : “Jika tidak diatur, ekonomi niat akan menganggap motivasi Anda sebagai mata uang baru. Ini akan menjadi demam emas bagi mereka yang menemukan, menyalurkan, dan menjual niat manusia.”
Penn dan Dr. Chaudhary menunjukkan dalam sebuah makalah di "Harvard Data Science Review" bahwa ekonomi niat akan menjadi "temporalisasi" dari ekonomi perhatian: menganalisis hubungan antara perhatian pengguna, metode komunikasi dan pola perilaku, dan hasil akhir. pengambilan keputusan. “Meskipun beberapa tujuan bersifat sementara, mengklasifikasikan dan menargetkan tujuan yang bertahan lama akan sangat menguntungkan bagi pengiklan,” jelas Dr. Chaudhary.
Dalam ekonomi niat, model bahasa besar (LLM) dapat digunakan untuk menargetkan nada suara, pendirian politik, kosa kata, usia, jenis kelamin, riwayat online, dan bahkan preferensi pengguna terhadap sanjungan dengan harga murah. Informasi ini akan dihubungkan ke jaringan penawaran yang diperantarai untuk memaksimalkan tujuan tertentu, seperti menjual tiket film (“Anda menyebutkan merasa terlalu banyak bekerja, izinkan saya membantu Anda memesan tiket film yang sedang kita bicarakan?”). Para peneliti percaya bahwa hal ini dapat mencakup mengarahkan percakapan untuk melayani platform, pengiklan, bisnis, atau bahkan organisasi politik tertentu.
Meskipun para peneliti percaya bahwa niat ekonomi masih menjadi “visi” bagi industri teknologi saat ini, mereka melacak tanda-tanda awal tren tersebut melalui penelitian yang dipublikasikan dan petunjuk dari beberapa perusahaan teknologi besar. Hal ini termasuk seruan terbuka OpenAI untuk “data yang mengekspresikan niat manusia dalam bahasa, topik, dan format apa pun” dalam postingan blog tahun 2023, dan direktur produk Shopify yang berbicara di konferensi pada tahun yang sama tentang bagaimana chatbots dapat “secara eksplisit menangkap niat pengguna”.
CEO Nvidia telah secara terbuka berbicara tentang penggunaan LLM untuk memahami niat dan keinginan, dan Meta merilis studi “Intentonomy” pada tahun 2021, sebuah kumpulan data untuk memahami niat manusia. Pada tahun 2024, kerangka kerja pengembang "Intent Aplikasi" Apple yang baru untuk menghubungkan aplikasi ke Siri mencakup "memprediksi tindakan yang mungkin dilakukan seseorang di masa depan" dan "menggunakan prediksi yang Anda [pengembang] berikan, di masa mendatang. protokol dengan tujuan untuk merekomendasikan aplikasi kepada seseorang.
Dr Chaudhary mencatat bahwa agen AI Meta, CICERO, dikatakan telah mencapai kinerja tingkat manusia dalam Diplomasi, sebuah permainan yang mengandalkan menyimpulkan dan memprediksi niat dan menggunakan dialog persuasif untuk memajukan posisi seseorang. Dia memperingatkan: “Perusahaan-perusahaan ini telah menjual perhatian kita. Untuk mendapatkan keuntungan komersial, langkah logis berikutnya adalah menggunakan teknologi yang mereka kembangkan untuk memprediksi niat kita dan menargetkannya sebelum kita sepenuhnya memahami keinginan kita.”
Dr Penn mencatat bahwa perkembangan ini tidak selalu buruk, namun bisa menimbulkan konsekuensi yang menghancurkan. “Kesadaran masyarakat mengenai apa yang akan terjadi adalah kunci untuk memastikan kita tidak mengambil jalan yang salah,” katanya.
Secara keseluruhan, kebangkitan “ekonomi niat” membawa kenyamanan dan potensi risiko. Bagaimana mencapai keseimbangan antara perkembangan teknologi dan norma etika memerlukan perhatian dan upaya bersama dari seluruh lapisan masyarakat. Pemahaman mendalam dan pengawasan efektif terhadap “ekonomi niat” akan menjadi kunci untuk menjaga privasi pribadi dan stabilitas sosial di masa depan.