AI คาดการณ์ความตั้งใจในการช็อปปิ้งของคุณ และผู้ผลิตรายใหญ่กำลังแกะสลักเค้กใหม่ของ "เศรษฐกิจตามความตั้งใจ"

นักจริยธรรมด้าน AI แห่งมหาวิทยาลัยเคมบริดจ์ได้เตือนว่าในอนาคต ผู้ช่วย AI สามารถคาดการณ์และมีอิทธิพลต่อการตัดสินใจของเราโดยที่เราไม่รู้ตัว และแม้แต่ขาย "สัญญาณเจตนา" เหล่านี้ให้กับบริษัทต่างๆ พวกเขาเรียกมันว่า "เศรษฐกิจแบบตั้งใจ" และเป็นตลาดดิจิทัลที่ให้ผลกำไรแต่กลับสร้างปัญหา บทความนี้จะสำรวจกลไกการดำเนินงาน ความเสี่ยงที่อาจเกิดขึ้น และแนวโน้มของบริษัทเทคโนโลยียักษ์ใหญ่ในสาขานี้อย่างลึกซึ้ง และวิเคราะห์ผลกระทบต่อสังคมในอนาคต

ในอนาคต ผู้ช่วย AI อาจคาดการณ์และมีอิทธิพลต่อการตัดสินใจของเราตั้งแต่เนิ่นๆ โดยขาย “ความตั้งใจ” ที่เกิดขึ้นเหล่านี้แบบเรียลไทม์ให้กับบริษัทที่สามารถเติมเต็มความต้องการได้ ก่อนที่เราจะตระหนักถึงการตัดสินใจของเราเสียด้วยซ้ำ นี่ไม่ใช่นิยายวิทยาศาสตร์ แต่เป็นคำเตือนจากนักจริยธรรมด้าน AI แห่งมหาวิทยาลัยเคมบริดจ์ พวกเขาโต้แย้งว่าเราอยู่ที่จุดเริ่มต้นของ "ตลาดใหม่ที่มีกำไรแต่น่าหนักใจสำหรับสัญญาณความตั้งใจทางดิจิทัล" ซึ่งส่งผลกระทบต่อทุกอย่างตั้งแต่การซื้อตั๋วภาพยนตร์ไปจนถึงการลงคะแนนเสียงให้กับผู้สมัคร พวกเขาเรียกมันว่า "เศรษฐกิจแบบตั้งใจ"

นักวิจัยจากศูนย์ข่าวกรองแห่งอนาคต (LCFI) ของมหาวิทยาลัยเคมบริดจ์เชื่อว่าการระเบิดของ AI ทั่วไปและความคุ้นเคยที่เพิ่มขึ้นของเรากับแชทบอทได้เปิดสาขาใหม่ของ "เทคโนโลยีโน้มน้าวใจ" ซึ่งได้รับการบอกเป็นนัยแล้วจากประกาศล่าสุดจากเทคโนโลยี ยักษ์ใหญ่

ตัวแทน AI ที่มีลักษณะเหมือนมนุษย์ เช่น ผู้ช่วยแชทบอท ผู้ให้คำปรึกษาด้านดิจิทัล และแม้แต่คู่รักเสมือนจริง จะสามารถเข้าถึงข้อมูลทางจิตวิทยาและพฤติกรรมส่วนบุคคลจำนวนมหาศาล ซึ่งมักจะรวบรวมผ่านการสนทนาที่ไม่เป็นทางการ AI เหล่านี้ไม่เพียงแต่รู้นิสัยบนโลกออนไลน์ของเราเท่านั้น แต่ยังมีความสามารถที่แปลกประหลาดในการเชื่อมต่อกับเราในแบบที่เรารู้สึกสบายใจด้วย เลียนแบบบุคลิกและทำนายคำตอบที่เราต้องการ นักวิจัยเตือนว่าความไว้วางใจและความเข้าใจในระดับนี้จะทำให้เกิดการบิดเบือนทางสังคมในวงกว้าง

ดร. Yaqub Chaudhary นักวิชาการรับเชิญจาก LCFI กล่าวว่า "ทรัพยากรจำนวนมหาศาลที่ลงทุนในการกำหนดตำแหน่งผู้ช่วย AI ในด้านต่างๆ ของชีวิต ทำให้เกิดคำถามว่าผู้ช่วยเหล่านี้ได้รับการออกแบบมาจริง ๆ แล้วมีความสนใจและวัตถุประสงค์อะไร" เขาเน้นย้ำว่าผู้คนคืออะไร กล่าวในระหว่างการสนทนา วิธีการพูด และการอนุมานแบบเรียลไทม์ที่มาจากการสนทนานั้นมีความเป็นส่วนตัวมากกว่าบันทึกการโต้ตอบออนไลน์เท่านั้น “เราขอเตือนว่าเครื่องมือ AI กำลังได้รับการพัฒนาเพื่อล้วงเอา อนุมาน รวบรวม บันทึก ทำความเข้าใจ คาดการณ์ และท้ายที่สุดจะจัดการและนำแผนและวัตถุประสงค์ของมนุษย์ไปใช้ในเชิงพาณิชย์”

ดร.จอนนี เพนน์ นักประวัติศาสตร์เทคโนโลยีจาก LCFI ของมหาวิทยาลัยเคมบริดจ์ ชี้ให้เห็นว่า "ความสนใจเป็นสกุลเงินของอินเทอร์เน็ตมานานหลายทศวรรษ การแบ่งปันความสนใจของคุณกับแพลตฟอร์มโซเชียลมีเดีย เช่น Facebook และ Instagram ขับเคลื่อนเศรษฐกิจออนไลน์" เขาเตือน : “หากปล่อยทิ้งไว้โดยไม่มีการควบคุม เศรษฐกิจแห่งความตั้งใจจะถือว่าแรงจูงใจของคุณเป็นเหมือนสกุลเงินใหม่ มันจะเป็นยุคตื่นทองสำหรับผู้ที่ค้นหา ช่องทาง และขายความตั้งใจของมนุษย์”

Dr. Penn และ Dr. Chaudhary ชี้ให้เห็นในบทความใน "Harvard Data Science Review" ว่า Intent Economy จะเป็น "temporalization" ของ Attention Economy: การวิเคราะห์ความเชื่อมโยงระหว่างความสนใจของผู้ใช้ วิธีการสื่อสาร และรูปแบบพฤติกรรม และขั้นสุดท้าย การตัดสินใจ “แม้ว่าจุดประสงค์บางอย่างจะเกิดขึ้นเพียงชั่วคราว แต่การจัดประเภทและกำหนดเป้าหมายเป้าหมายที่มีอายุการใช้งานยาวนานจะเป็นประโยชน์ต่อผู้ลงโฆษณามาก” Dr. Chaudhary อธิบาย

ในระบบเศรษฐกิจแบบเจตนา สามารถใช้โมเดลภาษาขนาดใหญ่ (LLM) เพื่อกำหนดเป้าหมายน้ำเสียง จุดยืนทางการเมือง คำศัพท์ อายุ เพศ ประวัติศาสตร์ออนไลน์ และแม้แต่ความชอบของผู้ใช้ในเรื่องคำเยินยอของผู้ใช้ได้ในราคาถูก ข้อมูลนี้จะเชื่อมโยงกับเครือข่ายการประมูลแบบนายหน้าเพื่อเพิ่มเป้าหมายเฉพาะ เช่น การขายตั๋วหนัง (“คุณบอกว่ารู้สึกทำงานหนักเกินไป ให้ผมช่วยคุณจองตั๋วหนังที่เรากำลังพูดถึงได้ไหม?”) นักวิจัยเชื่อว่าสิ่งนี้อาจรวมถึงการกำกับการสนทนาเพื่อรองรับแพลตฟอร์ม ผู้ลงโฆษณา ธุรกิจ หรือแม้แต่องค์กรทางการเมืองที่เฉพาะเจาะจง

ในขณะที่นักวิจัยเชื่อว่า Intent Economy ยังคงเป็น "วิสัยทัศน์" สำหรับอุตสาหกรรมเทคโนโลยีในขณะนี้ พวกเขากำลังติดตามสัญญาณเริ่มต้นของแนวโน้มผ่านการวิจัยที่ตีพิมพ์และคำแนะนำจากบริษัทเทคโนโลยีรายใหญ่หลายแห่ง สิ่งเหล่านี้รวมถึงการเรียกร้องแบบเปิดของ OpenAI สำหรับ "ข้อมูลที่แสดงออกถึงเจตนาของมนุษย์ในภาษา หัวข้อ และรูปแบบใดๆ" ในบล็อกโพสต์ปี 2023 และผู้อำนวยการผลิตภัณฑ์ของ Shopify พูดในการประชุมในปีเดียวกันนั้นเกี่ยวกับวิธีที่แชทบอทสามารถ "จับความตั้งใจของผู้ใช้อย่างชัดเจน"

CEO ของ Nvidia ได้พูดคุยอย่างเปิดเผยเกี่ยวกับการใช้ LLM เพื่อทำความเข้าใจความตั้งใจและความปรารถนา และ Meta ได้เปิดตัวการศึกษาเรื่อง "Intentonomy" ย้อนกลับไปในปี 2021 ซึ่งเป็นชุดข้อมูลสำหรับการทำความเข้าใจเจตนาของมนุษย์ ในปี 2024 กรอบงานนักพัฒนา "App Intents" ใหม่ของ Apple สำหรับการเชื่อมต่อแอพกับ Siri รวมถึง "การคาดการณ์การกระทำที่บางคนอาจทำในอนาคต" และ "การใช้การคาดการณ์ที่คุณ [นักพัฒนา] ให้ไว้ในอนาคต โปรโตคอลโดยมีจุดประสงค์เพื่อแนะนำแอพ ถึงใครบางคน

ดร. Chaudhary ตั้งข้อสังเกตว่า CICERO ซึ่งเป็นตัวแทน AI ของ Meta ได้รับการกล่าวขานว่าประสบความสำเร็จในระดับมนุษย์ในเกม Diplomacy ซึ่งเป็นเกมที่ต้องอาศัยการอนุมานและคาดการณ์ความตั้งใจ และใช้บทสนทนาโน้มน้าวใจเพื่อก้าวไปสู่จุดยืนของตน เขาเตือนว่า: “บริษัทเหล่านี้กำลังขายความสนใจของเราอยู่แล้ว เพื่อให้ได้รับความได้เปรียบทางการค้า ขั้นตอนต่อไปคือการใช้เทคโนโลยีที่พวกเขากำลังพัฒนาเพื่อทำนายความตั้งใจของเราและกำหนดเป้าหมายก่อนที่เราจะเข้าใจความต้องการเหล่านั้นอย่างถ่องแท้”

ดร. เพนน์ตั้งข้อสังเกตว่าการพัฒนาเหล่านี้ไม่ได้เลวร้ายเสมอไป แต่อาจส่งผลร้ายแรงได้ “การตระหนักรู้ของสาธารณชนถึงสิ่งที่กำลังจะเกิดขึ้นเป็นกุญแจสำคัญในการทำให้แน่ใจว่าเราจะไม่เดินไปในเส้นทางที่ผิด” เขากล่าว

โดยรวมแล้ว การเพิ่มขึ้นของ "เศรษฐกิจแบบตั้งใจ" นำมาซึ่งทั้งความสะดวกสบายและความเสี่ยงที่อาจเกิดขึ้น การสร้างสมดุลระหว่างการพัฒนาเทคโนโลยีและบรรทัดฐานทางจริยธรรมต้องอาศัยความสนใจและความพยายามร่วมกันของสังคมทั้งหมด ความเข้าใจเชิงลึกและการกำกับดูแลที่มีประสิทธิภาพของ "เศรษฐกิจแบบตั้งใจ" จะเป็นกุญแจสำคัญในการรักษาความเป็นส่วนตัวและความมั่นคงทางสังคมในอนาคต