حذر أحد علماء أخلاقيات الذكاء الاصطناعي في جامعة كامبريدج من أنه في المستقبل، يمكن لمساعدي الذكاء الاصطناعي التنبؤ بقراراتنا والتأثير عليها دون وعينا، وحتى بيع "إشارات النوايا" هذه للشركات. يسمونه "اقتصاد النية"، وهو سوق رقمي مربح ولكنه مثير للقلق. سوف تستكشف هذه المقالة بعمق آلية العمل والمخاطر المحتملة والاتجاهات لعمالقة التكنولوجيا في هذا المجال، وتحلل تأثيرها على المجتمع المستقبلي.
في المستقبل، قد يتنبأ مساعدو الذكاء الاصطناعي بقراراتنا ويؤثرون عليها في مرحلة مبكرة، ويبيعون هذه "النوايا" الناشئة في الوقت الفعلي للشركات التي يمكنها تلبية الحاجة، حتى قبل أن ندرك قراراتنا. هذا ليس خيالًا علميًا، ولكنه تحذير من عالم أخلاقيات الذكاء الاصطناعي في جامعة كامبريدج. ويزعمون أننا في بداية "سوق جديدة مربحة ولكنها مثيرة للقلق لإشارات النوايا الرقمية"، مما يؤثر على كل شيء من شراء تذاكر السينما إلى التصويت للمرشحين. يسمونه "اقتصاد النية".
يعتقد الباحثون في مركز الذكاء المستقبلي بجامعة كامبريدج (LCFI) أن انفجار الذكاء الاصطناعي التوليدي ومعرفتنا المتزايدة بروبوتات الدردشة قد فتح مجالًا جديدًا من "التكنولوجيا المقنعة"، والتي تم التلميح إليها بالفعل من خلال أحدث الإعلانات من التكنولوجيا. العمالقة.
وسيكون لوكلاء الذكاء الاصطناعي الشبيهين بالبشر، مثل مساعدي برامج الدردشة الآلية والموجهين الرقميين وحتى العشاق الافتراضيين، القدرة على الوصول إلى كميات هائلة من البيانات النفسية والسلوكية الشخصية، والتي غالبا ما يتم جمعها من خلال محادثات غير رسمية. لا تعرف أنظمة الذكاء الاصطناعي هذه عاداتنا على الإنترنت فحسب، بل لديها أيضًا قدرة خارقة على التواصل معنا بطرق نشعر بالراحة تجاهها، مثل محاكاة الشخصيات والتنبؤ باستجاباتنا المرغوبة. ويحذر الباحثون من أن هذا المستوى من الثقة والتفاهم سيمكن من التلاعب الاجتماعي على نطاق واسع.
قال الدكتور يعقوب تشودري، الباحث الزائر في LCFI: "إن الموارد الضخمة المستثمرة في تعيين مساعدي الذكاء الاصطناعي في مختلف مجالات الحياة تثير التساؤل حول من هي المصالح والأغراض التي تم تصميمها بالفعل من قبل هؤلاء المساعدين المزعومين". يقال أثناء المحادثة، وكيفية قوله، والاستدلالات في الوقت الحقيقي المستمدة منه، أكثر خصوصية من مجرد سجل للتفاعل عبر الإنترنت. "نحن نحذر من أن أدوات الذكاء الاصطناعي يجري تطويرها بالفعل لاستنباط الخطط والأغراض البشرية واستنتاجها وجمعها وتسجيلها وفهمها والتنبؤ بها ومعالجتها وتسويقها تجاريًا."
ويشير الدكتور جوني بن، مؤرخ التكنولوجيا في LCFI بجامعة كامبريدج، إلى أن "الانتباه كان عملة الإنترنت لعقود من الزمن. وحذر من أن مشاركة انتباهك مع منصات وسائل التواصل الاجتماعي مثل فيسبوك وإنستغرام تدفع الاقتصاد عبر الإنترنت". : "إذا تركت دون تنظيم، فإن اقتصاد النية سوف يتعامل مع دوافعك باعتبارها العملة الجديدة، وسيكون بمثابة اندفاع نحو الذهب لأولئك الذين يحددون ويوجهون ويبيعون النوايا البشرية."
وأشار الدكتور بن والدكتور تشودري في ورقة بحثية في "مراجعة علوم البيانات بجامعة هارفارد" إلى أن اقتصاد النية سيكون بمثابة "توقيت" لاقتصاد الاهتمام: تحليل العلاقة بين انتباه المستخدم، وطرق الاتصال وأنماط السلوك، والنهائية. صناعة القرار. يوضح الدكتور تشودري: "على الرغم من أن بعض النوايا تكون سريعة الزوال، فإن تصنيف واستهداف تلك التي تدوم طويلاً سيكون مربحًا جدًا للمعلنين".
في اقتصاد النوايا، يمكن استخدام نماذج اللغة الكبيرة (LLMs) لاستهداف نبرة صوت المستخدم، وموقفه السياسي، ومفرداته، وعمره، وجنسه، وتاريخه عبر الإنترنت، وحتى تفضيله للإطراء. سيتم ربط هذه المعلومات بشبكة مزايدات وسيطة لتحقيق أقصى قدر من هدف محدد، مثل بيع تذاكر السينما ("لقد ذكرت الشعور بالإرهاق، اسمح لي أن أساعدك في حجز تذكرة الفيلم التي كنا نتحدث عنها؟"). ويعتقد الباحثون أن هذا قد يشمل توجيه المحادثات لخدمة منصات أو معلنين أو شركات أو حتى منظمات سياسية محددة.
وبينما يعتقد الباحثون أن اقتصاد النية يظل "رؤية" لصناعة التكنولوجيا في الوقت الحالي، فإنهم يتتبعون العلامات المبكرة لهذا الاتجاه من خلال الأبحاث المنشورة والتلميحات من العديد من شركات التكنولوجيا الكبرى. وتشمل هذه الدعوة المفتوحة لـ OpenAI إلى "البيانات التي تعبر عن النية البشرية بأي لغة وموضوع وتنسيق" في منشور مدونة عام 2023، وتحدث مدير منتج Shopify في مؤتمر في نفس العام حول كيف يمكن لروبوتات الدردشة "التقاط نوايا المستخدمين بشكل صريح".
تحدث الرئيس التنفيذي لشركة Nvidia علنًا عن استخدام LLM لفهم النوايا والرغبات، وأصدرت Meta دراستها "Intentonomy" في عام 2021، وهي مجموعة بيانات لفهم النوايا البشرية. في عام 2024، يتضمن إطار عمل مطور "App Intents" الجديد من Apple لربط التطبيقات بـ Siri "التنبؤ بالإجراءات التي قد يتخذها شخص ما في المستقبل" و"استخدام التنبؤات التي تقدمها [المطور]، في المستقبل. البروتوكول بهدف التوصية بالتطبيق". لشخص ما.
وأشار الدكتور تشودري إلى أنه يُقال إن عميل ميتا للذكاء الاصطناعي، شيشرون، قد حقق أداءً على المستوى البشري في الدبلوماسية، وهي لعبة تعتمد على استنتاج النوايا والتنبؤ بها واستخدام الحوار المقنع لتعزيز موقف المرء. وحذر من أن "هذه الشركات تبيع اهتمامنا بالفعل للحصول على ميزة تجارية، والخطوة المنطقية التالية هي استخدام التكنولوجيا التي تطورها للتنبؤ بنوايانا واستهدافها قبل أن نفهمها بالكامل".
وأشار الدكتور بن إلى أن هذه التطورات لم تكن بالضرورة سيئة، ولكن يمكن أن تكون لها عواقب مدمرة. وقال: "الوعي العام بما هو قادم هو المفتاح للتأكد من أننا لا نسير في الطريق الخطأ".
وفي المجمل، فإن صعود "اقتصاد النوايا" يجلب معه الراحة والمخاطر المحتملة. إن كيفية تحقيق التوازن بين التطور التكنولوجي والمعايير الأخلاقية تتطلب اهتماما وجهودا مشتركة من المجتمع بأسره. سيكون الفهم المتعمق والإشراف الفعال على "اقتصاد النية" هو المفتاح للحفاظ على الخصوصية الشخصية والاستقرار الاجتماعي في المستقبل.