كشفت دراسة من جامعة كامبريدج عن الطبيعة التلاعبية المحتملة للذكاء الاصطناعي (AI)، مع احتمال استخدام أدوات الذكاء الاصطناعي للتأثير على قرارات المستخدمين عبر الإنترنت، بدءًا من خيارات المستهلك إلى التصويت السياسي. وتتنبأ الأبحاث بظهور سوق جديدة تسمى "اقتصاد النوايا"، حيث يقوم مساعدو الذكاء الاصطناعي بالتنبؤ بنوايا المستخدم والتلاعب بها وبيع هذه المعلومات للشركات. وقد أثار هذا تفكيراً عميقاً حول أخلاقيات الذكاء الاصطناعي وتنظيمه، فضلاً عن مخاوف جديدة بشأن الخصوصية الشخصية وأمن البيانات.
وفقاً لبحث أجرته جامعة كامبريدج، فإن أدوات الذكاء الاصطناعي (AI) لديها القدرة على استخدامها للتلاعب بقرارات مستخدمي الإنترنت، بدءاً من شراء السلع وحتى اختيار من سيصوتون له. وتشير الدراسة إلى احتمال ظهور سوق جديدة في المستقبل، تسمى "اقتصاد النوايا"، حيث يمكن لمساعدي الذكاء الاصطناعي فهم النوايا البشرية والتنبؤ بها والتلاعب بها وبيع هذه المعلومات للشركات التي تستفيد منها.
ملاحظة لمصدر الصورة: يتم إنشاء الصورة بواسطة الذكاء الاصطناعي وموفر خدمة ترخيص الصورة Midjourney
يأتي فريق البحث من مركز الذكاء المستقبلي (LCFI) في جامعة كامبريدج، ويعتبرون اقتصاد النية خليفة لاقتصاد الاهتمام. في اقتصاد الاهتمام، تحافظ الشبكات الاجتماعية على استمرار الاقتصاد من خلال جذب انتباه المستخدمين وعرض الإعلانات. في اقتصاد النية، ستقوم شركات التكنولوجيا التي تفهم الذكاء الاصطناعي ببيع معلومات تحفيز المستخدم المتوفرة لديها، مثل خطط المستخدمين لحجز فندق أو آرائهم حول مرشح سياسي معين، إلى الشركة التي تقدم أعلى عرض.
قال الدكتور جوني باين، مؤرخ التكنولوجيا في LCFI: "لقد كان الاهتمام هو عملة الإنترنت لعقود من الزمن. ويشارك المستخدمون اهتمامهم على منصات التواصل الاجتماعي مثل Facebook وInstagram، مما يغذي الاقتصاد عبر الإنترنت". وأشار إلى أنه إذا ترك دون تنظيم، وسوف يتعامل اقتصاد النية مع دوافع المستخدمين باعتبارها عملات جديدة، وسوف يؤدي إلى "اندفاع الذهب" نحو النوايا البشرية.
تنص الدراسة على أن نماذج اللغة الكبيرة (LLMs) التي تدعم أدوات الذكاء الاصطناعي مثل ChatGPT سيتم استخدامها "للتنبؤ وتوجيه" سلوك المستخدم، وسيتم تحليل هذه النماذج من خلال "بيانات النية والسلوك والنفسية". وفقًا للدراسة، يسمح اقتصاد الاهتمام للمعلنين بجذب انتباه المستخدمين من خلال تقديم العطاءات في الوقت الفعلي، بينما في اقتصاد النوايا، سيتمكن LLMs من الوصول إلى نوايا المستخدمين في الوقت الفعلي، مثل سؤال المستخدمين عما إذا كانوا سيفكرون في الذهاب إلى مشاهدة فيلم معين، أو إذا كانوا يرغبون في مساعدتهم في حجز تذاكر السينما.
في هذا الاقتصاد النامي الناشئ، سيتمكن المعلنون من الاستفادة من أدوات الذكاء الاصطناعي التوليدية لإنشاء إعلانات مخصصة عبر الإنترنت. بالإضافة إلى ذلك، أشارت الدراسة إلى أن شيشرون، وهو نموذج للذكاء الاصطناعي طورته شركة ميتا التابعة لمارك زوكربيرج، حقق قدرات "على المستوى البشري" في لعب لعبة "الدبلوماسية" اللوحية، التي تعتمد على التكهنات وتوقع نوايا خصمك.
يستكشف البحث كذلك السيناريوهات المستقبلية التي قد تقوم فيها Meta بالمزاد العلني لنية المستخدم، مثل حجز مطعم أو رحلة طيران أو فندق للمعلنين. وفي حين أن هناك بالفعل صناعة مخصصة للتنبؤ بالسلوك البشري والمزايدة عليه، فإن نماذج الذكاء الاصطناعي ستعمل على تحسين هذه الممارسات إلى شكل "كمي وديناميكي وشخصي للغاية".
أبرز النقاط:
قد تتلاعب أدوات الذكاء الاصطناعي بقرارات المستخدم، وتشكل "اقتصاد النية" في السوق الجديد.
وفي اقتصاد النوايا، سيتم التعامل مع دوافع المستخدمين باعتبارها العملة الجديدة، وسوف تبيع شركات التكنولوجيا هذه المعلومات.
ستساعد نماذج الذكاء الاصطناعي المعلنين على تقديم الإعلانات بدقة من خلال تحليل بيانات المستخدم للتنبؤ بنواياهم.
لقد دقت لنا هذه الدراسة ناقوس الخطر، داعية إلى مراعاة الاعتبارات الأخلاقية والتنظيمية في تطوير تكنولوجيا الذكاء الاصطناعي لمنع استخدامها الضار، وحماية حقوق المستخدمين وأمن البيانات، وضمان أن يفيد التقدم العلمي والتكنولوجي البشرية.