في الندوة الصينية السنغافورية حول حدود الذكاء الاصطناعي والحوكمة، لماذا صب الأكاديميون من الصين وسنغافورة الماء البارد على الذكاء الاصطناعي؟
الكاتب:Eve Cole
وقت التحديث:2024-11-15 12:24:01
منذ أن تم اقتراح مفهوم الذكاء الاصطناعي لأول مرة في عام 1956، تطور الذكاء الاصطناعي بشكل أكبر نحو الذكاء المعرفي القائم على الذكاء الحسابي والذكاء الإدراكي. في السنوات الأخيرة، مع ظهور ChatGPT و Sora، شهد تطوير الذكاء الاصطناعي تقدمًا سريعًا. ومع ذلك، في الندوة الصينية السنغافورية حول حدود الذكاء الاصطناعي والحوكمة التي استضافتها الأكاديمية الصينية للهندسة وأكاديمية سنغافورة للهندسة واستضافتها جامعة تونغجي اليوم (28 أكتوبر)، صب العديد من الأكاديميين الماء البارد على "حمى الذكاء الاصطناعي". وقال وو جيانج شينغ، الأكاديمي في الأكاديمية الصينية للهندسة والأستاذ في جامعة فودان، بصراحة: "إن قضايا أمن الشبكات الداخلية تتحدى بشكل شامل نموذج القيادة الأساسي للنظام البيئي الرقمي اليوم." يستطيع حراس أمن الشبكة الذين يحرسون المنازل ودور رعاية المسنين حاليًا الإجابة على الأسئلة الثلاثة الرئيسية المتعلقة بتعذيب الروح: "هل هناك أي ثغرات؟" "هل توجد أبواب خلفية/أبواب مخفية؟" "هل توجد مشكلات متعددة تتعلق بالأمن؟" وأشار بجدية إلى أن نظام تطبيقات الذكاء الاصطناعي الحالي به خلل خطير بين المسؤوليات الأمنية والمخاطر. لا يمكن لأي تاجر أن يضمن أن منتجاته لا تحتوي على ثغرات أمنية وأبواب خلفية، ولا يمكن لأي وكالة اختبار أن تضمن أن المنتجات المقدمة للفحص ستكون خالية من الثغرات الأمنية والأبواب الخلفية. لقد أصبح هذا كابوسًا لا مفر منه لجميع البلدان في عصر الذكاء الاصطناعي. في الاجتماع، حلل العديد من الخبراء أن الذكاء الاصطناعي الذي يبدو قويًا والنماذج الكبيرة يعاني أيضًا من عيوب من حيث الاستهلاك والسلامة والأخلاق. لا يزال تطوير الذكاء الاصطناعي على الطريق، ولا يزال هناك مجال كبير للتطوير. ينبغي للعلماء من الصين وسنغافورة تعزيز التعاون والعمل معًا لتوجيه الذكاء الاصطناعي ليكون أكثر توفيرًا للطاقة وأمانًا وفضيلة. يبدو أن الذكاء الاصطناعي القوي مليء بالمخاطر الخفية عندما يتعلق الأمر بمخاطر أمن الشبكات، وقد أعجب الكثير من الناس بشكل خاص بحادثة الشاشة الزرقاء التي حدثت من Microsoft في يوليو من هذا العام. في 19 يوليو، اكتشف مستخدمون من العديد من البلدان حول العالم أن أجهزة الكمبيوتر الخاصة بشركتهم بها شاشة زرقاء، مما أدى إلى ظهور رسالة "واجه الجهاز مشكلة ويجب إعادة تشغيله، وبعد ذلك تم التأكد من أن مشكلة الشاشة الزرقاء مرتبطة بتحديث البرنامج من وجهة نظر شركة أمن الشبكات Crowd Strike، فإن هذه الشبكة هي حالة نموذجية لـ "حراس أمنيين" يطعنون البشر في الظهر. "ترتبط قضايا الذكاء الاصطناعي والأمن ارتباطًا وثيقًا، والأمن هو خلل وراثي ناجم عن خلل جيني الأم في هندسة الكمبيوتر الحديثة يجب الاهتمام بالقضايا الأمنية لبيئة تشغيل الذكاء الاصطناعي. " وفي هذا الصدد، يحمل تشنغ تشينغ هوا، رئيس جامعة تونغجي والأكاديمي في الأكاديمية الصينية للهندسة، نفس الرأي: "بينما نؤكد بشدة على الإنجازات الكبرى للنماذج الكبيرة، يجب علينا أيضًا أن ندرك بشدة أن هناك بعض العيوب المتأصلة فيها نماذج كبيرة." أعطى Zheng Qinghua مثالا. الأداء الأول هو الاستهلاك المفرط للبيانات وقوة الحوسبة. "في يوم من الأيام، ستصل المعلومات القيمة التي يستخرجها البشر من البيانات مفتوحة المصدر على الإنترنت إلى الحد الأقصى، تمامًا مثلما يستخرج البشر المعادن النادرة من الموارد المعدنية، سيأتي وقت يتم فيه استنفادهم". النسيان الكارثي وضعف القدرة على جر المشهد. وأوضح Zheng Qinghua أن النماذج الكبيرة تحب الجديد وتكره القديم، ومن الصعب استخلاص استنتاجات من مثال واحد، وفي كثير من الأحيان، يكون من الصعب التكيف مع A، ولكن من الصعب التكيف مع B. وليس من السهل العثور عليه التوازن بين الاثنين. والثالث هو ضعف القدرة على التفكير. ويستخدم النموذج الكبير خوارزمية تدريب الانحدار الذاتي، مما يجعله غير قادر على تكوين قدرة التفكير المنطقي المبنية على الاستدلال السببي الذي بناه البشر. من الصعب أيضًا التعامل مع طريقة التوليد الانحداري الذاتي مع مهام الاستدلال المعقدة التي تتطلب التراجع والتجربة والخطأ، مما يؤدي غالبًا إلى ظاهرة أن النماذج الكبيرة تتعلم معلومات خاطئة لحل المهام، وتسمى هذه الظاهرة "تأثير هانز الذكي". العيب الرابع المتأصل هو أن النموذج الكبير لا يعرف أين أخطأ ولماذا أخطأ، ناهيك عن تصحيحه عندما يعرف. قال Zheng Qinghua بصراحة أن هذه العيوب المتأصلة أدت إلى مشاكل مثل الهلوسة وضعف القدرة على التحكم في النماذج الكبيرة. "خاصة في التطبيقات الهندسية والسيناريوهات الأخرى حيث نحتاج إلى معرفة ما يحدث ولماذا، يمكن القول بأن النماذج الكبيرة عاجزة." يعتقد وين يونغ قانغ، الأكاديمي في أكاديمية سنغافورة للهندسة والأستاذ في جامعة نانيانغ التكنولوجية، أن المجتمع البشري تدخل فترة من التحولات المزدوجة في عصر الرقمنة والاستدامة. خاصة في ظل التحول الرقمي، تغير عدد كبير من الأنشطة من غير متصل بالإنترنت إلى متصل بالإنترنت، مما يستهلك الكثير من موارد الحوسبة والخوادم. وتشير التوقعات إلى أنه بحلول عام 2030، سيصل استهلاك الكهرباء في مراكز البيانات في سنغافورة إلى 12% من إجمالي استهلاك المجتمع للكهرباء. والأمر الأكثر إثارة للقلق هو أن الاستخدام المكثف للذكاء الاصطناعي سيزيد أيضًا من حجم انبعاثات الكربون وسيكون له تأثير مدمر على البيئة. توجيه الذكاء الاصطناعي للسير في الاتجاه الصحيح عندما يركض الذكاء الاصطناعي وأعينه مغلقة، فكيف يمكن للبشر، مطوري التكنولوجيا، أن يمسكوا بعجلة القيادة؟ وفي الاجتماع، قدم الخبراء أيضًا اقتراحات عملية بناءً على أبحاث طويلة المدى. ابتكر وو جيانغوانغ نظريات الأمن الداخلي وتقليد الدفاع منذ عام 2013. واستنادًا إلى الأساس النظري، قام الفريق ببناء بنية أمان داخلية لتمكين أنظمة القيادة الذكية في مختبر نانجينغ. يحتوي النظام على أكثر من 20 سيناريو للتطبيق وأكثر من 100 فرد تطبيقي مختلف، ويتمتع بمعدل نجاح شامل في تحديد الهوية يزيد عن 90% في مشكلات الذكاء الاصطناعي الشائعة مثل الهجمات المضادة ونقاط الضعف الخلفية. وقال تشنغ تشينغ هوا إن التاريخ والتجربة أثبتا أن كل تقدم بشري في علوم الدماغ له مرجع وإلهام وتوجيه لأبحاث الشبكات العصبية الاصطناعية والذكاء الآلي. "النماذج الكبيرة الموجودة اليوم ليست سوى المرجع الأكثر أولية وبساطة للدماغ البشري. إذا تمكنا من استخلاص مرجع متعمق من علوم الدماغ، وخاصة آليات تمثيل الذاكرة، والتنشيط، والاسترجاع، والترميز التي ينفرد بها البشر، فإننا ومن المتوقع أن تحل المشاكل التي تواجهها النماذج الكبيرة اليوم. "هناك عيوب متأصلة مختلفة"، لذلك اقترح: يجب أن يكون لدى الصين نموذجها الخاص للذكاء الآلي. تقوم جامعة تونغجى حاليا بفتح حدود التخصصات، وتعزيز التكامل بين علوم الكمبيوتر وعلوم الدماغ، ودراسة العلاقة بين ذاكرة الدماغ البشري وذاكرة الآلة، واستكشاف طرق جديدة لاستخدام علم المعلومات لدراسة علوم الدماغ. لقد كسر الذكاء الاصطناعي اليوم حدود التخصصات التقليدية ويمتد ليشمل جميع التخصصات تقريبًا. غوو جيشنغ، أكاديمي في أكاديمية سنغافورة للهندسة وأستاذ في جامعة سنغافورة للتكنولوجيا والتصميم، وهو أيضًا عضو في جمعية AI-RAN. من المفهوم أن AI-RAN يشير إلى "شبكة الوصول إلى الراديو (RAN) للذكاء الاصطناعي (AI)" وهو عبارة عن رابطة صناعية تهدف إلى تنشيط تكامل الذكاء الاصطناعي والاتصالات اللاسلكية والابتكار التكنولوجي الرائد. أوضح Guo Guisheng أنه يتم الترويج لعدد كبير من المشاريع المتعلقة بالذكاء الاصطناعي ومشاريع الحوسبة الكمومية من خلال الترابط متعدد التخصصات. ومن وجهة نظره، فإن توجيه الذكاء الاصطناعي لفعل الخير لا يتطلب الخروج من الدوائر الأكاديمية فحسب، بل يتطلب أيضًا الارتباط النشط بالحكمة العالمية. ويأمل أن ينضم المزيد من المختبرات والشركات من الجامعات الصينية في المستقبل إلى دائرة أصدقاء الذكاء الاصطناعي وإقامة شراكات. وعلم المراسل أن سنغافورة، باعتبارها "عاصمة الذكاء الاصطناعي" المشهورة عالميًا، كانت من أوائل الدول في العالم التي أطلقت استراتيجية وطنية للذكاء الاصطناعي ونفذت الكثير من الأعمال الرائدة في مجال حوكمة الذكاء الاصطناعي. في مكان الحادث، اقترح تشنغ تشينغ هوا أيضًا أنه في المستقبل، إذا أردنا تحقيق الصورة الجميلة المتمثلة في "كل شخص لديه ذكاء، والآلات لديها ذكاء، ولكل منها حكمته الخاصة، والحكمة والحكمة مشتركة"، خبراء في مجال يحتاج الذكاء الاصطناعي من الصين وسنغافورة إلى العمل معًا لخلق شيء لهذا العالم للمساهمة بشكل أكبر.