في الآونة الأخيرة ، تم تفضيل مساعدي البرمجة الذكاء الاصطناعى من قبل المبرمجين ، لكن أمنهم تسبب في مخاوف. أظهرت دراسة بجامعة ستانفورد أن استخدام مساعدي برمجة الذكاء الاصطناعى قد يقلل من أمان الكود وحتى يؤدي إلى سوء تقدير المبرمجين في أمان الكود. اختبرت الدراسة 47 مبرمجًا وأظهرت النتائج أن المبرمجين الذين يستخدمون مساعدي الذكاء الاصطناعى كتبوا أمنًا أقل بكثير من المبرمجين الذين لم يستخدموا مساعدي الذكاء الاصطناعي.
في الآونة الأخيرة ، أصبح مساعدو البرمجة الذكاء الاصطناعى شائعين للغاية ، مدعيا أنهم قادرون على مساعدة المبرمجين على كتابة التعليمات البرمجية وتحسين الكفاءة. حتى أن العديد من المبرمجين يعتبرونه "منقذًا" ويتمنون أن يتمكنوا من الاحتفاظ به وكتابة الرمز كل يوم. ومع ذلك ، قامت دراسة في جامعة ستانفورد سكب الماء البارد على "عشاق Fanasy": قد يكون مساعدو برمجة AI "كابوس أمان"!
عثر الباحثون في جامعة ستانفورد على 47 مبرمجًا لإكمال خمس مهام برمجة متعلقة بالأمن ، تغطي ثلاث لغات: بيثون ، جافا سكريبت و C. اتضح أن المبرمجين الذين كتبوا الكود مع مساعدي الذكاء الاصطناعى لديهم أمن رمز أسوأ بكثير!
هذا ليس مثيرة للقلق. يشبه مساعد برمجة الذكاء الاصطناعي "متدربًا غير موثوق به". على سبيل المثال ، في مهمة التشفير والتشفير ، على الرغم من أن الكود الذي تم إنشاؤه بواسطة مساعد AI يمكنه تشفير المعلومات بشكل صحيح ، إلا أنه لا يعيد علامة المصادقة اللازمة. الذي يقلل إلى حد كبير الأمن.
الأمر الأكثر جدية هو أن المبرمجين الذين يستخدمون مساعدي الذكاء الاصطناعى هم أكثر عرضة أن يشعروا أن الكود الذي يكتبونه آمن للغاية ، وهو ما يشبه تناول "المخدرات الهروب" ويغضون عن ثغرات الأمن في الكود. هذا ليس شيئًا جيدًا ، ويمكن أن تؤدي الثقة المفرطة في كثير من الأحيان إلى مشاكل سلامة أكثر خطورة.
ووجد الباحثون أيضًا أن المبرمجين يمنحون مساعدي الذكاء الاصطناعى لأمن الكود يؤثر بشكل مباشر على أمان الكود. إذا تمكن المبرمجين من وصف المهمة بوضوح وتقديم بعض وظائف المساعد ، فسيكون الرمز الذي كتبه مساعد الذكاء الاصطناعى أكثر أمانًا. ولكن إذا كان المبرمجون يعتمدون بشكل أعمى على مساعدي الذكاء الاصطناعى وحتى يستخدمون الكود الذي تم إنشاؤه بواسطة مساعدي الذكاء الاصطناعى مباشرة ، فهذا يعادل نسخ ولصق "قابلية أمنية الأمن" في الكود الخاص بهم ، ويمكن تخيل النتيجة.
لذلك ، هل يمكن استخدام مساعد برمجة الذكاء الاصطناعي؟
الجواب هو: يمكن استخدامه ، لكن لا يمكن للمبرمجين أن يعتبروا "دواءً" ، ولا يمكنهم الوثوق به بشكل أعمى. عند استخدام مساعدي الذكاء الاصطناعى ، يجب أن يكون المبرمجون دائمًا متيقظين ، تحقق بعناية من الرمز لتجنب نقاط الضعف في الأمان.
عنوان الورق: https://arxiv.org/pdf/2211.03622
باختصار ، لا ينبغي على مساعدي البرمجة من الذكاء الاصطناعي كليًا. يمكن للاعتماد المفرط على مساعدي الذكاء الاصطناعى أن يشكلوا مخاطر أمنية خطيرة ، لذلك لا يزال مراجعة الكود والوعي الأمني أمرًا بالغ الأهمية.