هناك نقاش ساخن داخل OpenAI حول تطبيق تقنية العلامة المائية ChatGPT، وقد تم تصميم تقنية العلامة المائية النصية AI التي طورتها لمكافحة الانتحال الأكاديمي، ولكن تبع ذلك الجدل والتحديات في تطبيق التكنولوجيا. ويقال إن التكنولوجيا، التي تضبط الكلمات والعبارات لإنشاء أنماط يمكن اكتشافها، دقيقة بنسبة 99.9٪ ومقاومة لإعادة الصياغة البسيطة. ومع ذلك، اعترفت OpenAI أيضًا بأن إعادة الكتابة المعقدة يمكن أن تتجاوز العلامات المائية بسهولة، وأن العلامات المائية قد تزعج بعض المستخدمين، وخاصة بعض المتحدثين غير الأصليين، مما يؤثر على تجربة المستخدم واستخدامه.
في الآونة الأخيرة، انخرطت OpenAI في مناقشات داخلية حول تقنية العلامات المائية. ووفقا لصحيفة وول ستريت جورنال، فقد طورت الشركة بالفعل تقنية للعلامة المائية لوضع علامة على النص الذي تم إنشاؤه بواسطة ChatGPT وأعدت أيضًا أداة للكشف. لكن الآراء الداخلية منقسمة حول طرح هذه التكنولوجيا في الأسواق.
من وجهة نظر معينة، يبدو أن إطلاق تقنية العلامة المائية هو الشيء المسؤول الذي يجب القيام به. تقوم هذه التقنية بإنشاء نمط يمكن اكتشافه عن طريق ضبط الكلمات والعبارات التي تنبأ بها النموذج. على الرغم من أن هذا يبدو معقدًا بعض الشيء، إلا أن الغرض منه واضح – وهو مساعدة المعلمين على منع الطلاب من سرقة المهام التي تم إنشاؤها باستخدام الذكاء الاصطناعي. يشير التقرير إلى أن هذه العلامة المائية لا تؤثر على جودة نص برنامج الدردشة الآلي. علاوة على ذلك، وجدت OpenAI في دراسة استقصائية أن عدد الأشخاص الذين يدعمون أدوات الكشف عن الذكاء الاصطناعي على مستوى العالم يفوق عدد المعارضين بأربع مرات.
ومع ذلك، فإن تطبيق تقنية العلامة المائية ليس بهذه البساطة. أكد تحديث مدونة من OpenAI أن الشركة طورت تقنية العلامات المائية وقالت إن الطريقة دقيقة للغاية، زاعمة أنها "فعالة بنسبة 99.9٪". علاوة على ذلك، يتمتع هذا النوع من العلامات المائية بمقاومة معينة "للتلاعب"، مثل إعادة الكتابة البسيطة. ومع ذلك، أشارت OpenAI أيضًا إلى أنه يمكن تجاوز هذه العلامة المائية بسهولة عن طريق إعادة كتابتها مع نماذج أخرى، وهو ما يقلقهم.
بالإضافة إلى ذلك، ترى OpenAI أن العلامات المائية قد تسبب شعور بعض المستخدمين بالوصم، خاصة بالنسبة لغير الناطقين بها. لذلك، على الرغم من أن بعض الموظفين يعتقدون أن العلامات المائية فعالة، إلا أن الاستطلاع يظهر أن ما يقرب من 30٪ من مستخدمي ChatGPT قالوا إنهم قد يستخدمون أقل إذا تم تنفيذ العلامات المائية. ونتيجة لذلك، اقترح بعض الموظفين استكشاف أساليب "أقل إثارة للجدل نسبيا"، على الرغم من أن فعاليتها لم تثبت بعد.
في تحديث للمدونة اليوم، ذكرت OpenAI أنهم يستكشفون طرقًا لتضمين البيانات الوصفية في "المراحل المبكرة" وقالوا إنه لا يزال من السابق لأوانه معرفة مدى فعاليتها. ومع ذلك، يشيرون إلى أنه نظرًا لأن هذه البيانات الوصفية موقعة بشكل مشفر، فيمكن تجنب النتائج الإيجابية الخاطئة.
أبرز النقاط:
✅ هناك خلافات داخل OpenAI فيما يتعلق بإطلاق تقنية العلامات المائية، وما إذا كان سيتم إصدارها لا يزال قيد المناقشة.
تظهر الاستطلاعات أن معظم الأشخاص حول العالم يدعمون أدوات الكشف بالذكاء الاصطناعي، لكن المستخدمين يشعرون بالقلق من أن العلامات المائية ستؤثر على استخدامها.
هل تدرس OpenAI دمج البيانات الوصفية في محاولة لإيجاد توازن بين التكنولوجيا وتجربة المستخدم.
يعكس موقف OpenAI الحذر تجاه تكنولوجيا العلامات المائية جهودها لإيجاد توازن بين التطور التكنولوجي وتجربة المستخدم. في المستقبل، ستصبح كيفية حل مشكلات تحديد المحتوى الناتج عن الذكاء الاصطناعي وحماية خصوصية المستخدم بشكل فعال قضية مهمة في مجال الذكاء الاصطناعي.