في الآونة الأخيرة، تعرضت Character.AI، وهي منصة دردشة تعمل بالذكاء الاصطناعي وتدعمها شركة جوجل، لخلل خطير، مما تسبب في قلق واسع النطاق بين المستخدمين. تسبب الخلل في تشويه مخرجات برنامج الدردشة الآلي، وخلطها بلغات متعددة، وتحتوي على كلمات مربكة وحتى موحية جنسيًا مثل "دسار". شارك العديد من المستخدمين لقطات شاشة على Reddit تظهر هراءًا وكلمات عشوائية تم إنشاؤها بواسطة الذكاء الاصطناعي مثل "Ohio" و"math" والكلمة السلافية "obec". وهذا الفشل ليس المرة الأولى التي تواجه فيها شركة Character.AI مشكلات، ففي ديسمبر من العام الماضي، تعرضت المنصة لخرق أمني خطير، مما أدى إلى تسريب سجلات دردشة المستخدم والمعلومات الشخصية. وأثار الانقطاع مرة أخرى المخاوف بشأن أمان بياناته، خاصة وأن العديد من المستخدمين يجرون محادثات خاصة على المنصة.
قال أحد المستخدمين إن المحادثة العادية أصبحت بلا معنى بعد ساعات، مليئة بالكلمات العشوائية ومزيج من اللغات المتعددة. تُظهر لقطات الشاشة أن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يتحول تدريجياً إلى رطانة لا معنى لها، مع كلمات رئيسية متكررة مثل "رعاة البقر"، و"الهندسة المعمارية"، و"الفرق"، و"الحاكم". على الرغم من أن Character.AI لم تستجب بعد لهذا الفشل، إلا أن هذا الحادث يسلط الضوء مرة أخرى على مشكلات الاستقرار والأمن لنماذج اللغات الكبيرة، ويذكر أيضًا المطورين بالحاجة إلى تعزيز الإشراف على نماذج الذكاء الاصطناعي وصيانتها لضمان أمان بيانات المستخدم والسير الطبيعي للمحادثة.
أبرز النقاط:
تسبب هذا الخلل في ارتباك محادثات برنامج Chatbot الخاص بـ Character.AI، حيث أبلغ المستخدمون عن هراء مختلط بلغات متعددة.
وشارك العديد من المستخدمين لقطات شاشة لمحادثات غريبة، وكثيرًا ما ذكروا كلمات مثل "دسار"، مما تسبب في حدوث ارتباك.
لقد شهدت شركة Character.AI خروقات أمنية من قبل، وأثار هذا الفشل مرة أخرى مخاوف بشأن أمان البيانات.
لم يؤثر فشل Character.AI على تجربة المستخدم فحسب، بل كشف أيضًا عن المخاطر والتحديات المحتملة لنماذج اللغات الكبيرة. وفي المستقبل، تحتاج المنصات المماثلة إلى تعزيز التحسينات التقنية والتدابير الأمنية لتجنب تكرار مثل هذه الحوادث والحفاظ على أمان بيانات المستخدم وتجربة مستخدم جيدة. نأمل أن تتمكن Character.AI من حل المشكلة في أقرب وقت ممكن وتقديم شرح مفصل لسبب الفشل.