أطلقت Nvidia ثلاث ميزات جديدة لمنصة NeMo Guardrails لإدارة أمان روبوتات الدردشة المدعومة بالذكاء الاصطناعي: خدمة أمان المحتوى، وخدمة التحكم في الموضوع، وخدمة اكتشاف خرق السجن. تم تصميم هذه الخدمات الثلاث لمساعدة المؤسسات على التحكم بشكل أفضل في روبوتات الدردشة المدعومة بالذكاء الاصطناعي، ومنع انتشار المعلومات الضارة، وضمان الامتثال لموضوعات المحادثة، ومنع المستخدمين الضارين من تجاوز آليات الأمان. وهي تستخدم نماذج احترافية صغيرة، وتتطلب موارد حاسوبية منخفضة، ويتم توفيرها للمطورين كرمز مفتوح المصدر، مما يسهل على المؤسسات الاندماج في أنظمتها الخاصة.
أعلنت Nvidia مؤخرًا عن ثلاث ميزات أمان جديدة على منصة NeMo Guardrails، المصممة لمساعدة المؤسسات على إدارة روبوتات الدردشة المدعومة بالذكاء الاصطناعي والتحكم فيها بشكل أفضل. توفر هذه الخدمات الصغيرة سلسلة من الحلول العملية خصيصًا للتحديات الشائعة في أمان الذكاء الاصطناعي والإشراف على المحتوى.
ومن بينها، يمكن لخدمة سلامة المحتوى (Content Safety) مراجعة محتوى الذكاء الاصطناعي قبل الرد على المستخدم لاكتشاف ما إذا كانت هناك معلومات قد تكون ضارة. تساعد هذه الخدمة على منع انتشار المحتوى غير المناسب وتضمن حصول المستخدمين على معلومات آمنة ومناسبة.
بالإضافة إلى ذلك، تم تصميم خدمة التحكم في الموضوع (Topic Control) لضمان بقاء محتوى الدردشة ضمن المواضيع المحددة مسبقًا. وهذا يعني أن روبوتات الدردشة يمكنها توجيه المستخدمين بشكل أكثر فعالية للتواصل حول موضوعات محددة، وتجنب الانحراف عن الموضوع الأصلي، وتحسين فعالية الاتصال.
يتم استخدام خدمة Jailbreak Detection لتحديد ومنع المستخدمين من محاولة تجاوز ميزات أمان الذكاء الاصطناعي. تساعد هذه الآلية في الحفاظ على أمان برنامج الدردشة الآلي ومنع الاستخدام الضار.
تقول Nvidia أن هذه الخدمات لا تعتمد على نماذج لغوية كبيرة، ولكنها بدلاً من ذلك تستخدم نماذج أصغر ومتخصصة، لذا فإن متطلباتها على موارد الحوسبة منخفضة نسبيًا. تقوم الشركات بما في ذلك Amdocs وCerence AI وLowe's حاليًا باختبار هذه التقنيات الجديدة في أنظمتها. ومن الجدير بالذكر أن هذه الخدمات الصغيرة ستكون متاحة للمطورين كجزء من حزمة NeMo Guardrails مفتوحة المصدر من Nvidia، مما يوفر الراحة لمزيد من المؤسسات.
مع تطور تكنولوجيا الذكاء الاصطناعي، أصبحت كيفية ضمان أمان وموثوقية تطبيقات الذكاء الاصطناعي موضوعًا ذا أهمية متزايدة. ستوفر الميزات الثلاث الجديدة التي أطلقتها Nvidia للمؤسسات ضمانات أقوى عند استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي ومساعدتها على أن تصبح أكثر ثقة في عملية التحول الرقمي.
تسليط الضوء على:
تطلق Nvidia ثلاث ميزات أمان جديدة لتعزيز قدرات إدارة روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
تساعد خدمات أمان المحتوى في تدقيق استجابات الذكاء الاصطناعي ومنع انتشار المعلومات الضارة.
يضمن التحكم في الموضوع واكتشاف كسر الحماية الامتثال لموضوع المحادثة ومنع التجاوزات الضارة.
بشكل عام، توفر الميزات الجديدة لمنصة NeMo Guardrails من Nvidia حلاً فعالاً لإدارة أمان روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وزيادة تحسين موثوقية وأمن تطبيقات الذكاء الاصطناعي، وتوفير ضمان أكثر صلابة لتطبيقات المؤسسات في مجال الذكاء الاصطناعي. تعزيز التطوير الأكثر أمانًا ومسؤولية لتكنولوجيا الذكاء الاصطناعي.