مع التطور السريع لتكنولوجيا الذكاء الاصطناعي ، أصبحت مشكلة "وهم" الذكاء الاصطناعي بارزة بشكل متزايد ، مما يجلب سمعة كبيرة وخسائر اقتصادية للمؤسسات. يتمتع نظام الذكاء الاصطناعى بالسلوك الخاطئ والسلوك غير الآمن في مجالات خدمة العملاء والتمويل والرعاية الطبية ، مما يؤثر بشكل خطير على موثوقيته ومصداقيته. لحل هذه المشكلة ، بدأت المزيد والمزيد من الشركات في الانتباه إلى أمن الذكاء الاصطناعي والبحث بنشاط عن حلول فعالة.

مع التطور السريع للذكاء الاصطناعي ، أصبحت ظاهرة "وهم" الذكاء الاصطناعي أكثر تواتراً ، مما أدى إلى مشكلة كبيرة في العديد من الشركات. يصف chatbots لخدمة العملاء المنتجات التي لا تكون موجودة بثقة ، وتصنيع منظمة العفو الدولية بيانات السوق ، وتوفر الروبوتات الطبية مشورة طبية خطيرة. لم تعد هذه المشكلات مجرد أشياء مثيرة للاهتمام ، ولكنها مخاطر خفية كبيرة تؤثر على سمعة الشركة وأرباحها.

لمواجهة هذا التحدي ، أعلنت شركة Patronup Patronup AI التي تتخذ من سان فرانسيسكو مقراً لها عن إطلاق أول منصة لخدمة الذات في العالم مصممة لاكتشاف أنظمة الذكاء الاصطناعى ومنعها من الفشل في الوقت الفعلي. يشبه هذا النظام الأساسي "المدقق الإملائي" لأنظمة الذكاء الاصطناعي ، والتي يمكن التقاطها قبل حدوث مشكلة.

وقال أناند كانابان ، الرئيس التنفيذي لشركة Patronus AI ، في مقابلة أن العديد من الشركات تواجه إخفاقات الذكاء الاصطناعي في بيئات الإنتاج ، بما في ذلك الهلوسة والانتهاكات الأمنية والسلوك غير المتوقع. وفقًا لأبحاث الشركة ، فإن نماذج الذكاء الاصطناعي مثل GPT-4 لديها فرصة بنسبة 44 ٪ لتكرار المحتوى المحمي بحقوق الطبع والنشر عند المطالبة ، وحتى النماذج المتقدمة لديها فرصة أكثر من 20 ٪ لتوليد غير آمن في اختبارات الأمان الأساسية.

لمساعدة المؤسسات على تحسين أمان أنظمة الذكاء الاصطناعي ، يوفر Patronus AI مجموعة من الميزات المبتكرة. من بينها ، تتيح وظيفة "المقيِّم" الأبرز للمؤسسات كتابة قواعد تقييم مخصصة باللغة الإنجليزية البسيطة. تتيح هذه المرونة الشركات من جميع مناحي الحياة للتكيف وفقًا لاحتياجاتها ، مثل شركات الخدمات المالية يمكن أن تركز على الامتثال ، في حين أن المؤسسات الطبية يمكن أن تركز على خصوصية المريض والدقة الطبية.

في قلب المنصة ، يوجد نموذج لاكتشاف الهلوسة اختراقًا يسمى Lynx ، وهو أكثر دقة بنسبة 8.3 ٪ من GPT-4 في تحديد عدم الدقة الطبية. بالإضافة إلى ذلك ، يحتوي المنصة على وضعين تشغيلان: أحدهما للمراقبة في الوقت الفعلي والآخر للتحليل المتعمق. بالإضافة إلى التحقق من الأخطاء التقليدية ، طورت الشركة أيضًا أدوات خاصة مثل CopyrightCatcher و FinanceBench لتزويد المؤسسات بحماية شاملة من الذكاء الاصطناعي.

لجعل هذه الأدوات الأمنية ميسورة التكلفة لمزيد من الشركات ، يتبنى Patronus AI نموذج تسعير الدفع AS-You-You يبدأ من 10 دولارات لكل 1000 مكالمة API. يشمل المتبنون الأوائل بالفعل مؤسسات كبيرة مثل HP و Angellist و Pearson ، مما يدل على أهمية الاستثمار الأمني ​​AI.

اليوم ، مع التطوير السريع لمنظمة العفو الدولية ، لا يمكن أن تساعد منصات مثل Patronus AI الشركات على تقليل المخاطر فحسب ، بل تساعد أيضًا في الامتثال للقوانين واللوائح القادمة. مع التطور المستمر لأنظمة الذكاء الاصطناعى ، فإن كيفية التقاط وتصحيح هذه "الأوهام" بدقة سيكون تحديًا مهمًا في مواجهة المؤسسات.

بوابة المنتج: https://www.patronus.ai/

النقاط الرئيسية:

يطلق Patronus AI أول واجهة برمجة تطبيقات للخدمة الذاتية في العالم ، تهدف إلى اكتشاف وهلوسة الذكاء الاصطناعي ومنعها في الوقت الفعلي.

يتيح النظام الأساسي للشركات إنشاء قواعد تقييم مخصصة باللغة الإنجليزية البسيطة ، وتوفير حلول مرنة.

يتيح اعتماد نموذج الدفع AS-Can-Can المزيد من الشركات تحمل أدوات أمان الذكاء الاصطناعى.

يوفر ظهور Patronus AI حلًا فعالًا لحل مشكلة الهلوسة من الذكاء الاصطناعي. تطوير تكنولوجيا الذكاء الاصطناعي.