في السنوات الأخيرة، تطورت تكنولوجيا الذكاء الاصطناعي بسرعة، ولكنها جلبت أيضًا تحديات جديدة - فقد أصبحت ظاهرة "الهلوسة" الخاصة بالذكاء الاصطناعي بارزة بشكل متزايد. إن حالات أنظمة الذكاء الاصطناعي التي تنتج معلومات خاطئة، وتلفيق البيانات، وحتى تقديم اقتراحات خطيرة شائعة، مما يؤثر بشكل خطير على سمعة الشركات ومصالحها. سيقدم لك محرر Downcodes شركة ناشئة ومنتجاتها المبتكرة المخصصة لحل هذه المشكلة.
اليوم، مع التطور السريع للذكاء الاصطناعي، أصبحت "الهلوسة" الخاصة بالذكاء الاصطناعي أكثر شيوعًا، مما تسبب في مشاكل كبيرة للعديد من الشركات. تصف روبوتات الدردشة لخدمة العملاء المنتجات غير الموجودة بثقة، ويقوم الذكاء الاصطناعي المالي بتلفيق بيانات السوق، وتقدم الروبوتات الطبية نصائح طبية خطيرة. ولم تعد هذه القضايا مجرد حكايات، بل أصبحت مخاطر خفية خطيرة تؤثر على سمعة الشركة وربحيتها.
ولمواجهة هذا التحدي، أعلنت شركة Patronus AI الناشئة، ومقرها سان فرانسيسكو، عن إطلاق أول منصة للخدمة الذاتية في العالم، مصممة لاكتشاف ومنع فشل نظام الذكاء الاصطناعي في الوقت الفعلي. تعمل المنصة مثل "المدقق الإملائي" لأنظمة الذكاء الاصطناعي، حيث تكتشف المشاكل قبل حدوثها.
قال أناند كانابان، الرئيس التنفيذي لشركة Patronus AI، في مقابلة، إن العديد من الشركات تواجه إخفاقات الذكاء الاصطناعي في بيئات الإنتاج، مع مشاكل تشمل الهلوسة والثغرات الأمنية والسلوك غير المتوقع. وفقًا لأبحاث الشركة، فإن نماذج الذكاء الاصطناعي الرائدة مثل GPT-4 لديها فرصة بنسبة 44% لتكرار المحتوى المحمي بحقوق الطبع والنشر عند المطالبة بذلك، وحتى النماذج المتقدمة لديها فرصة تزيد عن 20% لإنشاء محتوى غير آمن في اختبارات الاستجابة الأمنية الأساسية.
لمساعدة المؤسسات على تحسين أمان أنظمة الذكاء الاصطناعي الخاصة بها، يوفر Patronus AI سلسلة من الميزات المبتكرة. ومن بينها، وظيفة "المقيم" الأكثر أهمية التي تسمح للشركات بكتابة قواعد تقييم مخصصة باللغة الإنجليزية البسيطة. تسمح هذه المرونة للشركات عبر الصناعات بالتكيف مع احتياجاتها، بدءًا من شركات الخدمات المالية التي تركز على الامتثال إلى مؤسسات الرعاية الصحية التي تركز على خصوصية المريض والدقة الطبية.
يوجد في قلب المنصة نموذج متطور للكشف عن الهلوسة يسمى Lynx، وهو أكثر دقة بنسبة 8.3% من GPT-4 في تحديد الأخطاء الطبية. بالإضافة إلى ذلك، تحتوي المنصة على وضعين للتشغيل: أحدهما للمراقبة في الوقت الفعلي والآخر للتحليل المتعمق. بالإضافة إلى التحقق من الأخطاء التقليدية، قامت الشركة أيضًا بتطوير أدوات خاصة مثل CopyrightCatcher (أداة الكشف عن حقوق الطبع والنشر) وFinanceBench (معيار تقييم الأداء المالي) لتزويد المؤسسات بحماية شاملة من أخطاء الذكاء الاصطناعي.
ولجعل أدوات الأمان هذه في متناول المزيد من المؤسسات، تتبنى Patronus AI نموذج تسعير الدفع أولاً بأول، بدءًا من 10 دولارات لكل 1000 استدعاء لواجهة برمجة التطبيقات. ومن بين الشركات الأوائل التي تبنّت هذه الحلول بالفعل شركات كبيرة مثل HP وAngelList وPearson، مما يدل على الأهمية التي يعلقونها على الاستثمارات الأمنية في مجال الذكاء الاصطناعي.
اليوم، مع التطور السريع للذكاء الاصطناعي، لا يمكن لأدوات مثل منصة Patronus AI أن تساعد الشركات على تقليل المخاطر فحسب، بل تساعد أيضًا في الامتثال للقوانين واللوائح القادمة. ومع استمرار تطور أنظمة الذكاء الاصطناعي، فإن كيفية التقاط هذه "الأوهام" وتصحيحها بدقة ستشكل تحديًا مهمًا للمؤسسات.
مدخل المنتج: https://www.patronus.ai/
يوفر ظهور Patronus AI طريقة جديدة للتفكير لحل مشكلة وهم الذكاء الاصطناعي، كما أن منصة الخدمة الذاتية ووظائفها المبتكرة تستحق الاهتمام. مع استمرار تطور تكنولوجيا الذكاء الاصطناعي، ستلعب أدوات أمان الذكاء الاصطناعي المماثلة دورًا متزايد الأهمية، مما يساعد المؤسسات على الاستفادة بشكل أفضل من تكنولوجيا الذكاء الاصطناعي مع التحكم بشكل فعال في المخاطر.