قدمت Microsoft مؤخرًا تطبيق براءة اختراع لحل مشكلة الذكاء الاصطناعي لتوليد معلومات خاطئة (الهلوسة منظمة العفو الدولية). يهدف تطبيق براءات الاختراع ، المسمى "إدخال المعرفة الخارجية والتعليقات للتفاعل مع نماذج اللغة" ، إلى تحسين دقة وموثوقية نماذج الذكاء الاصطناعى من خلال آلية تسمى "نظام زيادة الاستجابة" (RAS). يمكن للنظام تلقائيًا الحصول على مزيد من المعلومات من المصادر الخارجية ، والتحقق من الإجابات التي تم إنشاؤها بواسطة AI ، والمستخدمين المطالبين بأوجه القصور المحتملة ، مما يقلل بشكل فعال من المعلومات الخاطئة التي تم إنشاؤها بواسطة AI. يمثل الإفصاح عن تطبيق براءات الاختراع خطوة مهمة إلى الأمام في معركة Microsoft ضد مسألة الهلوسة من الذكاء الاصطناعي ويعكس الحاجة الملحة للصناعة إلى حل هذه المشكلة.
في الآونة الأخيرة ، قدمت Microsoft تطبيق براءة اختراع يهدف إلى تقليل أو القضاء على المعلومات الخاطئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال نهج تقني. تم تقديم براءة الاختراع ، بعنوان "استخدام المعرفة الخارجية والتعليقات للتفاعل مع نماذج اللغة" ، إلى مكتب براءات الاختراع والعلامات التجارية الأمريكية (USPTO) العام الماضي وتم نشره في 31 أكتوبر. في صميم هذا الاقتراح هو توفير "نظام تحسين الاستجابة" (RAS) لنماذج الذكاء الاصطناعى ، مما يتيح له استخراج مزيد من المعلومات تلقائيًا بناءً على استعلامات المستخدم والتحقق من "صحة" إجاباتها.
على وجه التحديد ، يمكن لنظام تحسين الاستجابة تحديد ما إذا كانت هناك معلومات من "مصادر خارجية" يمكنها الإجابة بشكل أفضل على أسئلة المستخدمين. إذا كانت إجابة الذكاء الاصطناعي لا تحتوي على هذه المعلومات ، فسيحدد النظام أنها غير فعالة. بالإضافة إلى ذلك ، يمكن لـ RAS أيضًا مطالبة المستخدم بما إذا كانت هناك أي أوجه قصور في إجاباتهم ، ويمكن للمستخدمين أيضًا تقديم تعليقات حول هذا الموضوع. ميزة هذا الحل هي أن المطورين أو الشركات لا يحتاجون إلى إجراء تعديلات مفصلة على النماذج الحالية.
في الوقت الحالي ، لم يعرض موقع USPTO رقم براءة الاختراع للتطبيق ، مما يعني أن براءة الاختراع لا تزال قيد المراجعة. اتصلنا Microsoft للحصول على مزيد من المعلومات ، بما في ذلك ما إذا كانت براءة الاختراع مرتبطة بأداة أمان محتوى Azure AI ، وهي أداة تم الإعلان عنها مسبقًا لتقليل أوهام الذكاء الاصطناعي. توفر هذه الأداة التحقق من AI لمؤسسة chatbots ، والتي يمكن أن تتم التحقق من الحقائق في الخلفية لتحديد ما إذا كانت إجابات الذكاء الاصطناعي "لا أساس لها".
تعتبر مشكلة الهلوسة منظمة العفو الدولية واحدة من أكبر التحديات التي تواجه الذكاء الاصطناعى التوليدي ، والتي تؤثر بشكل خطير على مصداقية chatbots من الذكاء الاصطناعي. في هذا الصدد ، أنتجت كل من أنظمة AI من Google و Twitter أخطاء ملحوظة ، مثل اقتراح المستخدمين لتطبيق الغراء على البيتزا أو تناول الأحجار ، وحتى نشر معلومات التمييز في الانتخابات. اعترف تيم كوك ، الرئيس التنفيذي لشركة Apple ، بأن التكنولوجيا الذكية من Apple لا يمكنها تجنب الهلوسة. في الآونة الأخيرة ، تم العثور على أداة النسخ الصوتية "Whisper" من Openai لديها هلوسة متكررة ، والتي جذبت الانتباه إلى استخدامها في المستشفيات الأمريكية.
على الرغم من مشكلة وهم الذكاء الاصطناعى البارزين ، لا يزال لدى عمالقة التكنولوجيا طلبًا قويًا على مراكز بيانات الذكاء الاصطناعي ، وتدرس الشركات بما في ذلك Google و Microsoft و Meta الطاقة النووية كحل محتمل لتلبية احتياجات الذكاء الاصطناعي عالية الطاقة.
النقاط الرئيسية:
قدمت Microsoft براءة اختراع جديدة لتقليل المعلومات الخاطئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
جوهر براءة الاختراع هذه هو تقديم نظام تحسين الاستجابة لنماذج الذكاء الاصطناعى لاستخراج مزيد من المعلومات تلقائيًا.
على الرغم من مشكلة الهلوسة الخطيرة من الذكاء الاصطناعي ، إلا أن الطلب على مراكز بيانات الذكاء الاصطناعي من شركات التكنولوجيا لا يزال قوياً.
يشير الكشف عن تطبيق براءات الاختراع من Microsoft إلى أن شركات التكنولوجيا ستواصل استثمار المزيد من الجهود في التعامل مع مشكلة الهلوسة الذكاء الاصطناعي. في المستقبل ، من المتوقع أن تظهر أنظمة الذكاء الاصطناعى الأكثر موثوقية وجديرة بالثقة ، مما سيعزز بشكل كبير قيمة التطبيق وتجربة المستخدم لتكنولوجيا الذكاء الاصطناعي.