Foundationa LLM : منصة لنشر وتوسيع نطاق وتأمين وإدارة الذكاء الاصطناعي التوليدي في المؤسسات
توفر Foundationa LLM منصة لنشر وتوسيع نطاق وتأمين وإدارة الذكاء الاصطناعي التوليدي في المؤسسة. مع Foundationa LLM يمكنك:
- قم بإنشاء وكلاء الذكاء الاصطناعي المرتكزين على بيانات مؤسستك، سواء كانت تلك البيانات نصية أو شبه منظمة أو منظمة.
- اجعل وكلاء الذكاء الاصطناعي متاحين لمستخدميك من خلال واجهة الدردشة ذات العلامة التجارية أو قم بدمج REST API مع وكيل الذكاء الاصطناعي في التطبيق الخاص بك للحصول على تجربة مساعد الطيار أو دمج Agent API في عملية آلية من آلة إلى آلة.
- وكلاء بناء التجارب الذين يمكنهم استخدام مجموعة متنوعة من نماذج اللغات الكبيرة بما في ذلك OpenAI GPT-4 وMistral وLlama 2 أو أي نماذج تم سحبها من كتالوج نماذج Hugging Face التي توفر نقطة نهاية إكمال REST.
- قم بإدارة وتكوين وتأمين وكلاء الذكاء الاصطناعي لديك وأصولهم الأساسية مركزيًا، بما في ذلك المطالبات ومصادر البيانات وخطوط أنابيب بيانات التوجيه وقواعد بيانات المتجهات ونماذج اللغات الكبيرة باستخدام بوابة الإدارة.
- قم بتمكين الجميع في مؤسستك من إنشاء وكلاء الذكاء الاصطناعي الخاصين بهم. يمكن للمستخدمين غير المطورين لديك إنشاء ونشر وكلاء خاصين بهم بطريقة الخدمة الذاتية من بوابة الإدارة، لكننا لا نعترض طريق مطوري الذكاء الاصطناعي المتقدمين لديك الذين يمكنهم نشر تنسيقاتهم الخاصة المضمنة في LangChain وSemantic Kernel، التدفق الفوري أو أي تنسيق يكشف عن نقطة نهاية الإكمال.
- قم بنشر وإدارة خطوط بيانات التوجيه القابلة للتطوير والتي يمكنها استيعاب ملايين المستندات لتوفير المعرفة لنموذجك.
- قم بتمكين المستخدمين لديك باستخدام أكبر عدد ممكن من وكلاء الذكاء الاصطناعي الذين يركزون على المهام حسب الرغبة.
- التحكم في الوصول إلى وكلاء الذكاء الاصطناعي والموارد التي يصلون إليها باستخدام عناصر التحكم في الوصول المستندة إلى الأدوار (RBAC).
- استفد من الإمكانات سريعة التطور من Azure AI وAzure OpenAI من حزمة واحدة متكاملة.
ملحوظة
Foundationa LLM ليس نموذجًا لغويًا كبيرًا. فهو يمكّنك من استخدام نماذج اللغات الكبيرة التي تختارها (على سبيل المثال، OpenAI GPT-4، وMistral، وLLama 2، وما إلى ذلك)
تنشر Foundationa LLM منصة مساعد طيار آمنة وشاملة وقابلة للتكوين بدرجة عالية في بيئة Azure السحابية الخاصة بك:
- يبسط التكامل مع مصادر بيانات المؤسسة التي يستخدمها الوكيل للتعلم في السياق (على سبيل المثال، تمكين RAG وCoT وReAct وأنماط المونولوج الداخلي).
- يوفر دفاعًا متعمقًا من خلال ضوابط أمان دقيقة على البيانات التي يستخدمها الوكيل ومرشحات ما قبل/بعد الإكمال التي تحمي من الهجمات.
- تمت مهاجمة الحل المتشدد من قبل فريق LLM الأحمر منذ البداية.
- أرصدة أحمال الحلول القابلة للتطوير عبر نقاط نهاية LLM متعددة.
- قابلة للتوسيع إلى مصادر البيانات الجديدة ومنسقي LLM وLLMs الجدد.
لماذا هناك حاجة إلى Foundationa LLM ؟
ببساطة، رأينا الكثير من الأشخاص يعيدون اختراع العجلة فقط للحصول على مساعد طيار مخصص أو وكيل ذكاء اصطناعي تم تأريضه ويبني استجاباته على بياناتهم الخاصة بدلاً من المعرفة البارامترية المدربة للنموذج. العديد من الحلول التي رأيناها تم تصميمها لعروض توضيحية رائعة، ولكنها كانت عبارة عن ألعاب تقوم فعليًا بتغليف المكالمات إلى نقاط نهاية OpenAI - ولم تكن شيئًا مقصودًا أو جاهزًا لأخذه في الإنتاج على نطاق المؤسسة. قمنا ببناء Foundationa LLM لتوفير رحلة مستمرة، رحلة كانت سريعة في البدء حتى يتمكن الأشخاص من تجربة LLM بسرعة ولكن لا يسقطون في منحدر بعد ذلك بحل قد يكون غير آمن وغير مرخص وغير مرن وغير مميز بشكل كامل بما فيه الكفاية تنمو من النموذج الأولي إلى حل الإنتاج دون الحاجة إلى البدء من جديد.
المشاكل الأساسية التي تواجه تقديم مساعدي الطيارين في المؤسسة أو وكلاء الذكاء الاصطناعي هي:
- يعد مساعدو الطيارين أو وكلاء الذكاء الاصطناعي على مستوى المؤسسات معقدين ولديهم الكثير من الأجزاء المتحركة (ناهيك عن البنية التحتية).
- تعاني الصناعة من فجوة في المهارات عندما يتعلق الأمر بملء الأدوار اللازمة لتقديم هذه الحلول المعقدة لمساعد الطيار.
- لا يتم التخفيف من أهم مخاطر الذكاء الاصطناعي (عدم الدقة، والأمن السيبراني، والامتثال، وقابلية الشرح، والخصوصية) من خلال الأدوات الفردية.
- يستغرق تسليم حل مساعد الطيار أو وكيل الذكاء الاصطناعي وقتًا طويلاً ومكلفًا ومحبطًا عند البدء من الصفر.
المفهوم الخاطئ مقابل الواقع
فكرة خاطئة
هناك فكرة خاطئة مفادها أن إنشاء تطبيقات LLM ووكلاء الذكاء الاصطناعي يدور حول الهندسة السريعة، فالأمر سهل مثل:
قد يكون هذا صحيحًا بالنسبة للعروض التوضيحية وسيناريوهات الألعاب، ولكن بالنسبة لوكلاء الذكاء الاصطناعي في المؤسسة، هناك العديد من المتطلبات مثل كيف يمكنك:
- هل يمكن قياس الحجم والتحميل الدفعي من آلاف إلى ملايين المستندات كمعرفة للنموذج؟ الاستفادة من برامج LLM الأخرى (Llama 2, Mistral) جنبًا إلى جنب مع نماذج ChatGPT؟
- هل تحافظ على خصوصية مصادر المعرفة الحساسة للمستخدمين المصرح لهم؟
- منع إرسال البيانات الحساسة (معلومات تحديد الهوية الشخصية والأسرار التجارية) إلى LLM؟
- إدارة وجود العديد من وكلاء الذكاء الاصطناعي؟
- التحكم في استخدام الرمز المميز وإدارة عمليات رد المبالغ المدفوعة للتطبيقات؟
الواقع
هناك الكثير من المكونات التي تدخل في بناء وكيل ذكاء اصطناعي آمن ومحكم بشكل جيد وقابل للتطوير وقابل للتوسعة، وتوفر Foundationa LLM مجموعة شاملة لجعل هذه العملية أسرع وأكثر تكرارًا وأكثر موثوقية:
أين يقع موقع Foundationa LLM مقارنة بالحلول الأخرى؟
هناك الكثير من الأدوات الرائعة في النظام البيئي التي تساعد في أجزاء من بناء مساعد الطيار أو وكيل الذكاء الاصطناعي. تجمعهم Foundationa LLM فقط معًا لتوفير النظام الأساسي الشامل لإنشاء وكلاء ذكاء اصطناعي قابلين للتخصيص بالكامل مع إدارة مركزية وواجهات مستخدم وواجهات برمجة التطبيقات للوكلاء.
في أبسط صوره، يستخدم مساعد الطيار أو وكيل الذكاء الاصطناعي المعرفة التي توفرها المؤسسة ونماذج الذكاء الاصطناعي التوليدية لتأليف النص أو كتابة التعليمات البرمجية أو عرض الصور، غالبًا عن طريق التفكير في المطالبات المقدمة من الإنسان. وعبر هذه الطرائق، يتم استخدام الذكاء الاصطناعي لمساعدة الإنسان مباشرة في مهمة محددة.
تظهر هذه القدرة الأساسية في نموذجين أصليين، يدعمهما Foundationa LLM محليًا:
- إدارة المعرفة: ساعد المستخدمين في العثور بسرعة على المعلومات التي يبحثون عنها وتقديمها على المستوى المناسب وبالتنسيق الصحيح. تشمل الأمثلة التلخيص، أو إعادة الصياغة، أو إعادة الاستهداف لمعالجة شخصية ما (على سبيل المثال، شرحها وكأنني في الخامسة من عمري)، وتحليل المشاعر والتوصيات.
- التحليلات: ساعد المستخدمين على الوصول بسرعة إلى الرؤى المستندة إلى البيانات التي يبحثون عنها. تشمل الأمثلة التوصيات والتنبؤات واكتشاف الحالات الشاذة والتحليل الإحصائي والاستعلام عن البيانات وإعداد التقارير.
تعمل Foundationa LLM على تبسيط وتبسيط إدارة بناء المعرفة (على سبيل المثال، وكلاء الأسئلة/الأجوبة) والوكلاء التحليليين (على سبيل المثال، ذكاء الأعمال للخدمة الذاتية) عبر مصادر البيانات الموجودة عبر مؤسستك.
التوثيق
احصل على أحدث المعلومات مع Foundationa LLM من خلال قراءة الوثائق. يتضمن ذلك تعليمات النشر والبدء السريع والهندسة المعمارية ومراجع واجهة برمجة التطبيقات.
ابدء
يوفر Foundationa LLM أسلوبًا بسيطًا يعتمد على سطر الأوامر لبدء عملية النشر الأولى وتشغيلها. في الأساس، إنه أمرين. بعد ذلك، يمكنك تخصيص الحل وتشغيله محليًا على جهازك وتحديث النشر بتخصيصاتك.
اتبع تعليمات نشر البدء السريع لنشر Foundationa LLM في اشتراك Azure الخاص بك.
الإبلاغ عن المشكلات والدعم
إذا واجهت أي مشكلات مع Foundationa LLM ، فيرجى فتح مشكلة على GitHub. سوف نقوم بالرد على مشكلتك في أقرب وقت ممكن. الرجاء استخدام التصنيفات ( bug ، documentation ، general question ، release xxx ) لتصنيف مشكلتك وتقديم أكبر قدر ممكن من التفاصيل لمساعدتنا في فهم المشكلة وحلها.
المساهمة في Foundationa LLM
يسعدنا قبول المساهمات في مشروع FoundationaLLM في شكل تعليقات وتقارير أخطاء وطلبات سحب. يرجى الاطلاع على المساهمة في FoundationaLLM للحصول على التعليمات.
