ملحق سطح المكتب Podman AI Lab
v1.3.1
يعد Podman AI Lab امتدادًا مفتوح المصدر لـ Podman Desktop للعمل مع LLMs (نماذج اللغات الكبيرة) في بيئة محلية. يضم كتالوج الوصفات مع حالات استخدام الذكاء الاصطناعي الشائعة، ومجموعة منسقة من النماذج مفتوحة المصدر، وملعبًا للتعلم والنماذج الأولية والتجريب، يساعدك Podman AI Lab على البدء بسرعة وسهولة في إدخال الذكاء الاصطناعي في تطبيقاتك، دون الاعتماد على البنية التحتية التي تتجاوز ذلك. الكمبيوتر المحمول الخاص بك يضمن خصوصية البيانات وأمنها.
يستخدم Podman AI Lab أجهزة Podman لتشغيل خوادم الاستدلال لنماذج LLM وتطبيقات الذكاء الاصطناعي. يمكن تنزيل نماذج الذكاء الاصطناعي، كما يتم دعم التنسيقات الشائعة مثل GGUF أو Pytorch أو Tensorflow.
يوفر Podman AI Lab قائمة منسقة من نماذج الذكاء الاصطناعي مفتوحة المصدر وLLMs. بمجرد تنزيل النماذج، تصبح النماذج متاحة للاستخدام في تطبيقات الذكاء الاصطناعي وخدمات النماذج والملاعب.
بمجرد تنزيل النموذج، يمكن بدء خدمة النموذج. خدمة النموذج هي خادم استدلالي يعمل في حاوية ويكشف النموذج من خلال واجهة برمجة تطبيقات الدردشة المعروفة والمشتركة بين العديد من مقدمي الخدمة.
تسمح بيئات Playground المتكاملة بتجربة النماذج المتوفرة في بيئة محلية. تساعد مطالبة المستخدم البديهية في استكشاف إمكانيات ودقة النماذج المختلفة وتساعد في العثور على أفضل نموذج لحالة الاستخدام المتوفرة. تسمح واجهة Playground أيضًا بتحديد معلمات النماذج لتحسين إعدادات وسمات كل نموذج بشكل أكبر.
بمجرد توفر نموذج الذكاء الاصطناعي من خلال نقطة نهاية معروفة، فمن السهل تخيل عالم جديد من التطبيقات التي ستتصل وتستخدم نموذج الذكاء الاصطناعي. يدعم Podman AI Lab تطبيقات الذكاء الاصطناعي كمجموعة من الحاويات المتصلة ببعضها البعض.
يأتي Podman AI Lab مع ما يسمى بكتالوج الوصفات الذي يساعدك على التنقل في عدد من حالات استخدام الذكاء الاصطناعي الأساسية ومجالات المشكلات مثل Chat Bots ومولدات الأكواد وملخصات النصوص. تأتي كل وصفة مع شرح تفصيلي وعينات من التطبيقات التي يمكن تشغيلها مع العديد من نماذج اللغات الكبيرة (LLMs). تتيح تجربة نماذج متعددة العثور على النموذج الأمثل لحالة الاستخدام الخاصة بك.
نظام التشغيل:
متوافق مع أنظمة التشغيل Windows وmacOS وLinux
برمجة:
الأجهزة
تعد نماذج LLMs AI مستهلكة للموارد الثقيلة سواء من حيث الذاكرة أو وحدة المعالجة المركزية. يستهلك كل طراز من الطرازات المتوفرة حوالي 4 جيجا بايت من الذاكرة ويتطلب تشغيله 4 وحدات معالجة مركزية على الأقل.
لذلك نوصي بذاكرة لا تقل عن 12 جيجابايت و4 وحدات معالجة مركزية على الأقل لجهاز Podman.
كممارسة إضافية موصى بها، لا تقم بتشغيل أو تشغيل أكثر من 3 نماذج متزامنة في وقت واحد.
يرجى ملاحظة أن هذا لا ينطبق على WSL على نظام التشغيل Windows، حيث أن تقنية WSL هي الذاكرة ووحدة المعالجة المركزية مع سطح المكتب المضيف.
يمكنك تثبيت ملحق Podman AI Lab مباشرة داخل Podman Desktop.
انتقل إلى الملحقات > الكتالوج > تثبيت Podman AI Lab.
لتثبيت إصدار تطوير، استخدم إجراء Install custom... كما هو موضح في التسجيل أدناه.
اسم الصورة المراد استخدامها هو ghcr.io/containers/podman-desktop-extension-ai-lab . يمكنك الحصول على العلامات التي تم إصدارها للصورة على https://github.com/containers/podman-desktop-extension-ai-lab/pkgs/container/podman-desktop-extension-ai-lab.
دعونا نختار نموذجًا من الكتالوج ونقوم بتنزيله محليًا على محطة العمل الخاصة بنا.
بمجرد أن يصبح النموذج متاحًا محليًا، فلنبدأ خادم الاستدلال
هل تريد المساعدة في التطوير والمساهمة في Podman AI Lab؟
يمكنك استخدام pnpm watch --extension-folder من دليل Podman Desktop لإعادة إنشاء ملحق AI Lab واختباره تلقائيًا:
ملحوظة : تأكد من تثبيت المتطلبات المسبقة المناسبة.
git clone https://github.com/containers/podman-desktop
git clone https://github.com/containers/podman-desktop-extension-ai-lab
cd podman-desktop-extension-ai-lab
corepack enable pnpm
pnpm install
pnpm build
cd ../podman-desktop
pnpm watch --extension-folder ../podman-desktop-extension-ai-lab/packages/backendإذا كنت تقوم بتحرير حزمة الواجهة الأمامية مباشرةً، من مجلد الحزم/الواجهة الأمامية:
$ pnpm watch
سنضيف طريقة للسماح للمستخدم بتنظيف بيئته: راجع الإصدار رقم 469. في الوقت الحالي، يرجى النظر في الإجراءات التالية:
$HOME/podman-desktop/ai-labيوفر الامتداد افتراضيًا قائمة منسقة من الوصفات والنماذج والفئات. ومع ذلك، هذا النظام قابل للتوسيع ويمكنك تحديد النظام الخاص بك.
لتحسين الكتالوج الحالي، يمكنك إنشاء ملف موجود في مجلد تخزين الامتداد $HOME/.local/share/containers/podman-desktop/extensions-storage/redhat.ai-lab/user-catalog.json .
ويجب أن يتبع نفس تنسيق الكتالوج الافتراضي في مصادر الامتداد.
السلوك الافتراضي هو إلحاق عناصر كتالوج المستخدم بالعنصر الافتراضي.
️ كل عنصر (وصفات أو نماذج أو فئات) له معرف فريد، وعندما يتم العثور على تعارض بين الكتالوج الافتراضي وكتالوج المستخدم، تقوم عناصر المستخدم بالكتابة فوق الإعدادات الافتراضية.
يمكن إضافة نماذج التطبيقات إلى الكتالوج. راجع دليل التغليف للحصول على معلومات مفصلة.
خريطة الطريق مفتوحة دائمًا ونحن نبحث عن تعليقاتك. يرجى إنشاء إصدارات جديدة والتصويت على القضايا التي تشعر أنها الأكثر أهمية بالنسبة لك.
سنعمل على العناصر التالية:
يمكنك تقديم ملاحظاتك حول الامتداد باستخدام هذا النموذج أو إنشاء مشكلة في هذا المستودع.
