llm starter pack
1.0.0
لقد قمنا بصياغة بعض البرامج النصية لتشغيل هذا العرض التوضيحي في أسرع وقت ممكن على جهازك بمجرد تثبيت المتطلبات الأساسية.
هذا البرنامج النصي سوف:
ملاحظة: بعد تطبيق بيانات Kubernetes، ستستغرق مجموعتنا حوالي 3-4 دقائق لتنزيل الصور وتهيئة LLM وبدء التطبيقات. يمكنك مراقبة حالة القرون عن طريق تشغيل
kubectl get pods
./startup.shبعد ذلك، يمكننا تثبيت التطبيق التجريبي الذي يستخدم LLM.
./demo.shإذا كنت تريد إزالة التطبيق التجريبي أو هدمه فقط، فيمكنك تشغيله
./teardown.shلإيقاف العرض التوضيحي، قم بتشغيل الأمر التالي، والذي سوف:
./shutdown.shتم اختبار هذا العرض التوضيحي على أنظمة التشغيل التالية وسيعمل إذا كانت لديك المتطلبات الأساسية مثبتة.
تم توقيع هذه الصور بعلامة sigstore. يمكنك التحقق من التوقيع عن طريق تنزيل مفتاح cosign.pub من هذا الريبو وتشغيل الأمر التالي:
cosign verify --key cosign.pub ghcr.io/cncf/llm-starter-pack:latest إذا كنت تقوم بتعديل هذا الريبو، فيجب عليك قراءة المستندات الخاصة بحفظ الأسرار في جيثب. تحتاج إلى إنشاء زوج مفاتيح جديد باستخدام cosign . يمكن أن يكون المفتاح العام في الريبو العام الخاص بك (يحتاجه المستخدمون للتحقق من التوقيعات)، ويمكنك لصق المفتاح الخاص في الإعدادات -> الأسرار -> الإجراءات.
نود أن نشكر Docker على مشاركة العرض التوضيحي لـ GenAI Stack معنا. لقد استخدمنا العرض التوضيحي الخاص بهم كنقطة انطلاق لهذا العرض التوضيحي. يمكنك العثور على العرض التوضيحي الخاص بهم هنا.
نود أيضًا أن نشكر Weaveworks على مشروع Weaveworks Scope الذي استخدمناه للمساعدة في تصور مجموعة Kubernetes الخاصة بنا. يمكنك العثور على مشروعهم هنا.
