تنزيل langstream - تنزيل رمز المصدر langstream

langstream

شفرة المصدر الأخرى

v0.6.2

تنزيل

Langstream

تحقق من موقعنا على الويب.

لديك سؤال؟ انضم إلى مجتمعنا على الركود أو الكتان!

للحصول على الوثائق الكاملة ، انتقل هنا.

احصل على امتداد Langstream vs Code هنا.

محتويات

Langstream
- CLI
- جرب تطبيق العينة
- قم بإنشاء تطبيقك الخاص
- قم بتشغيل Langstream على Kubernetes
  - نشر جاهز للإنتاج
  - النشر المحلي
- تطوير

CLI

يتطلب تحذير CLI أن يتم تثبيت Java 11+ بالفعل على جهازك.

تثبيت

هناك طرق متعددة لتثبيت CLI.

ماكوس:

البيرة

 brew install LangStream/langstream/langstream

ثنائي مع حليقة

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

يونيكس:

ثنائي مع حليقة

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

تحقق من أن الثنائي متاح:

 langstream -V

الرجوع إلى وثائق CLI لمعرفة المزيد.

جرب تطبيق العينة

قم بتشغيل تطبيق إكمال الدردشة في حالة حدوث:

 export OPEN_AI_ACCESS_KEY=your-key-here
langstream docker run test 
   -app https://github.com/LangStream/langstream/blob/main/examples/applications/openai-completions 
   -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

في نافذة طرفية مختلفة:

langstream gateway chat test -cg consume-output -pg produce-input -p sessionId= $( uuidgen )

شاهد المزيد من تطبيقات العينة في مجلد الأمثلة.

قم بإنشاء تطبيقك الخاص

لإنشاء تطبيقك الخاص ، راجع وثائق المطور.

قم بتشغيل Langstream على Kubernetes

Langstream جاهز للإنتاج ، ويقترح بشكل كبير نشره على مجموعة Kubernetes. يتم دعم توزيعات Kubernetes التالية:

أمازون eks
Azure aks
Google GKE
Minikube

لتشغيل مجموعة langstream ، تحتاج إلى المكونات الخارجية التالية:

Apache Kafka أو Apache Pulsar Cluster
S3 التخزين المتوافق مع API أو تخزين Blob Azure (Amazon S3 ، Google Cloud Storage ، Azure Blob Storage ، Minio)

نشر جاهز للإنتاج

لتثبيت Langstream ، يمكنك استخدام مخطط langstream Helm:

 helm repo add langstream https://langstream.ai/charts
helm repo update

ثم قم بإنشاء ملف القيم. في هذه المرحلة ، تحتاج بالفعل إلى تشغيل خدمة التخزين.

في حال كنت تستخدم S3 ، يمكنك استخدام القيم التالية:

 codeStorage :
  type : s3
  configuration :
    access-key : <aws-access-key>
    secret-key : <aws-secret-key>

ل Azure:

 codeStorage :
  type : azure
  configuration :
    endpoint : https://<storage-account>.blob.core.windows.net
    container : langstream
    storage-account-name : <storage-account>
    storage-account-key : <storage-account-key>

الآن قم بتثبيت Langstream معها:

 helm install -n langstream --create-namespace langstream langstream/langstream --values values.yaml
kubectl wait -n langstream deployment/langstream-control-plane --for condition=available --timeout=300s

النشر المحلي

لإنشاء مجموعة محلية Langstream ، يوصى باستخدام Minikube. يأتي mini-langstream للمساعدة في تثبيت المجموعة المحلية وإدارتها.

لتثبيت mini-langstream :

ماكوس:

brew install LangStream/langstream/mini-langstream

يونيكس:

curl -Ls " https://raw.githubusercontent.com/LangStream/langstream/main/mini-langstream/get-mini-langstream.sh " | bash

ثم بدء تشغيل المجموعة:

mini-langstream start

نشر طلب:

 export OPEN_AI_ACCESS_KEY= < your-openai-api-key >
mini-langstream cli apps deploy my-app -app https://github.com/LangStream/langstream/tree/main/examples/applications/openai-completions -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

لوقف المجموعة: