LLMstudio

LLMstudio بواسطة TensorOps

الهندسة السريعة في متناول يدك

؟ سمات

• LLM Proxy Access : وصول سلس إلى أحدث برامج LLM من OpenAI وAnthropic وGoogle.
• دعم LLM مخصص ومحلي : استخدم LLM مخصص أو محلي مفتوح المصدر من خلال Ollama.
• واجهة المستخدم السريعة للملعب : واجهة سهلة الاستخدام للهندسة وضبط المطالبات الخاصة بك.
• Python SDK : يمكنك دمج LLMstudio بسهولة في سير العمل الحالي لديك.
• المراقبة والتسجيل : تتبع استخدامك وأدائك لجميع الطلبات.
• تكامل LangChain : يتكامل LLMstudio مع مشاريع LangChain الموجودة بالفعل.
• الاتصال الجماعي : أرسل طلبات متعددة مرة واحدة لتحسين الكفاءة.
• التوجيه الذكي والاحتياطي : تأكد من التوفر على مدار الساعة طوال أيام الأسبوع عن طريق توجيه طلباتك إلى LLMs الموثوق بهم.
• نوع الإرسال (قريبًا) : تحويل أنواع البيانات حسب الحاجة لحالة الاستخدام المحددة الخاصة بك.

بداية سريعة

لا تنس مراجعة صفحة https://docs.llmstudio.ai.

تثبيت

قم بتثبيت أحدث إصدار من LLMstudio باستخدام pip . نقترح عليك إنشاء وتنشيط بيئة جديدة باستخدام conda

للنسخة الكاملة:

pip install ' llmstudio[proxy,tracker] '

للإصدار الخفيف (الأساسي):

pip install llmstudio

قم بإنشاء ملف .env على نفس المسار الذي ستقوم بتشغيل LLMstudio فيه

OPENAI_API_KEY= " sk-api_key "
ANTHROPIC_API_KEY= " sk-api_key "
VERTEXAI_KEY= " sk-api-key "

الآن يجب أن تكون قادرًا على تشغيل LLMstudio باستخدام الأمر التالي.

llmstudio server --proxy --tracker

عند تعيين علامة --proxy ، ستتمكن من الوصول إلى Swagger على http://0.0.0.0:50001/docs (المنفذ الافتراضي)

عند تعيين علامة --tracker ، ستتمكن من الوصول إلى Swagger على http://0.0.0.0:50002/docs (المنفذ الافتراضي)

التوثيق

• قم بزيارة مستنداتنا للتعرف على كيفية عمل SDK (قريبًا)
• تحقق من أمثلة دفاتر الملاحظات الخاصة بنا للمتابعة مع البرامج التعليمية التفاعلية

‍ المساهمة

• انتقل إلى دليل المساهمة الخاص بنا لمعرفة كيف يمكنك مساعدة LLMstudio.
• انضم إلى Discord للتحدث مع عشاق LLMstudio الآخرين.

تمرين

---

شكرا لاختيارك LLMstudio. رحلتك لإتقان تفاعلات الذكاء الاصطناعي تبدأ هنا.