تحميل fastagent - تنزيل كود المصدر fastagent

fastagent

كود الذكاء الاصطناعي

1.0.0

تنزيل

com.fastagent

Fastagent: أداة تجعل من السهل إرسال وكيلك إلى الإنتاج

التوثيق

تحذير

FastAgent حاليًا قيد التطوير النشط وفي مرحلة ألفا. وهو يفتقر حاليًا إلى ميزات أمان SSL وCORS، بالإضافة إلى الاختبار الشامل اللازم لنشر الإنتاج.

تثبيت

يمكنك تثبيت المشروع باستخدام النقطة: (متاح على PyPI قريبًا)

pip install git+https://github.com/bastienpo/fastagent.git

كيفية استخدام المشروع

أولاً، قم بإنشاء تطبيق LangChain بسيط.

لنقم بإنشاء ملف app.py باستخدام أبسط سلسلة langchain قابلة للتشغيل، والتي تتكون من نموذج لغة كبير فقط.

 # pip install -qU langchain-mistralai and requires MISTRAL_API_KEY in to be set
from langchain_mistralai import ChatMistralAI

chain = ChatMistralAI ( model = "ministral-3b-latest" )

بعد ذلك، تحتاج إلى تهيئة ملف تكوين fastagent (fastagent.toml) باستخدام الأمر التالي:

fastagent init

ستحتاج إلى تحديث حقل التطبيق في قسم المشروع ليتوافق مع مسار طلبك في النموذج:

<module_path>:<module_attribute> في حالتك سيكون myapplication.app:chain

إذا قررت استخدام قاعدة بيانات في التكوين الخاص بك، فيمكنك استخدام أمر setup لإنشاء الجداول وإعداد قاعدة البيانات.

fastagent setup

عندما تكون جاهزًا للتطوير أو الشحن، يمكنك بدء خادم الإنتاج:

fastagent dev # fastagent run

الفرق بين أمر dev و run هو أن dev سيعيد تحميل الخادم عند تغيير التعليمات البرمجية ويسجل الدخول إلى وحدة التحكم، بينما سينشئ run صورة عامل إرساء ويخدم التطبيق.

سمات

وهذه هي خريطة الطريق الحالية للمشروع:

يسمح المشروع بإعداد خادم بسيط لوكيلك. إنه يدعم فقط langchain وpostgresql لتخزين محادثاتك وبيانات المصادقة.
يسمح بإعداد مصادقة وتفويض بسيط يعتمد على الرمز المميز.
يمكنك تكوين برامج وسيطة مختلفة مثل CORS والترخيص وتحديد المعدل.

ما هي الخطوة التالية؟

ملحوظة

هذا المشروع لا يزال قيد التطوير النشط والتصميم عرضة للتغيير. أنا أفعل ذلك كمشروع شخصي فقط لأنني كنت أشعر بالفضول بشأن كيفية إرسال وكيل إلى الإنتاج. لا تتردد في المساهمة أو إبداء الرأي. أنا منفتح حقًا على أي اقتراح.

المستقبل القريب: