hal9
1.0.0
قم بإنشاء ونشر تطبيقات توليدية (LLMs وناشرون) (chatbots وAPIs) في ثوانٍ.
input() و print() أو كتابة ملف على القرص.التركيز على الذكاء الاصطناعي (RAG، الضبط الدقيق، المحاذاة، التدريب) وتخطي المهام الهندسية (تطوير الواجهة الأمامية، تكامل الواجهة الخلفية، النشر، العمليات).
قم بإنشاء ومشاركة chatbot في ثوانٍ كما يلي:
pip install hal9
hal9 create chatbot
hal9 deploy chatbot لاحظ أن deploy يحتاج إلى متغير بيئة HAL9_TOKEN مع رمز API المميز الذي يمكنك الحصول عليه من hal9.com/devs. يمكنك استخدام هذا الرمز المميز للنشر من جهاز الكمبيوتر المحلي لديك أو جهاز كمبيوتر محمول أو التشغيل الآلي من GitHub.
HAL9_TOKEN=H9YOURTOKEN hal9 deploy chatbot --name my_first_chatbotبهذه السهولة، قمت بإنشاء أول برنامج دردشة آلي خاص بك!
يحتوي الكود الموجود داخل /chatbot/app.py على برنامج chatbot "Hello World" الذي يقرأ مطالبة المستخدم ويعيد صدى النتيجة مرة أخرى:
prompt = input ()
print ( f"Echo: { prompt } " )لقد صممنا هذه الحزمة مع وضع البساطة في الاعتبار، فوظيفة الكود هي قراءة المدخلات وكتابة المخرجات، هذا كل ما في الأمر. ومع ذلك، يمكنك إنشاء روبوتات الدردشة التي تستخدم LLMs، أو إنشاء صور، أو حتى استخدام الأدوات التي تتصل بقواعد البيانات، أو حتى إنشاء مواقع الويب والألعاب!
افتراضيًا، hal9 create الإعدادات الافتراضية لقالب --template echo ، ولكن يمكنك اختيار إعدادات مختلفة كما يلي:
hal9 create chatbot-openai --template openai
hal9 create chatbot-groq --template groq يوفر القالب تعليمات برمجية جاهزة للاستخدام مع تقنيات وحالات استخدام محددة. من الشائع جدًا استخدام قالب ChatGPT الشبيه بـ OpenAI مع --template openai ، وسيبدو الكود الذي تم إنشاؤه كما يلي:
import hal9 as h9
from openai import OpenAI
messages = h9 . load ( "messages" , [])
prompt = h9 . input ( messages = messages )
completions = OpenAI (). chat . completions . create ( model = "gpt-4" , messages = messages , stream = True )
h9 . complete ( completions , messages = messages )
h9 . save ( "messages" , messages , hidden = True ) يشرح قسم التعلم بالتفصيل كيفية عمل هذا الرمز، ولكنه سيوفر نظرة عامة سريعة. تحتوي حزمة hal9 على وظائف مساعدة لتبسيط كود الذكاء الاصطناعي التوليدي الخاص بك. يمكنك اختيار عدم استخدام hal9 على الإطلاق واستخدام عبارات input() و print() بنفسك، أو حتى مقاضاة أدوات مثل langchain . تعمل الوظيفتان h9.load() و h9.save() على تحميل البيانات وحفظها عبر جلسات الدردشة، وتكون منصتنا عديمة الحالة افتراضيًا. الدالة h9.input() عبارة عن غلاف رفيع فوق input() يقوم أيضًا بتخزين إدخال المستخدم في messages . ثم h9.complete() هي وظيفة مساعدة للمساعدة في تحليل نتائج الإكمال وحفظ النتيجة في messages . هذا كل ما في الأمر!
لإجراء تغييرات على مشروعك، افتح chatbot/ في IDE الخاص بك وقم بتعديل chatbot/app.py .
يمكنك بعد ذلك تشغيل مشروعك كما يلي:
hal9 run chatbot إذا قمت بتخصيص القالب الخاص بك باستخدام --template فتأكد من تعيين المفتاح الصحيح، على سبيل المثال، إذا كنت تستخدم قالب OpenAI، استخدم Linux أو macOS:
export OPENAI_KEY=YOUR_OPENAI_KEY.لاستخدام ويندوز:
set OPENAI_KEY=YOUR_OPENAI_KEY.لمزيد من المعلومات حول الحصول على مفتاح OpenAI API واستخدامه، يرجى الرجوع إلى وثائق OpenAI API Key.
يمكنك بعد ذلك تشغيل تطبيقك محليًا باستخدام:
hal9 run chatbot يعد هذا الأمر مجرد أداة مجمعة لتشغيل التعليمات البرمجية بنفسك باستخدام شيء مثل python app.py .
سيقوم أمر النشر بالتحضير لنشر تطبيقك المولد.
على سبيل المثال، يمكنك إعداد النشر كتطبيق مولد (Hal9). لدينا خطط أيضًا لتوفير النشر إلى Docker ويمكن لمجتمع المصادر المفتوحة توسيع هذا الأمر بشكل أكبر.
hal9 deploy chatbot --target hal9 كل أمر مكلف بإعداد نشر مجلد المشروع الخاص بك. على سبيل المثال، يجب على --target docker إنشاء ملف Dockerfile الذي يجعل هذا المشروع جاهزًا للتشغيل في الحاويات السحابية.
للاستخدام الشخصي، يدعم --target hal9 الطبقة المجانية على hal9.com ؛ يتوفر أيضًا دعم المؤسسات للنشر باستخدام --target hal9 --url hal9.yourcompany.com
