يعمل هذا المشروع الشامل على تبسيط دورة حياة تطبيقات نماذج اللغات الكبيرة (LLM)، بما في ذلك التطوير والإنتاج والنشر. يحتوي المستودع على مجلدات وملفات كمكونات للمشروع، مثل الوكلاء وواجهات برمجة التطبيقات والسلاسل وروبوتات الدردشة وGROQ (لغة استعلام) ونماذج Hugging Face وObjectBox (قاعدة بيانات مضمنة) ونماذج OpenAI وتوليد الاسترجاع المعزز (RAG). ) نماذج . يهدف المشروع إلى توفير حل شامل للعمل مع LLMs، يغطي معالجة البيانات، وتطوير chatbot، والتكامل مع الأدوات والأطر المختلفة.
يوضح هذا المشروع إنشاء روبوت الدردشة باستخدام نماذج اللغات واسعة النطاق (LLMs) المدفوعة والمفتوحة المصدر عبر Langchain وOllama. ويغطي دورة الحياة الكاملة لتطبيقات LLM، بما في ذلك التطوير والإنتاج والنشر.
نعم. جميع واجهات برمجة التطبيقات سرية، مع وصول مقيد للمستخدم و.gitignore مجهول المصدر وطبقة أخرى من الأمان من خلال بيئات Github السرية (عذرًا! سيتعين عليك استخدام بيئتك الخاصة!)
conda create -p venv python==3.10 -y
venv S cripts a ctivate
pip install -r requirements.txt
قم بتكوين مفاتيح وإعدادات API الضرورية في ملف app.py
python app.py
افتح متصفح الويب وانتقل إلى (أو المنفذ التقدمي المخصص على جهاز الكمبيوتر الخاص بك). خاصتي هي أن:
http://localhost:8502
نقوم بإنشاء الملف عن طريق استدعاء الوظائف المتسلسلة الثلاثة الرئيسية لروبوت الدردشة الأساسي الخاص بنا.
نقوم بتحميل متطلبات الوحدات والمكتبات:
نقوم بتشغيل app.py الخاص بنا
ننتهي من تكوين app.py
وتشغيله
يقوم بإرجاع المسار وفتح المضيف في متصفح الاختبار
Local URL: http://localhost:8502
Network URL: http://192.168.100.30:8502
دعونا نتحقق من الصفحة:
دعونا نراجع المشروع في إطار عمل Langchain:
دعونا نلقي نظرة على هيكل الإخراج كما نحدده:
نحن ننظر إلى StrOutputParser بالتفصيل:
سنسألك عن "توفير كود بايثون الذي يتبادل قيمتين" لتقييم التكلفة والترميز ووقت التأخير لحل السؤال:
*proveeme de un código python que swapee 2 valores.*
:
# Definir los dos valores a intercambiar
a = 5
b = 10
print ( "Valores originales:" )
print ( "a =" , a )
print ( "b =" , b )
# Intercambiar los valores
temp = a
a = b
b = temp
print ( " n Valores intercambiados:" )
print ( "a =" , a )
print ( "b =" , b )
أخيرًا نقوم بإنشاء استعلام مشترك:
""سؤال":"متى نبدأ بتنظيف أسنان الجراء؟"
سنقوم بتحميل Llamama على وجه التحديد عن طريق تنزيل Llama2 على جهاز الكمبيوتر الخاص بنا لتشغيله من بيئتي المحلية
أفتح كمد
ollama run llama2
نقوم بتنزيل llama2
Llama2
مقارنة بتلك التي تم إنشاؤها باستخدام gpt3.5 turbo
يتضمن المشروع مقارنة بين GPT-3.5-turbo من OpenAI ونموذج Llama2 المُدار محليًا:
نحن نستخدم Langsmith على Langchain لمراقبة:
نرحب دائمًا بالمساهمات لتحسين برنامج الدردشة الآلي أو توسيع قدراته. يرجى تقديم طلبات السحب أو فتح القضايا لأية تحسينات.
#### هل تريد أن تتعلم؟ أرسل لي رسالة مباشرة!
هذا المشروع مفتوح المصدر ومتاح بموجب ترخيص MIT.