nvidia NIM RAG

RAG باستخدام NVIDIA NIM مع LangChain

ملخص

يوضح هذا المشروع قوة وبساطة NVIDIA NIM (NVIDIA Inference Model)، وهي مجموعة من الخدمات السحابية الصغيرة المحسنة، من خلال إعداد وتشغيل خط أنابيب توليد الاسترجاع المعزز (RAG). تم تصميم NVIDIA NIM لتبسيط عملية النشر ووقت طرح نماذج الذكاء الاصطناعي التوليدية في الأسواق عبر بيئات مختلفة، بما في ذلك المنصات السحابية ومراكز البيانات ومحطات العمل المتسارعة بواسطة وحدة معالجة الرسومات. من خلال استخلاص تعقيدات تطوير نموذج الذكاء الاصطناعي والاستفادة من واجهات برمجة التطبيقات المتوافقة مع معايير الصناعة، تجعل NIM تقنيات الذكاء الاصطناعي المتقدمة في متناول مجموعة واسعة من المطورين.

ابدء

المتطلبات الأساسية

• بايثون 3.8 أو أعلى
• النقطة و Virtualenv
• مفتاح API من https://build.nvidia.com/mistralai/mixtral-8x7b-instruct

تثبيت

1. استنساخ المستودع

    git clone https://github.com/mickymultani/nvidia-NIM-RAG.git
   cd nvidia-NIM-RAG
   

2. قم بإعداد بيئة افتراضية

   قم بإنشاء بيئة افتراضية باسم nvidia :

    python -m venv nvidia
   

   تفعيل البيئة الافتراضية:

   • على نظام التشغيل Windows:

     nvidia S cripts a ctivate

   • على نظام التشغيل MacOS/Linux:

      source nvidia/bin/activate
     

3. تثبيت التبعيات

   قم بتثبيت الحزم المطلوبة باستخدام النقطة:

    pip install -r requirements.txt
   

4. متغيرات البيئة

   أنشئ ملف .env في الدليل الجذر للمشروع، وأضف مفتاح NVIDIA API الخاص بك:

    NVIDIA_API_KEY=your_nvidia_api_key_here
   

   استبدل your_nvidia_api_key_here بمفتاح NVIDIA API الفعلي.

الاستخدام

لتشغيل المشروع قم بتنفيذ الأمر التالي:

python nim.py

المساهمة

المساهمات في هذا المشروع هي موضع ترحيب!

رخصة

وزعت بموجب ترخيص معهد ماساتشوستس للتكنولوجيا.