الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

llama_rag_system

ملخص

يعد نظام LLAMA_RAG_SYSTEM نظامًا قويًا للتوليد (RAG) الذي تم تجوله في الاسترجاع المصمم للاستجابة بشكل تفاعلي لاستعلامات المستخدم مع الإجابات الغنية ذات الصلة بالسياق. تم تصميم هذا النظام باستخدام نموذج Llama و Ollama ، ويمكنه التعامل مع مختلف المهام ، بما في ذلك الإجابة على الأسئلة العامة ، وتلخيص المحتوى ، واستخراج المعلومات من مستندات PDF المحمّلة. تستخدم الهندسة المعمارية chromadb لتضمين المستندات الفعالة واسترجاعها ، مع دمج إمكانيات تجريف الويب لجلب المعلومات من الإنترنت.

إليك لمحة عن واجهة تطبيق Gradio:

؟ يرجى ملاحظة: هذا المشروع قيد التطوير حاليًا. ملاحظاتك ومساهماتك مرحب بها!

سمات

  • تنفيذ النموذج المحلي مع Ollama : يستخدم Ollama لتشغيل نموذج Llama محليًا ، مما يضمن استجابات أسرع وتعزيز الخصوصية. من خلال الحفاظ على معالجة البيانات المحلية ، يمكن للمستخدمين الحفاظ على التحكم في معلوماتهم دون إرسالها إلى خوادم خارجية.
  • تجريف الويب للحصول على إجابات محدثة : قم بإخلاص الإنترنت لتوفير المعلومات ذات الصلة في الوقت الفعلي ، مما يسمح للنظام بتقديم استجابات دقيقة بناءً على أحدث البيانات.
  • معالجة مستندات PDF : تحميل ملفات PDF لاستخراج النص التلقائي والتضمين.
  • معالجة الاستعلام الديناميكي : يكتشف تلقائيًا نوع استعلامات المستخدم (الأسئلة العامة ، الملخص ، شيت الدردشة ، إلخ) ويوفر الاستجابات المناسبة.
  • واجهات Gradio و Flask : واجهات ويب سهلة الاستخدام للتفاعل مع النموذج وتحميل المستندات.
  • التضمينات المخصصة : يستخدم chromadb لتخزين واسترداد ضمانات المستند بكفاءة.

لماذا تستخدم أولاما؟

يعد Ollama خيارًا ممتازًا لتشغيل نماذج التعلم الآلي محليًا لعدة أسباب:

  • الخصوصية : يضمن تشغيل النموذج على البنية التحتية المحلية أن البيانات الحساسة تظل ضمن بيئة المستخدم ، مما يقلل من مخاطر انتهاكات البيانات أو التسريبات.
  • الأداء : التنفيذ المحلي يقلل من زمن الوصول ، مما يسمح بأوقات استجابة أسرع مقارنة بالحلول المستندة إلى مجموعة النظراء.
  • التخصيص : يمكن للمستخدمين ضبط النموذج لتلبية الاحتياجات المحددة دون الاعتماد على مقدمي الخدمات الخارجية.

هيكل المجلد

تم تنظيم المشروع على النحو التالي: 

 project/
├── core/
│   ├── embedding.py             # Embedding-related functionality
│   ├── document_utils.py        # Functions to handle document loading and processing
│   ├── query.py                 # Query document functionality
│   ├── generate.py              # Response generation logic
│   ├── web_scrape.py            # Web scraping functionality
│
├── scripts/
│   ├── run_flask.py             # Script to run Flask API
│   ├── run_gradio.py            # Script to run Gradio interface
│
├── chromadb_setup.py            # ChromaDB setup and connection
│
├── README.md                    # Project documentation

تثبيت

لإعداد LLAMA_RAG_SYSTEM ، اتبع هذه الخطوات:

  1. استنساخ المستودع: 

    git clone https://github.com/NimaVahdat/Llama_RAG_System.git
cd Llama_RAG_System

  2. تأكد من تشغيل ChromadB وأي خدمات أخرى ضرورية حسب الحاجة.

الاستخدام

تشغيل قارورة API

لبدء API Flask ، قم بتشغيل الأمر التالي: 

python -m scripts.run_flask

تشغيل واجهة Gradio

لإطلاق واجهة Gradio ، تنفيذ: 

python -m scripts.run_gradio

بعد تشغيل أي من البرنامج النصي ، ستتمكن من التفاعل مع النظام عبر واجهة الويب المقدمة.

المساهمة

المساهمات مرحب بها! إذا كانت لديك اقتراحات للتحسينات أو الميزات ، فيرجى توتر المستودع وتقديم طلب سحب.

رخصة

تم ترخيص هذا المشروع بموجب ترخيص معهد ماساتشوستس للتكنولوجيا - راجع ملف الترخيص للحصول على التفاصيل.

شكر وتقدير

  • لاما للعمارة النموذجية الأساسية.
  • Ollama للتنفيذ المحلي لنماذج التعلم الآلي ، وتعزيز الخصوصية والأداء.
  • Gradio للواجهة التفاعلية.
  • ChromadB لتخزين المستندات الفعالة واسترجاعها.

اتصال

لأي استفسارات أو دعم ، يرجى الاتصال بي.

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل