الذاكرة طويلة المدى llm

LLM القائم على RAG باستخدام الذاكرة طويلة المدى من خلال قاعدة بيانات المتجهات

وصف

يمكّن هذا المستودع نموذج اللغة الكبير من استخدام الذاكرة طويلة المدى من خلال قاعدة بيانات متجهة (تسمى هذه الطريقة RAG (الجيل المعزز للاسترجاع) - وهي تقنية تسمح لـ LLM باسترداد الحقائق من قاعدة بيانات خارجية). تم إنشاء التطبيق باستخدام Mistral-7b-instruct-v0.2.Q4_K_M.gguf (باستخدام ربط LLAMA_cpp_python) وchromadb. يمكن للمستخدم أن يطلب باللغة الطبيعية إضافة معلومات إلى قاعدة البيانات، أو العثور على معلومات من قاعدة البيانات أو الإنترنت باستخدام الإرشادات.

الميزات الحالية:

إضافة ذاكرة جديدة: إضافة معلومات (بين علامتي الاقتباس) باللغة الطبيعية إلى قاعدة البيانات
ذاكرة الاستعلام: طلب معلومات من قاعدة بيانات باللغة الطبيعية
بحث الويب (تجريبي): ابحث عن المعلومات من الإنترنت باللغة الطبيعية

رسم بياني:

رسم بياني

مثال:

 You > Hi
LOG: [Response]
Bot < Hello! How can I assist you today?
You > Please add information to db "The user name is Rustam Akimov"
LOG: [Adding to memory]
Bot < Done!
You > Can you find on the Internet who is Pavel Durov
LOG: [Extracting question]
LOG: [Searching]
LOG: [Summarizing]
Bot < According to the search results provided, Pavel Durov is a Russian entrepreneur who co-founded Telegram Messenger Inc.
You > Please find information in db who is Rustam Akimov
LOG: [Extracting question]
LOG: [Querying memory]
Bot < According to the input memories, your name is Rustam Akimov.