instinct.cpp

غريزة.cpp

instinct.cpp عبارة عن مجموعة أدوات لتطوير التطبيقات التي تعمل بنظام LLM.

هذا المشروع قيد التطوير النشط ولم يصل إلى مرحلة GA من الإصدار الرئيسي الأول. انظر المزيد في قسم خريطة الطريق.

سمات

ما تقدمه instinct.cpp :

• التطبيقات التي تعمل خارج الصندوق.
  • خادم API المساعد: خدمة الوكيل المتوافقة تمامًا مع API المساعد الخاص بـ OpenAI.
    • mini-assistant-api: ثنائي واحد لنشر عقدة واحدة مع قاعدة بيانات متجهة وتبعيات أخرى مجمعة.
    • mighty-assistant-api : ( WIP ) تطبيق سحابي أصلي قابل للتطوير بشكل كبير من خلال المكونات الموزعة ودعم المستأجرين المتعددين.
  • chat-agent: تطبيق CLI يقوم بإنشاء فهرس المعرفة باستخدام مستنداتك (PDF، TXT، MD، ...) وتشغيل خادم HTTP متوافق تمامًا مع OpenAI ChatCompletion .
• أطر عمل لبناء التطبيقات المستندة إلى LLM. قل ذلك langchain.cpp .
  • التكامل مع موفري خدمات LLM الذين يهتمون بالخصوصية أولاً: دعم مدمج لـ Ollama وغيرها من خدمات واجهة برمجة التطبيقات المتوافقة مع OpenAI مثل vllm وخادم llama.cpp وnitro والمزيد.
  • العناصر الأساسية لأنماط التطبيقات الشائعة مثل Chatbot وRAG وLLM Agent.
  • مكونات التسلسل الوظيفية لخطوط أنابيب LLM القابلة للتركيب.
  • أنماط الوكيل: ReACT، وكيل الأدوات المستند إلى OpenAI، LLMCompiler، ...

أدلة المستخدم

للتطبيقات المضمنة:

• مساعد صغير API
• وكيل الوثيقة

للمكتبة نفسها:

• مكتبة غريزة.cpp

خريطة الطريق

يتم تتبع خطة المشروع الكاملة في مشروع كانبان.

منعطف	سمات	دي دي إل
v0.1.0	ذاكرة طويلة وقصيرة، برنامج استيعاب PDF/TXT/DOCX، نموذج البرمجة Chain ، تطبيق RAG المرجعي doc-agent	3.29
v0.1.1	ضبط الأداء، وتقييم RAG، ووكيل استدعاء الوظائف	4.16
v0.1.2	التنفيذ الأولي لـ OpenAI Assistant API، mini-assistant للتطبيق المرجعي الفردي الثنائي	4.30
v0.1.3	* mini-assistant : استدعاءات الأدوات مع LLMs مفتوحة المصدر	5.17
v0.1.4	* doc-agent : إعادة ترتيب النموذج * mini-assistant : دعم أداة file-search .	6.18 6.14
v0.1.5	التحسين الشامل	6.30
v0.1.6	code-interpreter في mini-assistant	7.15

المساهمات هي موضع ترحيب! يمكنك الانضمام إلى خادم الخلاف، أو الاتصال بي عبر البريد الإلكتروني.

شكر وتقدير

لا يمكن أن يكون هذا المشروع ممكنًا دون متابعة المشاريع الرائعة.

• bshoshany-thread-pool
• base64
• chatllm.cpp
• قائمة الانتظار المتزامنة
• com.cpptrace
• com.corssguid
• CPP-httplib
• duckx
• دك دي بي
• exprtk
• fmt
• com.fmtlog
• hash_library
• وحدة العناية المركزة
• inja
• libcurl
• llama.cpp
• nlohmann_json
• بروتوبوف
• pdfium
• reactiveplusplus
• TSL-أمرت الخريطة
• com.uniparser

ولكم جزيل الشكر نقاط التدريب المشتركة من:

• https://huggingface.co/BAAI/bge-m3
• https://huggingface.co/BAAI/bge-reranker-v2-m3

يتم فرز القوائم أبجديا.