ChatPilot

??الصينية |

---

ChatPilot: واجهة مستخدم الويب لوكيل الدردشة

ChatPilot : Chat Agent WebUI، ينفذ حوار AgentChat، ويدعم بحث Google، وحوار عنوان URL للملف (RAG)، ووظيفة مترجم التعليمات البرمجية، ويعيد إنتاج Kimi Chat (ملف، اسحب للداخل، URL، أرسل)، ويدعم OpenAI/Azure API.

سمات

• يطبق هذا المشروع استدعاء Agent Assistant استنادًا إلى Agentica ويدعم الوظائف التالية:
  • استدعاء الأداة: وكيل الدعم يستدعي الأدوات الخارجية
    • أداة البحث على الإنترنت: Google Search API (Serper/DuckDuckGo)
    • أداة التحليل التلقائي لعنوان URL: تستنسخ وظيفة إرسال عنوان URL لـ Kimi Chat
    • مترجم كود بايثون: يدعم البيئة الافتراضية E2B وبيئة مترجم بايثون المحلية لتشغيل التعليمات البرمجية
  • الوصول المتعدد إلى LLM: يدعم نماذج LLM المتعددة التي يمكن الوصول إليها بطرق متعددة، بما في ذلك استخدام Olma API للوصول إلى نماذج محلية مفتوحة المصدر مختلفة؛ واستخدام Litellm API للوصول إلى نماذج نشر الخدمات السحابية المختلفة باستخدام OpenAI API للوصول إلى نماذج سلسلة GPT
  • RAG: وكيل الدعم الذي يتصل بملف RAG للأسئلة والأجوبة
• يدعم الفصل بين الخدمات الأمامية والخلفية. تستخدم الواجهة الأمامية Svelte وتستخدم الواجهة الخلفية FastAPI.
• دعم الإدخال والإخراج الصوتي، ودعم توليد الصور
• دعم إدارة المستخدم والتحكم في الأذونات ودعم استيراد وتصدير سجلات الدردشة

تجريبي

العرض الرسمي: https://chat.mulanai.com

ابدء

قم بتشغيل ChatPilot في Docker

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

ستجد ChatPilot قيد التشغيل على http://0.0.0.0:8080 استمتع؟

ابدأ الخدمة محليًا

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

حسنًا، تطبيقك قيد التشغيل الآن: http://0.0.0.0:8080 استمتع؟

بناء شبكة أمامية

طريقتان لبناء الواجهة الأمامية:

1. قم بتنزيل الواجهة الأمامية المعبأة والمترجمة buid.zip واستخرجها إلى دليل الويب الخاص بالمشروع.
2. إذا قمت بتعديل كود الواجهة الأمامية للويب، فستحتاج إلى استخدام npm لإعادة بناء الواجهة الأمامية بنفسك:

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

الإخراج: يقوم دليل web الخاص بالمشروع بإخراج مجلد build ، الذي يحتوي على ملف إخراج التحويل البرمجي للواجهة الأمامية.

الوصول إلى LLM متعددة

استخدم OpenAI API للوصول إلى نماذج سلسلة GPT

• استخدم OpenAI API لتكوين متغيرات البيئة:

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

• إذا كنت تستخدم Azure OpenAI API، فستحتاج إلى تكوين متغيرات البيئة التالية:

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure " 

استخدم Ollama API للاتصال بالعديد من النماذج المحلية مفتوحة المصدر

ابدأ تشغيل خدمة ollama باستخدام ollama serve ، ثم قم بتكوين OLLAMA_API_URL : export OLLAMA_API_URL=http://localhost:11413

استخدم Litellm API للوصول إلى كل نموذج نشر للخدمات السحابية

1. تثبيت حزمة litellm :

pip install litellm -U

2. تعديل ملف التكوين

ملف تكوين Litellm الافتراضي لـ chatpilot موجود في ~/.cache/chatpilot/data/litellm/config.yaml

تعديل محتواه على النحو التالي:

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False 

اتصال

• المشكلة (الاقتراح):
• أرسل لي بريدًا إلكترونيًا: xuming: [email protected]
• WeChat Me: أضف معرف WeChat الخاص بي: xuming624، ملاحظات: الاسم-الشركة-NLP للانضمام إلى مجموعة اتصالات البرمجة اللغوية العصبية.

الاقتباس

إذا كنت تستخدم ChatPilot في بحثك، فيرجى الاستشهاد به بالتنسيق التالي:

أبا:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

بيبيتكس:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}

رخصة

اتفاقية الترخيص هي ترخيص Apache 2.0، وهو مجاني للاستخدام التجاري. يرجى إرفاق الرابط إلى ChatPilot واتفاقية الترخيص في وصف المنتج.

يساهم

لا يزال كود المشروع تقريبيًا للغاية. إذا كان لديك أي تحسينات على الكود، فنحن نرحب بإعادته إلى هذا المشروع قبل الإرسال، يرجى الانتباه إلى النقطتين التاليتين:

• إضافة اختبارات الوحدة المقابلة في tests
• استخدم python -m pytest -v لتشغيل جميع اختبارات الوحدة للتأكد من اجتياز جميع اختبارات الوحدة

يمكنك بعد ذلك تقديم العلاقات العامة.

مرجع

• افتح واجهة ويب
• langchain-ai/langchain
• shibing624/agentica