ดาวน์โหลด ChatPilot - ดาวน์โหลดซอร์สโค้ด ChatPilot

ChatPilot

โค้ดแหล่งที่มา AI

0.1.2

ดาวน์โหลด

??จีน | . อังกฤษ

ChatPilot: UI เว็บตัวแทนการแชท

ChatPilot : Chat Agent WebUI, ใช้บทสนทนา AgentChat, รองรับการค้นหาโดย Google, กล่องโต้ตอบ URL ของไฟล์ (RAG), ฟังก์ชันล่ามโค้ด, สร้าง Kimi Chat ซ้ำ (ไฟล์, ลากเข้า, URL, ส่งออก) รองรับ OpenAI/Azure API

คุณสมบัติ

โปรเจ็กต์นี้ใช้การเรียก Agent Assistant ตาม Agentica และรองรับฟังก์ชันต่อไปนี้:
- การเรียกเครื่องมือ: ตัวแทนฝ่ายสนับสนุนกำลังเรียกเครื่องมือภายนอก
  - เครื่องมือค้นหาทางอินเทอร์เน็ต: Google Search API (Serper/DuckDuckGo)
  - เครื่องมือแยกวิเคราะห์ URL อัตโนมัติ: สร้างฟังก์ชันการส่ง URL ของ Kimi Chat อีกครั้ง
  - ล่ามรหัส Python: รองรับสภาพแวดล้อมเสมือน E2B และสภาพแวดล้อมคอมไพเลอร์หลามท้องถิ่นเพื่อเรียกใช้โค้ด
- การเข้าถึง LLM หลายรายการ: รองรับการเข้าถึง LLM หลายรูปแบบได้หลายวิธี รวมถึงการใช้ Ollama API เพื่อเข้าถึงโมเดลโอเพ่นซอร์สในพื้นที่ต่างๆ การใช้ litelm API เพื่อเข้าถึงโมเดลการปรับใช้บริการคลาวด์ต่างๆ โดยใช้ OpenAI API เพื่อเข้าถึงโมเดลซีรีส์ GPT
- RAG: ตัวแทนฝ่ายสนับสนุนที่เรียกไฟล์ RAG ถามและตอบ
รองรับการแยกบริการส่วนหน้าและส่วนหลังใช้ Svelte และส่วนหลังใช้ FastAPI
รองรับอินพุตและเอาต์พุตเสียงสนับสนุนการสร้างภาพ
รองรับการจัดการผู้ใช้ การควบคุมสิทธิ์ รองรับการนำเข้าและส่งออกบันทึกการแชท

สาธิต

การสาธิตอย่างเป็นทางการ: https://chat.mulanai.com

เริ่มต้นใช้งาน

เรียกใช้ ChatPilot ใน Docker

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

คุณจะพบว่า ChatPilot ทำงานอยู่ที่ http://0.0.0.0:8080 สนุก!

เริ่มให้บริการในพื้นที่

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

เอาล่ะ ขณะนี้แอปพลิเคชันของคุณกำลังทำงานอยู่: http://0.0.0.0:8080 สนุก!

สร้างเว็บส่วนหน้า

สองวิธีในการสร้างส่วนหน้า:

ดาวน์โหลด buid.zip ส่วนหน้าแบบแพ็กเกจและคอมไพล์แล้ว และแยกไปยังไดเร็กทอรีเว็บของโปรเจ็กต์
หากคุณแก้ไขโค้ดส่วนหน้าของเว็บ คุณต้องใช้ npm เพื่อสร้างส่วนหน้าใหม่ด้วยตนเอง:

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

เอาต์พุต: web ไดเร็กทอรีของโปรเจ็กต์จะส่งออกโฟลเดอร์ build ซึ่งมีไฟล์เอาต์พุตการคอมไพล์ส่วนหน้า

การเข้าถึง LLM หลายครั้ง

ใช้ OpenAI API เพื่อเข้าถึงโมเดลซีรีส์ GPT

ใช้ OpenAI API เพื่อกำหนดค่าตัวแปรสภาพแวดล้อม:

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

หากคุณใช้ Azure OpenAI API คุณจะต้องกำหนดค่าตัวแปรสภาพแวดล้อมต่อไปนี้:

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure "

ใช้ Ollama API เพื่อเชื่อมต่อกับโมเดลโอเพ่นซอร์สในเครื่องต่างๆ

เริ่มบริการ ollama ด้วย ollama serve จากนั้นกำหนดค่า OLLAMA_API_URL : export OLLAMA_API_URL=http://localhost:11413

ใช้ litellm API เพื่อเข้าถึงโมเดลการปรับใช้บริการคลาวด์แต่ละโมเดล

ติดตั้งแพ็คเกจ litellm :

pip install litellm -U

แก้ไขไฟล์การกำหนดค่า

ไฟล์กำหนดค่าเริ่มต้น litellm ของ chatpilot อยู่ใน ~/.cache/chatpilot/data/litellm/config.yaml

แก้ไขเนื้อหาดังต่อไปนี้:

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False

ติดต่อ

ปัญหา(ข้อเสนอแนะ):
ส่งอีเมลถึงฉัน: xuming: [email protected]
WeChat Me: เพิ่ม WeChat ID ของฉัน: xuming624 หมายเหตุ: ชื่อ-บริษัท-NLP เพื่อเข้าร่วมกลุ่มการสื่อสาร NLP

การอ้างอิง

หากคุณใช้ ChatPilot ในการวิจัย โปรดอ้างอิงในรูปแบบต่อไปนี้:

เอพีเอ:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

บิบเท็กซ์:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}