ChatPilot下載 - ChatPilot原始碼下載

ChatPilot

Ai源碼

0.1.2

下載

??中文| English

ChatPilot: Chat Agent Web UI

ChatPilot : Chat Agent WebUI, 實現了AgentChat對話，支援Google搜尋、文件網址對話（RAG）、代碼解釋器功能，復現Kimi Chat(文件，拖進來；網址，發出來)，支援OpenAI/Azure API。

Features

本專案基於Agentica實現了Agent Assistant調用，支援以下功能：
- 工具呼叫：支援Agent呼叫外部工具
  - 網路搜尋工具：Google Search API（Serper/DuckDuckGo）
  - URL自動解析工具：復現了Kimi Chat網址發出功能
  - Python直譯器：支援E2B虛擬環境與本機python編譯器環境運行程式碼
- 多種LLM接入：支援多種LLM模型以多方式接入，包括使用Ollama Api接入各種本地開源模型；使用litellm Api接入各雲端服務部署模型；使用OpenAI Api接入GPT系列模型
- RAG：支援Agent呼叫RAG檔問答
支援前後端服務分離，前端使用Svelte，後端使用FastAPI
支援語音輸入輸出，支援影像生成
支援使用者管理，權限控制，支援聊天記錄匯入匯出

Demo

Official Demo: https://chat.mulanai.com

Getting Started

Run ChatPilot in Docker

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

You'll find ChatPilot running at http://0.0.0.0:8080 Enjoy! ?

本地啟動服務

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

好了，現在你的應用程式正在運行：http://0.0.0.0:8080 Enjoy! ?

建構前端web

兩種方法建構前端：

下載打包並編譯好的前端buid.zip 解壓縮到專案web目錄下。
如果修改了web前端程式碼，需要自己使用npm重新建構前端：

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

輸出：專案web目錄產出build資料夾，包含了前端編譯輸出檔。

多種LLM接入

使用OpenAI Api接取GPT系列模型

使用OpenAI API，配置環境變數：

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

如果使用Azure OpenAI API，需要設定以下環境變數：

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure "

使用Ollama Api接取各種本地開源模型

以ollama serve啟動ollama服務，然後設定OLLAMA_API_URL ： export OLLAMA_API_URL=http://localhost:11413

使用litellm Api接入各雲端服務部署模型

安裝litellm套件：

pip install litellm -U

修改設定檔

chatpilot預設的litellm config檔在~/.cache/chatpilot/data/litellm/config.yaml

修改其內容如下：

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False

Contact

Issue(建議)：
mail我：xuming: [email protected]
微信我：加我微訊號：xuming624, 備註：姓名-公司-NLP進NLP交流群。

Citation

如果你在研究中使用了ChatPilot，請按以下格式引用：

APA:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

BibTeX:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}