Загрузка ChatPilot - Загрузка исходного кода ChatPilot

ChatPilot

AI Исходный код

0.1.2

Скачать

??Китайский английский |

ChatPilot: веб-интерфейс агента чата

ChatPilot : веб-интерфейс агента чата, реализует диалог AgentChat, поддерживает поиск Google, диалог URL-адреса файла (RAG), функцию интерпретатора кода, воспроизводит чат Kimi (файл, перетаскивание; URL-адрес, отправка), поддерживает OpenAI/Azure API.

Функции

Этот проект реализует вызов Agent Assistant на основе Agentica и поддерживает следующие функции:
- Вызов инструмента: агент службы поддержки вызывает внешние инструменты.
  - Инструмент поиска в Интернете: API поиска Google (Serper/DuckDuckGo)
  - Инструмент автоматического анализа URL-адресов: воспроизводит функцию отправки URL-адреса Kimi Chat.
  - Интерпретатор кода Python: поддерживает виртуальную среду E2B и локальную среду компилятора Python для запуска кода.
- Множественный доступ к LLM: поддерживает доступ к нескольким моделям LLM разными способами, включая использование API Ollama для доступа к различным локальным моделям с открытым исходным кодом, использование API Litellm для доступа к различным моделям развертывания облачных сервисов, использование API OpenAI для доступа к моделям серии GPT;
- RAG: агент службы поддержки вызывает вопросы и ответы по файлу RAG.
Поддерживает разделение внешних и внутренних служб. Внешний интерфейс использует Svelte, а внутренний — FastAPI.
Поддержка голосового ввода и вывода, поддержка генерации изображений
Поддержка управления пользователями, контроль разрешений, поддержка импорта и экспорта записей чата.

Демо

Официальная демо-версия: https://chat.mulanai.com

Начиная

Запустите ChatPilot в Docker

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

Вы найдете ChatPilot, работающий по адресу http://0.0.0.0:8080. Понравилось?

Запустить службу локально

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

Хорошо, теперь ваше приложение работает: http://0.0.0.0:8080 Понравилось?

Создайте интерфейсный веб-сайт

Два способа построения внешнего интерфейса:

Загрузите упакованный и скомпилированный интерфейсный файл buid.zip и распакуйте его в веб-каталог проекта.
Если вы измените код веб-интерфейса, вам нужно будет использовать npm, чтобы перестроить интерфейс самостоятельно:

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

Вывод: web каталог проекта выводит папку build , содержащую выходной файл внешней компиляции.

Множественный доступ к LLM

Используйте OpenAI API для доступа к моделям серии GPT.

Используйте OpenAI API для настройки переменных среды:

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

Если вы используете Azure OpenAI API, вам необходимо настроить следующие переменные среды:

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure "

Используйте API Ollama для подключения к различным локальным моделям с открытым исходным кодом.

Запустите службу ollama с помощью ollama serve , а затем настройте OLLAMA_API_URL : export OLLAMA_API_URL=http://localhost:11413

Используйте API-интерфейс Litellm для доступа к каждой модели развертывания облачных сервисов.

Установите пакет litellm :

pip install litellm -U

Изменить файл конфигурации

Конфигурационный файл Litellm для chatpilot по умолчанию находится в ~/.cache/chatpilot/data/litellm/config.yaml

Измените его содержимое следующим образом:

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False

Контакт

Проблема (предложение):
Напишите мне: xuming: [email protected]
WeChat Me: добавьте мой идентификатор WeChat: xuming624, примечания: имя-компания-NLP, чтобы присоединиться к коммуникационной группе NLP.

Цитирование

Если вы используете ChatPilot в своем исследовании, укажите его в следующем формате:

АПА:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

БибТекс:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}

Лицензия

Лицензионное соглашение — это лицензия Apache 2.0, которая бесплатна для коммерческого использования. Пожалуйста, прикрепите ссылку на ChatPilot и лицензионное соглашение в описание продукта.

Способствовать

Код проекта все еще очень сырой. Если у вас есть какие-либо улучшения кода, вы можете отправить его обратно в этот проект. Перед отправкой обратите внимание на следующие два момента:

Добавьте соответствующие модульные тесты в tests
Используйте python -m pytest -v для запуска всех модульных тестов и убедитесь, что все модульные тесты пройдены.

Затем вы можете отправить PR.