ChatPilot 다운로드 - ChatPilot 소스 코드 다운로드

ChatPilot

AI 소스 코드

0.1.2

다운로드

??중국어 |

ChatPilot: 채팅 에이전트 웹 UI

ChatPilot : Chat Agent WebUI, AgentChat 대화 구현, Google 검색 지원, 파일 URL 대화(RAG), 코드 해석기 기능, Kimi Chat(파일, 드래그인, URL, 보내기) 재현, OpenAI/Azure API 지원.

특징

본 프로젝트는 Agentica를 기반으로 Agent Assistant 통화를 구현하고 다음 기능을 지원합니다.
- 도구 호출: 외부 도구를 호출하는 지원 에이전트
  - 인터넷 검색 도구: Google 검색 API(Serper/DuckDuckGo)
  - URL 자동 구문 분석 도구: Kimi Chat URL 전송 기능을 재현합니다.
  - Python 코드 인터프리터: E2B 가상 환경 및 로컬 Python 컴파일러 환경을 지원하여 코드 실행
- 다중 LLM 액세스: Ollama API를 사용하여 다양한 로컬 오픈 소스 모델에 액세스하는 등 다양한 LLM 모델에 액세스할 수 있도록 지원합니다. OpenAI API를 사용하여 GPT 시리즈 모델에 액세스합니다.
- RAG: RAG 파일 Q&A에 전화하는 지원 상담원
프런트엔드와 백엔드 서비스 분리를 지원합니다. 프런트엔드는 Svelte를 사용하고 백엔드는 FastAPI를 사용합니다.
음성 입력 및 출력 지원, 이미지 생성 지원
사용자 관리, 권한 제어 지원, 채팅 기록 가져오기 및 내보내기 지원

데모

공식 데모: https://chat.mulanai.com

시작하기

Docker에서 ChatPilot 실행

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

http://0.0.0.0:8080에서 ChatPilot이 실행되는 것을 볼 수 있습니다.

로컬에서 서비스 시작

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

좋습니다. 이제 애플리케이션이 실행됩니다. http://0.0.0.0:8080 즐겨보세요!

프런트엔드 웹 구축

프런트엔드를 구축하는 두 가지 방법:

패키지되고 컴파일된 프런트엔드 buid.zip을 다운로드하여 프로젝트 웹 디렉터리에 추출합니다.
웹 프런트엔드 코드를 수정하는 경우 npm을 사용하여 프런트엔드를 직접 다시 빌드해야 합니다.

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

출력: 프로젝트 web 디렉터리는 프런트 엔드 컴파일 출력 파일이 포함된 build 폴더를 출력합니다.

다중 LLM 액세스

OpenAI API를 사용하여 GPT 시리즈 모델에 액세스

OpenAI API를 사용하여 환경 변수를 구성합니다.

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

Azure OpenAI API를 사용하는 경우 다음 환경 변수를 구성해야 합니다.

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure "

Ollama API를 사용하여 다양한 로컬 오픈소스 모델에 연결

ollama serve 로 ollama 서비스를 시작한 다음 OLLAMA_API_URL 구성합니다. export OLLAMA_API_URL=http://localhost:11413

litellm API를 사용하여 각 클라우드 서비스 배포 모델에 액세스

litellm 패키지를 설치합니다:

pip install litellm -U

구성 파일 수정

chatpilot 의 기본 litellm 구성 파일은 ~/.cache/chatpilot/data/litellm/config.yaml 에 있습니다.

내용을 다음과 같이 수정합니다.

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False

연락하다

문제(제안):
이메일: xuming: [email protected]
WeChat Me: NLP 커뮤니케이션 그룹에 참여하려면 내 WeChat ID: xuming624, 비고: Name-Company-NLP를 추가하세요.

소환

연구에 ChatPilot을 사용하는 경우 다음 형식으로 인용해 주세요.

아파:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

BibTeX:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}