Unduhan ChatPilot - Unduhan kode sumber ChatPilot

ChatPilot

Kode Sumber AI

0.1.2

Unduh

??Cina |

ChatPilot: UI Web Agen Obrolan

ChatPilot : WebUI Agen Obrolan, mengimplementasikan dialog AgentChat, mendukung pencarian Google, dialog URL file (RAG), fungsi penerjemah kode, mereproduksi Kimi Chat (file, seret masuk; URL, kirim), mendukung OpenAI/Azure API.

Fitur

Proyek ini mengimplementasikan panggilan Asisten Agen berdasarkan Agentica dan mendukung fungsi berikut:
- Panggilan alat: Agen Dukungan memanggil alat eksternal
  - Alat pencarian internet: Google Search API (Serper/DuckDuckGo)
  - Alat penguraian otomatis URL: mereproduksi fungsi pengiriman URL Obrolan Kimi
  - Penerjemah kode Python: mendukung lingkungan virtual E2B dan lingkungan kompiler python lokal untuk menjalankan kode
- Akses ganda LLM: mendukung beberapa model LLM untuk diakses dengan berbagai cara, termasuk menggunakan API Ollama untuk mengakses berbagai model sumber terbuka lokal; menggunakan API litellm untuk mengakses berbagai model penerapan layanan cloud;
- RAG: Agen Dukungan memanggil Tanya Jawab file RAG
Mendukung pemisahan layanan front-end dan back-end. Front-end menggunakan Svelte dan back-end menggunakan FastAPI.
Mendukung input dan output suara, mendukung pembuatan gambar
Mendukung manajemen pengguna, kontrol izin, mendukung impor dan ekspor catatan obrolan

Demo

Demo Resmi: https://chat.mulanai.com

Memulai

Jalankan ChatPilot di Docker

 export OPENAI_API_KEY=sk-xxx
export OPENAI_BASE_URL=https://xxx/v1

docker run -it 
 -e OPENAI_API_KEY= $WORKSPACE_BASE 
 -e OPENAI_BASE_URL= $OPENAI_BASE_URL 
 -e RAG_EMBEDDING_MODEL= " text-embedding-ada-002 " 
 -p 8080:8080 --name chatpilot- $( date +%Y%m%d%H%M%S ) shibing624/chatpilot:0.0.1

Anda akan menemukan ChatPilot berjalan di http://0.0.0.0:8080 Selamat menikmati!

Mulai layanan secara lokal

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot
pip install -r requirements.txt

# Copying required .env file, and fill in the LLM api key
cp .env.example .env

bash start.sh

Oke, sekarang aplikasi Anda sedang berjalan: http://0.0.0.0:8080 Selamat menikmati!

Membangun web front-end

Dua cara untuk membangun front end:

Unduh buid.zip front-end yang telah dikemas dan dikompilasi dan ekstrak ke direktori web proyek.
Jika Anda memodifikasi kode front-end web, Anda perlu menggunakan npm untuk membangun kembali front-end sendiri:

git clone https://github.com/shibing624/ChatPilot.git
cd ChatPilot/

# Building Frontend Using Node.js >= 20.10
cd web
npm install
npm run build

Keluaran: Direktori web proyek mengeluarkan folder build , yang berisi file keluaran kompilasi front-end.

Akses berganda LLM

Gunakan OpenAI API untuk mengakses model seri GPT

Gunakan OpenAI API untuk mengonfigurasi variabel lingkungan:

 export OPENAI_API_KEY=xxx
export OPENAI_BASE_URL=https://api.openai.com/v1
export MODEL_TYPE= " openai "

Jika Anda menggunakan Azure OpenAI API, Anda perlu mengonfigurasi variabel lingkungan berikut:

 export AZURE_OPENAI_API_KEY=
export AZURE_OPENAI_API_VERSION=
export AZURE_OPENAI_ENDPOINT=
export MODEL_TYPE= " azure "

Gunakan Ollama API untuk terhubung ke berbagai model sumber terbuka lokal

Mulai layanan ollama dengan ollama serve , lalu konfigurasikan OLLAMA_API_URL : export OLLAMA_API_URL=http://localhost:11413

Gunakan litelm API untuk mengakses setiap model penerapan layanan cloud

Instal paket litellm :

pip install litellm -U

Ubah file konfigurasi

File konfigurasi litellm default chatpilot ada di ~/.cache/chatpilot/data/litellm/config.yaml

Ubah isinya sebagai berikut:

 model_list :
#  - model_name: moonshot-v1-auto # show model name in the UI
#    litellm_params: # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
#      model: openai/moonshot-v1-auto # MODEL NAME sent to `litellm.completion()` #
#      api_base: https://api.moonshot.cn/v1
#      api_key: sk-xx
#      rpm: 500      # [OPTIONAL] Rate limit for this deployment: in requests per minute (rpm)

  - model_name : deepseek-ai/DeepSeek-Coder # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : openai/deepseek-coder # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.deepseek.com/v1
      api_key : sk-xx
      rpm : 500
  - model_name : openai/o1-mini # show model name in the UI
    litellm_params : # all params accepted by litellm.completion() - https://docs.litellm.ai/docs/completion/input
      model : o1-mini # MODEL NAME sent to `litellm.completion()` #
      api_base : https://api.61798.cn/v1
      api_key : sk-xxx
      rpm : 500
litellm_settings : # module level litellm settings - https://github.com/BerriAI/litellm/blob/main/litellm/__init__.py
  drop_params : True
  set_verbose : False

Kontak

Masalah (saran):
Email saya: xuming: [email protected]
WeChat Saya: Tambahkan ID WeChat saya: xuming624, Keterangan: Nama-Perusahaan-NLP untuk bergabung dengan grup komunikasi NLP.

Kutipan

Jika Anda menggunakan ChatPilot dalam penelitian Anda, harap kutip dalam format berikut:

APA:

Xu, M. ChatPilot: LLM agent toolkit (Version 0.0.2) [Computer software]. https://github.com/shibing624/ChatPilot

BibTeX:

@misc{ChatPilot,
  author = {Ming Xu},
  title = {ChatPilot: llm agent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = { url {https://github.com/shibing624/ChatPilot}},
}

Lisensi

Perjanjian lisensinya adalah The Apache License 2.0, yang gratis untuk penggunaan komersial. Harap lampirkan tautan ke ChatPilot dan perjanjian lisensi di deskripsi produk.

Menyumbang

Kode proyek masih sangat kasar. Jika Anda memiliki perbaikan pada kode tersebut, Anda dipersilakan untuk mengirimkannya kembali ke proyek ini. Sebelum mengirimkan, harap perhatikan dua poin berikut:

Tambahkan pengujian unit yang sesuai dalam tests
Gunakan python -m pytest -v untuk menjalankan semua pengujian unit guna memastikan bahwa semua pengujian unit lulus

Anda kemudian dapat mengirimkan PR.