Chat2Anything

Obrolan2 Apa Saja

| .github |

Chat2Anything adalah sistem tanya jawab basis pengetahuan model besar (LLM) untuk lingkungan internal perusahaan. Ia memiliki fungsi berikut:

• Ini mencakup klien (Chat2Anything) dan sistem manajemen backend (Chat2Anything Admin). Sistem manajemen backend bertanggung jawab atas pembuatan dan pengelolaan basis pengetahuan model besar. Pengguna dapat menambahkan pengetahuan internal perusahaan (mekanisme Langchain) ke model besar mengunggah file Excel, Word, PDF, dan lainnya. ); sistem manajemen mencakup izin pengguna lengkap, peran, organisasi, manajemen kamus data, dan fungsi lainnya

• Mendukung model besar arus utama seperti ChatGPT, ChatGLM, dan Vicuna. Pengguna dapat mengganti model besar kapan saja saat menggunakan ChatGLM dan Vicuna, seluruh sistem dapat mencapai penerapan domain pribadi yang lengkap, dan 100% sirkulasi internal data perusahaan;

• Mendukung akses database sistem bisnis, pemilihan tabel manual/otomatis yang terlibat dalam analisis kueri, dan text2SQL berdasarkan deskripsi masalah pengguna (untuk ditingkatkan), dan hasil kueri secara otomatis dieksekusi dan divisualisasikan (untuk dikembangkan)

  
  

menyebarkan

Chat2Apa saja (klien)

1. Konfigurasikan ChatGLM secara lokal (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) dan model besar lainnya, seperti menggunakan ChatGPT, di Chat2Anything/configs/ openai_config.Konfigurasi OPENAI_API_KEY dan OPENAI_API_BASE di file py

2. Jalankan pengontrol:

   python3 -m fastchat.serve.controller

3. Jalankan model_worker (ChatGLM-6B, disarankan ChatGLM2-6B (https://github.com/THUDM/ChatGLM2-6B)):

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   atau

   Jalankan model_worker (vicuna):

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. Jalankan server web klien

   python3 -m fastchat.serve.chat2anything_web_server

   Jika menggunakan ChatGPT, tambahkan parameter startup --add-chatgpt

5. Lingkungan pengujian dasar

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

Admin Chat2Anything (terminal manajemen backend)

1. Konfigurasi basis data (MySQL):

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. Konfigurasi terkait model:

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. Inisialisasi basis data:

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. berlari:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

Proyek terkait

Hargai kontribusi berikut:

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/obrolan2-6b
• chatchat-space/langchain-ChatGLM
• Labu Admin Pir