Chat2Anything

Chat2Anything

| . github |

Chat2Anything ist ein großes Modell-Wissensdatenbank-Frage- und Antwortsystem für unternehmensinterne Umgebungen. Es verfügt über die folgenden Funktionen:

• Es umfasst den Client (Chat2Anything) und das Backend-Managementsystem (Chat2Anything Admin). Das Backend-Managementsystem ist für die Erstellung und Verwaltung der großen Modell-Wissensdatenbank verantwortlich. Benutzer können unternehmensinternes Wissen (Langchain-Mechanismus) zum großen Modell hinzufügen Hochladen von Excel-, Word-, PDF- und anderen Dateien ; das Verwaltungssystem umfasst vollständige Benutzerberechtigungen, Rollen, Organisationen, Datenwörterbuchverwaltung und andere Funktionen

• Unterstützt gängige große Modelle wie ChatGPT, ChatGLM und Vicuna. Benutzer können bei Verwendung von ChatGLM und Vicuna jederzeit eine vollständige private Domänenbereitstellung und eine 100 % interne Verbreitung von Unternehmensdaten erreichen

• Unterstützt den Zugriff auf die Datenbank des Geschäftssystems, die manuelle/automatische Auswahl von Tabellen, die an der Abfrageanalyse beteiligt sind, und Text2SQL basierend auf Benutzerproblembeschreibungen (zu verbessern) und Abfrageergebnisse werden automatisch ausgeführt und visualisiert (zu entwickeln)

  
  

einsetzen

Chat2Anything (Client)

1. Konfigurieren Sie ChatGLM (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) und andere große Modelle, z. B. die Verwendung von ChatGPT, lokal in Chat2Anything/configs/ openai_config. Konfigurieren Sie OPENAI_API_KEY und OPENAI_API_BASE in der py-Datei

2. Controller ausführen:

   python3 -m fastchat.serve.controller

3. Führen Sie model_worker aus (ChatGLM-6B, ChatGLM2-6B empfohlen (https://github.com/THUDM/ChatGLM2-6B)):

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   oder

   Führen Sie model_worker (vicuna) aus:

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. Führen Sie den Client-Webserver aus

   python3 -m fastchat.serve.chat2anything_web_server

   Wenn Sie ChatGPT verwenden, fügen Sie den Startparameter --add-chatgpt hinzu

5. Grundlegende Testumgebung

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

Chat2Anything Admin (Backend-Verwaltungsterminal)

1. Datenbankkonfiguration (MySQL):

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. Modellbezogene Konfiguration:

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. Datenbankinitialisierung:

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. laufen:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

Verwandte Projekte

Schätzen Sie die folgenden Beiträge:

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/chatglm2-6b
• chatchat-space/langchain-ChatGLM
• Birnen-Verwaltungsflasche