Chat2Anything

Chat2N'importe quoi

|

Chat2Anything est un système de questions et réponses de base de connaissances à grand modèle (LLM) pour les environnements internes d'entreprise. Il a les fonctions suivantes :

• Il comprend le client (Chat2Anything) et le système de gestion backend (Chat2Anything Admin). Le système de gestion backend est responsable de la création et de la gestion de la base de connaissances du grand modèle. Les utilisateurs peuvent ajouter des connaissances internes à l'entreprise (mécanisme Langchain) au grand modèle. téléchargement de fichiers Excel, Word, PDF et autres ); le système de gestion comprend les autorisations complètes des utilisateurs, les rôles, les organisations, la gestion du dictionnaire de données et d'autres fonctions.

• Prend en charge les grands modèles courants tels que ChatGPT, ChatGLM et Vicuna. Les utilisateurs peuvent changer de grands modèles à tout moment lorsqu'ils utilisent ChatGLM et Vicuna, l'ensemble du système peut réaliser un déploiement complet de domaine privé et une circulation interne à 100 % des données d'entreprise.

• Prend en charge l'accès à la base de données du système d'entreprise, la sélection manuelle/automatique des tables impliquées dans l'analyse des requêtes et text2SQL basé sur les descriptions des problèmes des utilisateurs (à améliorer), et les résultats des requêtes sont automatiquement exécutés et visualisés (à développer)

  
  

déployer

Chat2Anything (client)

1. Configurez localement ChatGLM (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) et d'autres grands modèles, tels que l'utilisation de ChatGPT, dans Chat2Anything/configs/ openai_config. Configurez OPENAI_API_KEY et OPENAI_API_BASE dans le fichier py.

2. Exécuter le contrôleur :

   python3 -m fastchat.serve.controller

3. Exécutez model_worker (ChatGLM-6B, ChatGLM2-6B recommandé (https://github.com/THUDM/ChatGLM2-6B)) :

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   ou

   Exécutez model_worker (vicuna) :

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. Exécuter le serveur Web client

   python3 -m fastchat.serve.chat2anything_web_server

   Si vous utilisez ChatGPT, ajoutez le paramètre de démarrage --add-chatgpt

5. Environnement de test de base

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

Chat2Anything Admin (terminal de gestion backend)

1. Configuration de la base de données (MySQL) :

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. Configuration liée au modèle :

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. Initialisation de la base de données :

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. courir:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

Projets associés

Apprécions les contributions suivantes :

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/chatglm2-6b
• espace chatchat/langchain-ChatGLM
• Flacon d'administration poire