Chat2Anything

Чат2Что угодно

| гитхаб |

Chat2Anything — это система вопросов и ответов базы знаний большой модели (LLM) для внутренних сред предприятия. Она имеет следующие функции:

• Он включает в себя клиент (Chat2Anything) и внутреннюю систему управления (Chat2Anything Admin). Внутренняя система управления отвечает за создание и управление базой знаний большой модели. Пользователи могут добавлять внутренние знания компании (механизм Langchain) к большой модели. загрузка файлов Excel, Word, PDF и других ); система управления включает в себя полные права пользователей, роли, организации, управление словарем данных и другие функции.

• Поддерживает основные крупные модели, такие как ChatGPT, ChatGLM и Vicuna. Пользователи могут переключать большие модели в любое время. При использовании ChatGLM и Vicuna вся система может обеспечить полное развертывание частного домена и 100% внутреннюю циркуляцию корпоративных данных.

• Поддерживает доступ к базе данных бизнес-системы, ручной/автоматический выбор таблиц, участвующих в анализе запросов, и text2SQL на основе описаний проблем пользователя (будет улучшено), а результаты запросов автоматически выполняются и визуализируются (будут разработаны).

  
  

развертывать

Chat2Anything (клиент)

1. Локально настройте ChatGLM (https://github.com/THUDM/ChatGLM-6B)/Vicuna (https://github.com/lm-sys/FastChat) и другие крупные модели, например с использованием ChatGPT, в Chat2Anything/configs/. openai_config. Настройте OPENAI_API_KEY и OPENAI_API_BASE в файле py.

2. Запустите контроллер:

   python3 -m fastchat.serve.controller

3. Запустите model_worker (рекомендуется ChatGLM-6B, ChatGLM2-6B (https://github.com/THUDM/ChatGLM2-6B)):

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   или

   Запустите model_worker (викуна):

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. Запустить клиентский веб-сервер

   python3 -m fastchat.serve.chat2anything_web_server

   Если вы используете ChatGPT, добавьте параметр запуска --add-chatgpt.

5. Базовая тестовая среда

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

Chat2Anything Admin (терминал управления серверной частью)

1. Конфигурация базы данных (MySQL):

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. Конфигурация, связанная с моделью:

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. Инициализация базы данных:

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. бегать:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

Связанные проекты

Оцените следующие вклады:

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/chatglm2-6b
• чат-пространство/langchain-ChatGLM
• Груша Административная колба