ChatPLUG: персонализированная модель большого языка на китайском языке

Это репозиторий проекта ChatPLUG, целью которого является создание и распространение китайской диалоговой системы с открытым доменом.

爱用emoji的萌妹子小婉	富有智慧的得道高僧	会说古文的的三国NPC关羽

Новости

ChatPLUG-13B скоро будет опубликован на ModelScope для исследования.
[23.05.2023] Добавлены руководства по поиску и ролевым играм.
[2023/05/10] Добавьте обучающий код, который поможет быстро и легко обучать пользовательские модели и создавать чат-ботов.
[26.04.2023] Попробуйте нашу онлайн-демонстрацию ролевого чата в ModelScope прямо сейчас!
[2023/04/19] Добавьте контент, включая основные моменты, результаты и ограничения. Загрузите модели в ModelScope.
[2023/04/16] Инициализируйте проект.

Онлайн-демо

Ролевая игра-чат

Прожекторы

прожекторы

По сравнению с существующими моделями с открытым исходным кодом мы выделяем три особенности ChatPLUG:

Расширение знаний

В процессе вывода можно гибко интегрировать внешние знания, и это необязательный вход. Вы можете использовать search engine для получения актуальной информации или использовать местную базу знаний для получения знаний в предметной области.

Персонализация

Стиль разговоров и персонажей легко настроить, настроив bot profiles или используя role-paly instructions .

Мультинавыки

Он демонстрирует свое мастерство в открытом диалоге посредством многоходовой беседы, а также демонстрирует впечатляющие multi-task abilities при решении широкого спектра задач НЛП.

Как бежать

Мы предлагаем три метода использования или продолжения разработки ChatPLUG:

	Начиная	Вывод	Тренироваться	Развертывать
МодельОбъем	Легкий	✔️ Кли	Не готов	Не готов
ОбниматьЛицо	Середина	✔️ Кли	Не готов	Не готов
XDPX	Жесткий	✔️ Кли	✔️ Поддержка	✔️ Сервировка

МодельОбъем

Вы можете загрузить и использовать модели ChatPLUG из ModelScope.

Название модели	URL-адрес
ЧатПЛУГ-240М	ChatPLUG-开放域对话模型-240M
ЧатPLUG-3.7B	ChatPLUG-开放域对话模型-3.7B

ОбниматьЛицо

Вскоре.

XDPX

XDPX — это простая в использовании библиотека, которая позволяет исследователям и разработчикам упрощенно обучать собственные модели и создавать собственных чат-ботов. Его функциональность «все в одном» позволяет найти универсальное решение, которое упрощает сложные процессы. быстрый старт

Вывод в один клик

При использовании ChatPLUG-3.7B вы можете установить core_chat_half_precision : true для экономии памяти.

 # Requirement
# in the dir of XDPX
cd XDPX
pip install -e .

# Download checkpoints
# in the same dir as the download.sh
cd ..
sh download.sh

# Inference
# in the dir of XDPX
cd XDPX
CUDA_VISIBLE_DEVICES=0 x-script fidchat_new chat_pipeline/chatplug_3.7B_sftv2.6.0_instruction.hjson
# input `#exit` and exit the terminal

Поезд в один клик

Если ваш графический процессор (например, A100, A10) поддерживает bf16, установите deepspeed_bf16: true и deepspeed_fp16: false , в противном случае установите deepspeed_bf16: false и deepspeed_fp16: true

 # 1. Download dataset from belle
# in ChatPLUG/data/belle dir
cd data/belle
git lfs install
git clone https://huggingface.co/datasets/BelleGroup/train_0.5M_CN

python process_belle_0.5M.py 
# $ls data/belle 
# train_0.jsonl dev.jsonl ...

# 2. Preprocess Data 
# in XDPX dir
x-prepro chat_pipeline/chatplug_prepro_sft_instruction.hjson
# $ls data/dialogue/sft/chatplug/belle_instruction 
# train_0.pt dev.pt

# 3. Training
# in XDPX dir
x-train chat_pipeline/chatplug_3.7B_train_sftv2.6.0_instruction.hjson

Развертывание в один клик

Вскоре.

Установка

Инструкции по установке см. в разделе «Установка».

Подробные руководства пользователя можно найти в нашей документации:

Руководства пользователя
- Быстрый старт
- Поиск
- Ролевые игры
Расширенные руководства
- Введение
- Обучение
- Развивать
- Часто задаваемые вопросы

Цитаты

Если наш проект окажется полезным для вашей работы, пожалуйста, укажите:

  @misc{tian2023chatplug,
        title={ChatPLUG: Open-Domain Generative Dialogue System with Internet-Augmented Instruction Tuning for Digital Human}, 
        author={Junfeng Tian and Hehong Chen and Guohai Xu and Ming Yan and Xing Gao and Jianhai Zhang and Chenliang Li and Jiayi Liu and Wenshen Xu and Haiyang Xu and Qi Qian and Wei Wang and Qinghao Ye and Jiejing Zhang and Ji Zhang and Fei Huang and Jingren Zhou},
        year={2023},
        eprint={2304.07849},
        archivePrefix={arXiv},
        primaryClass={cs.CL}
  }

 @misc{plug2021,
  title = {{PLUG: Pre-training for Language Understanding and Generation}},
  author={ModelScope},
  publisher = {ModelScope},
  journal = {ModelScope repository},
  year = {2021},
  howpublished = {url{https://modelscope.cn/models/damo/nlp_plug_text-generation_27B/summary}},
}