Загрузка LLM Kit - Загрузка исходного кода LLM Kit

Suqin (suqin) Язык большой модели, полная цепочка инструментов, пакет интеграции WebUI

английский |中文

представлять

⛓️ Целью этого проекта является реализация полнофункционального пакета интеграции инструментов WebUI для всех основных языковых моделей. Вы можете создавать свои собственные модели и эксклюзивные приложения без написания кода!

Конкретные функциональные модули следующие:

Разработка и внедрение

Для начинающих пользователей рекомендуется ознакомиться с документацией по соответствующим операциям.

Требования к программному обеспечению

Этот проект был протестирован в среде Python 3.8–3.10, CUDA 11.7/11.8. Тестирование завершено на системах Windows и Linux.

Среда установки

1. Операционная среда

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

Зависимости также можно загрузить напрямую: пакет среды Windows, пакет среды Linux.

Установите драйвер видеокарты и cuda самостоятельно.

2. Выполните скрипт

В выигрышной среде дважды щелкните, чтобы открыть сценарий web-demo-CN.bat.
В среде Linux дважды щелкните, чтобы открыть сценарий web-demo-CN.sh.

3. Связанные файлы презентаций

Чтобы воспользоваться функцией базы данных подключений большой модели, сначала загрузите соответствующие файлы.
Чтобы опробовать функцию ролевой игры, сначала загрузите соответствующие файлы.
Для функции пакета выражений сначала загрузите соответствующие файлы и поместите их в папку data/apply/emotion.

Каталог файлов

env : интегрированная среда пакетов
utils : код инструмента
модули : код каждого модуля
- агент : код, связанный с агентом
  - Chatdb : код, связанный с доступом к базе данных
  - svc : код, связанный с svc
  - vits : коды, связанные с vits
- применить : применить демонстрационный код
- модель : код, связанный с моделью
данные : файл данных
- Apply : применить файлы, связанные с демонстрацией
  - аудио : сгенерированный голосовой файл
  - эмоция : файл пакета выражений
  - play : файл слов с символьной подсказкой
- документы : файлы данных базы знаний
- modeldata : файл данных обучения модели.
  - LLM : файл данных обучения большой модели.
  - Внедрение : встроить файл данных обучения модели.
ui : код интерфейса пользовательского интерфейса
вывод : контрольные точки в обучении
модели : файлы моделей
- LLM : файл большой языковой модели.
- Внедрение : Встраивание файлов модели.
- LoRA : файл модели LoRA.
- live2d_models : файлы моделей live2d.
- svc_models : файлы, связанные с svc.
  - Hubert_model : файл модели звукового кодировщика
  - svc : файл модели svc
- vits_pretrained_models : файл модели vits.

Дорожная карта развития

Автор

У Пинъюй@juncaisuyun

Инициатор, ответственный за общую архитектуру проекта и техническое планирование.

Ляо Вэньбинь@Институт вычислительных технологий Китайской академии наук

Отвечает за разработку Python, такую как градиент, база данных графовых векторов, база данных Mysql, интеграция интерфейса API и т. д.

Ху Цзюйчэн@Университетский колледж ЛондонаUCL

Отвечает за базу данных векторных графов, live2D, vits, svc, градиент и другие разработки на Python.

Ли Цзинхуэй

Отвечает за разработку внутреннего кода для обучения и вывода больших моделей.

Набор персонала для проектов

Подробности смотрите в документации.

Справка и обучение

Приложение Langchain на базе ChatGLM

Верблюжья китайская модель

ЧатБД

Live2d модель

Чат-Харухи-Сузумия

Chuanhu Chat: предоставляет веб-графический интерфейс для различных LLM.

Соглашение об открытом исходном коде

Код этого репозитория имеет открытый исходный код в соответствии с соглашением AGPL-3.0.

С одной стороны, мы надеемся усилить продуктизацию проекта с помощью открытого исходного кода, с другой стороны, мы надеемся освоить больше практических сценариев в сообществе и продолжить улучшать продукт. Мы также приглашаем всех принять участие в проекте.

AGPL-3.0 — это лицензия, одобренная OSI, которая соответствует всем стандартам бесплатного программного обеспечения с открытым исходным кодом. Открытый исходный код всегда будет нашим первоначальным намерением и основной целью. Мы всегда будем упорствовать в этом. Мы считаем, что благодаря продвижению сообщества. это Мы обязательно сделаем что-то лучше.

Возможно, у многих разработчиков есть некоторые вопросы по поводу этого протокола. В сообществе открытого исходного кода в настоящее время имеется множество программ с открытым исходным кодом, использующих протокол AGPL-3.0, например MongoDB, Grafana, Loki и т. д. В Википедии также есть список проектов с открытым исходным кодом, которые были приняты на вооружение. Лицензия с открытым исходным кодом AGPL-3.0.

В соглашении AGPL-3.0 есть очень важный момент: версия вторичного распространения после изменения кода исходного проекта с открытым исходным кодом также должна быть с открытым исходным кодом. Соглашение ограничивает некоторые компании, которые хотят использовать код проекта с открытым исходным кодом в качестве кода с закрытым исходным кодом. коммерческое распространение и следование исходному коду с открытым исходным кодом. Команда поддержки проекта участвует в прямой коммерческой конкуренции. Если он используется только внутри предприятия без изменений на любом уровне, пользователям не нужно беспокоиться об ограничениях, налагаемых соглашением AGPL-3.0. Эти условия созданы для того, чтобы побудить третьих лиц, желающих внести изменения в программное обеспечение, также внести свой вклад в проект и сообщество. Мы считаем, что это более справедливый путь вперед, и мы верим, что это поможет нам построить более сильные сообщества.

Проще говоря: если вы изменяете исходный код этого проекта, вы должны внести эти изменения в сообщество. Модифицированные и производные коды никогда не разрешается выпускать и продавать как коммерческое программное обеспечение с закрытым исходным кодом.

Мы также предоставляем коммерческое разрешение. Если вам необходимо повторно разработать, изменить и использовать этот продукт в коммерческих целях, свяжитесь с нами ([email protected]) для получения коммерческого разрешения в соответствии с AGPL-3.0. Соглашение гарантирует нормальное использование. .

В дополнение к этому мы также принимаем индивидуальные разработки, основанные на личных или корпоративных потребностях по нашему усмотрению.

В настоящее время внутреннее соглашение GPL имеет характеристики контракта и является гражданско-правовым актом, подпадающим под действие контрактного права моей страны. Команда проекта оставляет за собой право на судебное разбирательство.

Команда открытого исходного кода этого проекта имеет окончательное право интерпретировать это соглашение об открытом исходном коде.

Цитировать

Если вы используете наши модели, код или данные в своих проектах, пожалуйста, цитируйте следующую статью.

Пожалуйста, укажите репозиторий, если вы используете данные или код в этом репозитории.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}