Download LLM Kit - Download do código-fonte LLM Kit

LLM Kit

Código-Fonte de IA

1.0.0

Baixar

Suqin (suqin) Pacote de integração WebUI de cadeia completa de ferramentas de modelo grande de linguagem

Inglês |中文

introduzir

⛓️ O objetivo deste projeto é implementar um pacote de integração WebUI de ferramenta de processo completo para todos os principais modelos de linguagem. Você pode ter seus próprios modelos customizados e aplicativos exclusivos sem escrever código!

Os módulos funcionais específicos são os seguintes:

Desenvolvimento e implantação

Para usuários iniciantes, é recomendável consultar a documentação para operações relacionadas.

Requisitos de software

Este projeto foi testado no ambiente Python 3.8 - 3.10, CUDA 11.7/11.8. Os testes foram concluídos em sistemas Windows e Linux.

Ambiente de instalação

1. Ambiente operacional

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

As dependências também podem ser baixadas diretamente: pacote de ambiente Windows, pacote de ambiente Linux.

Instale o driver da placa gráfica e cuda você mesmo

2. Execute o script

No ambiente win, clique duas vezes para abrir o script web-demo-CN.bat
Ambiente Linux, clique duas vezes para abrir o script web-demo-CN.sh

3. Arquivos de apresentação relacionados

Para experimentar a função de banco de dados de conexão de modelo grande, baixe primeiro os arquivos relevantes.
Para experimentar a função de role-playing, baixe primeiro os arquivos relevantes
Para a função do pacote de expressões, baixe primeiro os arquivos relevantes e coloque-os na pasta data/apply/emotion.

Diretório de arquivos

env : ambiente de pacote integrado
utilitários : código da ferramenta
módulos : código de cada módulo
- agente : código relacionado ao agente
  - chatdb : código relacionado ao acesso ao banco de dados
  - svc : código relacionado ao svc
  - vits : códigos relacionados a vits
- aplicar : aplicar código de demonstração
- model : código relacionado ao modelo
dados : arquivo de dados
- apply : aplica arquivos relacionados à demonstração
  - audio : arquivo de voz gerado
  - emoção : arquivo de pacote de expressão
  - play : arquivo de palavra de prompt de caractere
- documentos : arquivos de dados da base de conhecimento
- modeldata : arquivo de dados de treinamento do modelo
  - LLM : arquivo de dados de treinamento de modelo grande
  - Incorporação : Incorporar arquivo de dados de treinamento de modelo
ui : código da interface da interface do usuário
saída : pontos de verificação no treinamento
modelos : arquivos de modelo
- LLM : arquivo de modelo grande de linguagem
- Incorporação : Incorporação de arquivos de modelo
- LoRA : arquivo de modelo LoRA
- live2d_models : arquivos de modelo live2d
- svc_models : arquivos relacionados ao svc
  - hubert_model : arquivo de modelo do codificador de som
  - svc : arquivo de modelo svc
- vits_pretrained_models : arquivo de modelo vits

Roteiro de desenvolvimento

Contribuinte

Wu Pingyu@juncaisuyun

Iniciador, responsável pela arquitetura geral do projeto e planejamento técnico

Liao Wenbin@Instituto de Tecnologia da Computação, Academia Chinesa de Ciências

Responsável pelo desenvolvimento em python, como gradiente, banco de dados de gráficos vetoriais, banco de dados Mysql, integração de interface API, etc.

Hu Jucheng@University College LondonUCL

Responsável pelo banco de dados de gráficos vetoriais, live2D, vits, svc, gradiente e outros desenvolvimentos em python

Li Jinghui

Responsável pelo desenvolvimento de código back-end de treinamento e inferência de grandes modelos

Recrutamento de projetos

Consulte a documentação para obter detalhes

Referência e Aprendizagem

Aplicativo Langchain baseado em ChatGLM

Modelo chinês camelo

ChatDB

Modelo Live2d

Chat-Haruhi-Suzumiya

Chuanhu Chat: Fornece interface gráfica da web para vários LLMs

Contrato de código aberto

O código deste repositório é de código aberto sob o acordo AGPL-3.0

Por um lado, esperamos fortalecer a produtização do projeto através de código aberto, por outro lado, esperamos absorver cenários mais práticos na comunidade e continuar a melhorar o produto.

AGPL-3.0 é uma licença aprovada pela OSI que atende a todos os padrões de software livre e de código aberto sempre será nossa intenção e núcleo original. isso Definitivamente faremos algo melhor.

Talvez muitos desenvolvedores tenham algumas dúvidas sobre este protocolo. A comunidade de código aberto atualmente possui muitos softwares de código aberto que adotam o protocolo AGPL-3.0, como MongoDB, Grafana, Loki, etc. A Wikipedia também possui uma lista de quais projetos de código aberto adotaram. Licença de código aberto AGPL.

O acordo AGPL-3.0 tem um ponto muito crítico, ou seja, a versão de distribuição secundária após a modificação do código do projeto de código aberto upstream também deve ser de código aberto. O acordo restringe algumas empresas que desejam o código do projeto de código aberto Folk para código fechado. distribuição comercial e seguir o código aberto upstream A equipe de manutenção do projeto se envolve em concorrência comercial direta. Se for usado apenas dentro da empresa sem modificação em qualquer nível, os usuários não precisam se preocupar com as restrições trazidas pelo acordo AGPL-3.0. Estas condições têm como objetivo incentivar terceiros que desejam modificar o software. Também contribuem para o projeto e a comunidade. Acreditamos que este é um caminho mais equitativo e que nos ajudará a construir comunidades mais fortes.

Simplificando: se você modificar o código-fonte deste projeto, você deve contribuir com essas modificações para a comunidade. Códigos modificados e derivados nunca podem ser lançados e vendidos como software comercial de código fechado.

Também fornecemos autorização comercial. Se você precisar desenvolver novamente, alterar e usar este produto para fins comerciais, entre em contato conosco ([email protected]) para obter autorização comercial em conformidade com AGPL-3.0. O contrato garante seu uso normal. .

Além disso, também aceitaremos desenvolvimento customizado com base nas necessidades pessoais ou comerciais, a nosso critério.

Actualmente, o acordo GPL nacional tem as características de um contrato e é um acto jurídico civil, que se enquadra no âmbito do Direito Contratual do meu país. A equipe do projeto reserva-se o direito de litigar.

A equipe de código aberto deste projeto tem o direito final de interpretar este acordo de código aberto.

Citar

Se você utiliza nossos modelos, códigos ou dados em seus projetos, cite o seguinte artigo.

Cite o repositório se você usar os dados ou código deste repositório.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}