Descarga LLM Kit - Descarga del código fuente LLM Kit

LLM Kit

Código Fuente de IA

1.0.0

Descargar

Paquete de integración WebUI de cadena de herramientas completa de modelo grande de lenguaje Suqin (suqin)

inglés |中文

introducir

⛓️ El objetivo de este proyecto es implementar un paquete de integración de WebUI de herramienta de proceso completo para todos los modelos de lenguaje principales. ¡Puedes tener tus propios modelos personalizados y aplicaciones exclusivas sin escribir código!

Los módulos de funciones específicas son los siguientes:

Desarrollo e implementación

Para usuarios nuevos, se recomienda consultar la documentación para operaciones relacionadas.

Requisitos de software

Este proyecto ha sido probado en el entorno Python 3.8 - 3.10, CUDA 11.7/11.8. Se han completado las pruebas en sistemas Windows y Linux.

Entorno de instalación

1. Entorno operativo

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

Las dependencias también se pueden descargar directamente: paquete de entorno Windows, paquete de entorno Linux.

Instale el controlador de la tarjeta gráfica y cuda usted mismo

2. Ejecute el script

En el entorno win, haga doble clic para abrir el script web-demo-CN.bat
Entorno Linux, haga doble clic para abrir el script web-demo-CN.sh

3. Archivos de presentación relacionados

Para experimentar la función de base de datos de conexión de modelos grandes, primero descargue los archivos relevantes.
Para experimentar la función de juego de roles, descargue primero los archivos relevantes
Para la función del paquete de expresiones, primero descargue los archivos relevantes y colóquelos en la carpeta data/apply/emotion.

directorio de archivos

env : entorno de paquete integrado
utils : código de herramienta
módulos : cada código de módulo
- agente : código relacionado con el agente
  - chatdb : código relacionado con el acceso a la base de datos
  - svc : código relacionado con svc
  - vits : códigos relacionados con vits
- aplicar : aplicar código de demostración
- modelo : código relacionado con el modelo
datos : archivo de datos
- aplicar : aplicar archivos relacionados con la demostración
  - audio : archivo de voz generado
  - emoción : archivo de paquete de expresión
  - reproducir : archivo de texto de símbolo del carácter
- documentos : archivos de datos de la base de conocimientos
- modeldata : archivo de datos de entrenamiento del modelo
  - LLM : archivo de datos de entrenamiento de modelo grande
  - Incrustación : incrustar archivo de datos de entrenamiento del modelo
ui : código de interfaz ui
Salida : puntos de control en el entrenamiento.
modelos : archivos de modelo
- LLM : archivo de modelo grande de idioma
- Incrustar : Incrustar archivos de modelo
- LoRA : archivo de modelo LoRA
- live2d_models : archivos de modelo live2d
- svc_models : archivos relacionados con svc
  - hubert_model : archivo de modelo de codificador de sonido
  - svc : archivo de modelo svc
- vits_pretrained_models : archivo de modelo vits

Hoja de ruta de desarrollo

Contribuyente

Wu Pingyu@juncaisuyun

Iniciador, responsable de la arquitectura general del proyecto y la planificación técnica.

Liao Wenbin@Instituto de Tecnología Informática, Academia de Ciencias de China

Responsable del desarrollo de Python como gradiente, base de datos de vectores gráficos, base de datos Mysql, integración de interfaz API, etc.

Hu Jucheng@University College de LondresUCL

Responsable de la base de datos de gráficos vectoriales, live2D, vits, svc, gradient y otros desarrollos de Python.

Li Jinghui

Responsable del desarrollo del código back-end de entrenamiento e inferencia de modelos grandes.

Reclutamiento de proyectos

Ver documentación para más detalles.

Referencia y aprendizaje

Aplicación Langchain basada en ChatGLM

Modelo chino camello

ChatDB

modelo en vivo 2d

Chat-Haruhi-Suzumiya

Chuanhu Chat: proporciona una interfaz gráfica web para varios LLM

Acuerdo de código abierto

El código de este repositorio es de código abierto bajo el acuerdo AGPL-3.0.

Por un lado, esperamos fortalecer la productización del proyecto a través de código abierto; por otro lado, esperamos absorber más escenarios prácticos en la comunidad y continuar mejorando el producto. También invitamos a todos a participar en el proyecto.

AGPL-3.0 es una licencia aprobada por OSI que cumple con todos los estándares de software gratuito y de código abierto. Siempre persistiremos en hacerlo con la promoción de la comunidad. Esto definitivamente haremos algo mejor.

Quizás muchos desarrolladores tengan algunas preguntas sobre este protocolo. La comunidad de código abierto actualmente tiene muchos software de código abierto que adoptan el protocolo AGPL-3.0, como MongoDB, Grafana, Loki, etc. Wikipedia también tiene una lista de los proyectos de código abierto que lo han adoptado. Licencia de código abierto AGPL-3.0.

El acuerdo AGPL-3.0 tiene un punto muy crítico, es decir, la versión de distribución secundaria después de modificar el código del proyecto de código abierto ascendente también debe ser de código abierto. El acuerdo restringe a algunas empresas que desean utilizar el código del proyecto de código abierto para código cerrado. distribución comercial y siga el código abierto ascendente El equipo de mantenimiento del proyecto participa en competencia comercial directa. Si solo se usa dentro de la empresa sin modificaciones en ningún nivel, los usuarios no necesitan preocuparse por las restricciones impuestas por el acuerdo AGPL-3.0. Estas condiciones están diseñadas para alentar a los terceros que quieran modificar el software a contribuir también al proyecto y a la comunidad. Creemos que esta es una manera más equitativa de avanzar y creemos que nos ayudará a construir comunidades más fuertes.

En pocas palabras: si modifica el código fuente de este proyecto, debe contribuir con estas modificaciones a la comunidad. Los códigos modificados y derivados nunca podrán publicarse ni venderse como software comercial de código cerrado.

También proporcionamos autorización comercial. Si necesita volver a desarrollar, cambiar y utilizar este producto con fines comerciales, contáctenos ([email protected]) para obtener autorización comercial para cumplir con AGPL-3.0. El acuerdo garantiza su uso normal. .

Además de esto, también aceptaremos desarrollo personalizado basado en necesidades personales o corporativas a nuestra discreción.

En la actualidad, el acuerdo GPL nacional tiene las características de un contrato y es un acto jurídico civil, que entra dentro del alcance de la Ley de Contratos de mi país. El equipo del proyecto se reserva el derecho de litigar.

El equipo de código abierto de este proyecto tiene el derecho final de interpretar este acuerdo de código abierto.

Cita

Si utiliza nuestros modelos, código o datos en sus proyectos, cite el siguiente artículo.

Cite el repositorio si utiliza los datos o el código de este repositorio.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}