LLM Kit 다운로드 - LLM Kit 소스 코드 다운로드

LLM Kit

AI 소스 코드

1.0.0

다운로드

Suqin (suqin) 언어 대형 모델 전체 도구 체인 WebUI 통합 패키지

영어 | 중문

소개하다

⛓️ 이 프로젝트의 목표는 모든 주요 언어 모델에 대한 전체 프로세스 도구 WebUI 통합 패키지를 구현하는 것입니다. 코드를 작성하지 않고도 나만의 맞춤형 모델과 전용 애플리케이션을 가질 수 있습니다!

구체적인 기능 모듈은 다음과 같습니다:

개발 및 배포

처음 사용하는 경우 관련 작업에 대한 설명서를 참조하는 것이 좋습니다.

소프트웨어 요구사항

이 프로젝트는 Python 3.8 - 3.10, CUDA 11.7/11.8 환경에서 테스트되었습니다. Windows 및 Linux 시스템에서 테스트가 완료되었습니다.

설치환경

1. 운영환경

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

종속성은 Windows 환경 패키지, Linux 환경 패키지로 직접 다운로드할 수도 있습니다.

그래픽 카드 드라이버와 cuda를 직접 설치하세요.

2. 스크립트 실행

Win 환경에서는 두 번 클릭하여 web-demo-CN.bat 스크립트를 엽니다.
Linux 환경에서는 두 번 클릭하여 web-demo-CN.sh 스크립트를 엽니다.

3. 관련 프리젠테이션 파일

대형 모델 연계 데이터베이스 기능을 체험하시려면 관련 파일을 먼저 다운로드해 주세요.
롤플레잉 기능을 경험하시려면 관련 파일을 먼저 다운로드해주세요.
익스프레션팩 기능을 사용하시려면 해당 파일을 먼저 다운로드 하신 후 data/apply/emotion 폴더에 넣어주세요.

파일 디렉토리

env : 통합 패키지 환경
유틸리티 : 도구 코드
모듈 : 각 모듈 코드
- 에이전트 : 에이전트 관련 코드
  - chatdb : 데이터베이스 접근 관련 코드
  - svc : svc 관련 코드
  - vits : vits 관련 코드
- 적용 : 데모 코드 적용
- model : 모델 관련 코드
데이터 : 데이터 파일
- Apply : 데모 관련 파일을 적용합니다.
  - 오디오 : 생성된 음성 파일
  - 감정 : 표현 패키지 파일
  - 재생 : 문자 프롬프트 단어 파일
- 문서 : 지식 기반 데이터 파일
- modeldata : 모델 훈련 데이터 파일
  - LLM : 대규모 모델 훈련 데이터 파일
  - Embedding : 모델 학습 데이터 파일 삽입
ui : UI 인터페이스 코드
출력 : 훈련의 체크포인트
모델 : 모델 파일
- LLM : 언어 대용량 모델 파일
- Embedding : 모델 파일 삽입
- LoRA : LoRA 모델 파일
- live2d_models : live2d 모델 파일
- svc_models : svc 관련 파일
  - Hubert_model : 사운드 인코더 모델 파일
  - svc : svc 모델 파일
- vits_pretrained_models : vits 모델 파일

개발 로드맵

기부자

우 핑위@juncaisuyun

전체 프로젝트 아키텍처 및 기술 계획을 담당하는 개시자

Liao Wenbin@중국과학원 컴퓨팅 기술 연구소

그래디언트, 그래프 벡터 데이터베이스, Mysql 데이터베이스, API 인터페이스 통합 등 Python 개발을 담당합니다.

후주청@유니버시티 칼리지 런던UCL

그래프 벡터 데이터베이스, live2D, vits, svc, 그래디언트 등 Python 개발 담당

리징휘

대규모 모델 학습 및 추론의 백엔드 코드 개발을 담당합니다.

프로젝트 모집

자세한 내용은 설명서를 참조하세요.

참고 및 학습

ChatGLM 기반 Langchain 애플리케이션

낙타 중국 모델

챗DB

Live2d 모델

채팅-하루히-스즈미야

Chuanhu Chat: 다양한 LLM을 위한 웹 그래픽 인터페이스 제공

오픈소스 계약

이 저장소의 코드는 AGPL-3.0 계약에 따른 오픈 소스입니다.

한편으로는 오픈 소스를 통해 프로젝트의 제품화를 강화하는 한편, 커뮤니티에서 보다 실용적인 시나리오를 흡수하고 지속적으로 제품을 개선하기를 희망합니다. 또한 모든 사람이 프로젝트에 참여하는 것을 환영합니다.

AGPL-3.0은 무료 및 오픈 소스 소프트웨어의 모든 표준을 준수하는 OSI 승인 라이센스입니다. 오픈 소스는 항상 우리의 원래 의도이자 핵심이 될 것입니다. 우리는 확실히 더 나은 일을 할 것입니다.

아마도 많은 개발자들이 이 프로토콜에 대해 몇 가지 질문을 갖고 있을 것입니다. 오픈 소스 커뮤니티에는 현재 MongoDB, Grafana, Loki 등과 같이 AGPL-3.0 프로토콜을 채택하는 많은 오픈 소스 소프트웨어가 있습니다. Wikipedia에도 채택된 오픈 소스 프로젝트 목록이 있습니다. AGPL.-3.0 오픈 소스 라이선스.

AGPL-3.0 계약에는 업스트림 오픈 소스 프로젝트의 코드를 수정한 후의 2차 배포 버전도 오픈 소스여야 한다는 매우 중요한 점이 있습니다. 이 계약은 비공개 소스에 대한 민속 오픈 소스 프로젝트 코드를 원하는 일부 회사를 제한합니다. 상업적 배포 및 업스트림 오픈 소스 따르기 프로젝트 유지 관리 팀은 어떤 수준에서도 수정 없이 기업 내에서만 사용된다면 사용자는 AGPL-3.0 계약으로 인한 제한에 대해 걱정할 필요가 없습니다. 이러한 조건은 소프트웨어 수정을 원하는 제3자도 프로젝트 및 커뮤니티에 기여하도록 장려하기 위해 고안되었습니다. 우리는 이것이 보다 공평한 방법이라고 믿으며, 이것이 더 강력한 커뮤니티를 구축하는 데 도움이 될 것이라고 믿습니다.

간단히 말해서, 이 프로젝트의 소스 코드를 수정하는 경우 이러한 수정 사항을 커뮤니티에 기여해야 합니다. 수정되거나 파생된 코드는 절대 비공개 소스 상용 소프트웨어로 공개되거나 판매될 수 없습니다.

본 제품을 상업적 목적으로 재개발, 변경, 사용해야 하는 경우에는 당사([email protected])로 문의하여 AGPL-3.0을 준수하여 상업적 승인을 받으시기 바랍니다. 본 계약은 귀하의 정상적인 사용을 보장합니다. .

이 외에도 당사는 재량에 따라 개인 또는 비즈니스 요구에 따른 맞춤형 개발도 허용합니다.

현재 국내 GPL 규약은 계약의 성격을 가지며 민사법률행위로서 우리나라 계약법의 적용을 받습니다. 프로젝트 팀은 소송을 제기할 권리를 보유합니다.

본 프로젝트의 오픈소스 팀은 본 오픈소스 계약을 해석할 최종 권한을 갖습니다.

인용하다

귀하의 프로젝트에서 당사 모델, 코드 또는 데이터를 사용하는 경우 다음 기사를 인용하십시오.

이 저장소의 데이터나 코드를 사용하는 경우 저장소를 인용해 주세요.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}