chatglm_webui

ChatGLM 웹UI

ChatGPT WebUI를 기반으로 한 간단한 ChatGLM WebUI입니다.

환경 설치

pip install -r requirements.txt

그라디오 버전은 3.21.0 이상이어야 합니다!

Windows에서 CPU를 작동하려면 컴파일러 설치가 필요합니다. (https://www.freesion.com/article/4185669814/)을 참조하세요.

달리다

git clone https://huggingface.co/THUDM/chatglm-6b-int4 통해 모델 파일을 루트 디렉터리에 다운로드한 다음 python main.py 다운로드합니다. 기본 상태에는 최소 4GB의 비디오 메모리가 필요합니다(CPU 작업에는 5.2GB가 필요합니다). 기억의).

실제 매개변수

• --path : 모델이 위치한 폴더를 지정합니다.