chatglm_webui

ChatGLM WebUI

基於ChatGPT WebUI 的一個簡單的ChatGLM WebUI。

環境安裝

pip install -r requirements.txt

Gradio 版本必須大於3.21.0！

Windows 下CPU 運作需要安裝編譯器，可參考(https://www.freesion.com/article/4185669814/)。

運行

透過git clone https://huggingface.co/THUDM/chatglm-6b-int4下載模型檔案到根目錄下然後python main.py即可，預設狀態至少需要4 GB 顯存（CPU 運行則需要5.2 GB 記憶體）。

實參

• --path ：指定模型所在資料夾