chatglm_webui

ChatGLM WebUI

Una WebUI ChatGLM simple basada en ChatGPT WebUI.

Instalación ambiental

pip install -r requirements.txt

¡La versión de Gradio debe ser mayor que 3.21.0!

El funcionamiento de la CPU en Windows requiere la instalación de un compilador; consulte (https://www.freesion.com/article/4185669814/).

correr

Descargue el archivo del modelo a través de git clone https://huggingface.co/THUDM/chatglm-6b-int4 al directorio raíz y luego python main.py El estado predeterminado requiere al menos 4 GB de memoria de video (la operación de la CPU requiere 5,2 GB). de la memoria).

Parámetros reales

• --path : especifica la carpeta donde se encuentra el modelo