chatglm_webui
1.0.0
Um ChatGLM WebUI simples baseado em ChatGPT WebUI.
pip install -r requirements.txt
A versão do Gradio deve ser superior a 3.21.0!
A operação da CPU no Windows requer a instalação de um compilador, consulte (https://www.freesion.com/article/4185669814/).
Baixe o arquivo de modelo via git clone https://huggingface.co/THUDM/chatglm-6b-int4 para o diretório raiz e, em seguida, python main.py O estado padrão requer pelo menos 4 GB de memória de vídeo (a operação da CPU requer 5,2 GB. de memória).
--path : Especifique a pasta onde o modelo está localizado
