chatglm_webui

Веб-интерфейс ChatGLM

Простой веб-интерфейс ChatGLM на основе веб-интерфейса ChatGPT.

Установка среды

pip install -r requirements.txt

Версия Gradio должна быть выше 3.21.0!

Для работы процессора под Windows требуется установка компилятора, см. (https://www.freesion.com/article/4185669814/).

бегать

Загрузите файл модели через git clone https://huggingface.co/THUDM/chatglm-6b-int4 в корневой каталог, а затем python main.py Для состояния по умолчанию требуется не менее 4 ГБ видеопамяти (для работы процессора требуется 5,2 ГБ). памяти).

Фактические параметры

• --path : укажите папку, в которой находится модель.