chatglm_webui

ChatGLM WebUI

ChatGLM WebUI อย่างง่ายที่ใช้ ChatGPT WebUI

การติดตั้งสิ่งแวดล้อม

pip install -r requirements.txt

เวอร์ชัน Gradio ต้องมากกว่า 3.21.0!

การทำงานของ CPU บน Windows จำเป็นต้องติดตั้งคอมไพเลอร์ โปรดดูที่ (https://www.freesion.com/article/4185669814/)

วิ่ง

ดาวน์โหลดไฟล์โมเดลผ่าน git clone https://huggingface.co/THUDM/chatglm-6b-int4 ไปยังไดเร็กทอรีราก จากนั้น python main.py สถานะเริ่มต้นต้องใช้หน่วยความจำวิดีโออย่างน้อย 4 GB (การทำงานของ CPU ต้องใช้ 5.2 GB ของหน่วยความจำ)

พารามิเตอร์จริง

• --path : ระบุโฟลเดอร์ที่มีโมเดลอยู่