Chat2Anything

Chat2อะไรก็ได้

| .github |

Chat2Anything เป็นระบบคำถามและคำตอบฐานความรู้โมเดลขนาดใหญ่ (LLM) สำหรับสภาพแวดล้อมภายในองค์กร โดยมีฟังก์ชันดังต่อไปนี้:

• ประกอบด้วยไคลเอนต์ (Chat2Anything) และระบบการจัดการแบ็กเอนด์ (Chat2Anything Admin) ระบบการจัดการแบ็กเอนด์มีหน้าที่ในการสร้างและจัดการฐานความรู้โมเดล ขนาดใหญ่ ผู้ใช้สามารถเพิ่มความรู้ภายในองค์กร (กลไก Langchain) ให้กับโมเดลขนาดใหญ่ได้โดย การอัปโหลด Excel, Word, PDF และไฟล์อื่น ๆ ) ระบบการจัดการรวมถึงการอนุญาตผู้ใช้ บทบาท องค์กร การจัดการพจนานุกรมข้อมูล และฟังก์ชันอื่น ๆ

• รองรับโมเดลขนาดใหญ่ทั่วไป เช่น ChatGPT, ChatGLM และ Vicuna ผู้ใช้สามารถสลับโมเดลขนาดใหญ่ได้ตลอดเวลา เมื่อใช้ ChatGLM และ Vicuna ระบบทั้งหมดสามารถปรับใช้โดเมนส่วนตัวได้อย่างสมบูรณ์ และการหมุนเวียนข้อมูลภายในองค์กร 100%

• รองรับการเข้าถึงฐานข้อมูลระบบธุรกิจ การเลือกตารางด้วยตนเอง/อัตโนมัติที่เกี่ยวข้องกับการวิเคราะห์แบบสอบถาม และ text2SQL ตามคำอธิบายปัญหาของผู้ใช้ (จะได้รับการปรับปรุง) และผลลัพธ์ของการสืบค้นจะได้รับการดำเนินการและแสดงภาพโดยอัตโนมัติ (จะได้รับการพัฒนา)

  
  

ปรับใช้

Chat2Anything (ลูกค้า)

1. กำหนดค่า ChatGLM ในเครื่อง (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) และรุ่นขนาดใหญ่อื่น ๆ เช่นการใช้ ChatGPT ใน Chat2Anything/configs/ openai_config กำหนดค่า OPENAI_API_KEY และ OPENAI_API_BASE ในไฟล์ py

2. เรียกใช้ตัวควบคุม:

   python3 -m fastchat.serve.controller

3. เรียกใช้ model_worker (แนะนำ ChatGLM-6B, ChatGLM2-6B (https://github.com/THUDM/ChatGLM2-6B)):

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   หรือ

   เรียกใช้ model_worker (vicuna):

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. เรียกใช้เว็บเซิร์ฟเวอร์ไคลเอ็นต์

   python3 -m fastchat.serve.chat2anything_web_server

   หากใช้ ChatGPT ให้เพิ่มพารามิเตอร์เริ่มต้น --add-chatgpt

5. สภาพแวดล้อมการทดสอบขั้นพื้นฐาน

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

Chat2Anything Admin (เทอร์มินัลการจัดการแบ็กเอนด์)

1. การกำหนดค่าฐานข้อมูล (MySQL):

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. การกำหนดค่าที่เกี่ยวข้องกับโมเดล:

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. การเริ่มต้นฐานข้อมูล:

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. วิ่ง:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

โครงการที่เกี่ยวข้อง

ขอขอบคุณผลงานต่อไปนี้:

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/chatglm2-6b
• chatchat-space/langchain-ChatGLM
• ขวดผู้ดูแลระบบลูกแพร์