Chat2Anything

Chat2Anything

|

Chat2Anything عبارة عن نظام أسئلة وأجوبة لقاعدة المعرفة كبير الحجم (LLM) للبيئات الداخلية للمؤسسة وله الوظائف التالية:

• يتضمن العميل (Chat2Anything) ونظام إدارة الواجهة الخلفية (Chat2Anything Admin). نظام إدارة الواجهة الخلفية مسؤول عن إنشاء وإدارة قاعدة معارف النموذج الكبيرة. يمكن للمستخدمين إضافة المعرفة الداخلية للشركة (آلية Langchain) إلى النموذج الكبير وتحميل ملفات Excel وWord وPDF وغيرها من الملفات، ويتضمن نظام الإدارة أذونات المستخدم الكاملة والأدوار والمؤسسات وإدارة قاموس البيانات ووظائف أخرى

• يدعم النماذج الكبيرة السائدة مثل ChatGPT وChatGLM وVicuna. يمكن للمستخدمين تبديل النماذج الكبيرة في أي وقت عند استخدام ChatGLM وVicuna، يمكن للنظام بأكمله تحقيق نشر كامل للنطاق الخاص، والتداول الداخلي بنسبة 100٪ لبيانات المؤسسة.

• يدعم الوصول إلى قاعدة بيانات نظام الأعمال، والاختيار اليدوي/التلقائي للجداول المشاركة في تحليل الاستعلام، وtext2SQL بناءً على أوصاف مشكلة المستخدم (سيتم تحسينها)، ويتم تنفيذ نتائج الاستعلام تلقائيًا وتصورها (سيتم تطويرها)

  
  

نشر

Chat2Anything (العميل)

1. تكوين ChatGLM محليًا (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) والنماذج الكبيرة الأخرى، مثل استخدام ChatGPT، في Chat2Anything/configs/ openai_config. قم بتكوين OPENAI_API_KEY وOPENAI_API_BASE في ملف py

2. تشغيل وحدة التحكم:

   python3 -m fastchat.serve.controller

3. تشغيل model_worker (ChatGLM-6B، يوصى باستخدام ChatGLM2-6B (https://github.com/THUDM/ChatGLM2-6B)):

   python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weights

   أو

   تشغيل model_worker (فيكونا):

   python3 -m fastchat.serve.model_worker --model-path /path/to/model/weights

4. تشغيل خادم الويب العميل

   python3 -m fastchat.serve.chat2anything_web_server

   إذا كنت تستخدم ChatGPT، أضف معلمة بدء التشغيل --add-chatgpt

5. بيئة الاختبار الأساسية

   Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
   Tesla V100 32GB * 1

مسؤول Chat2Anything (محطة إدارة الواجهة الخلفية)

1. تكوين قاعدة البيانات (MySQL):

    # MySql配置信息
     MYSQL_HOST =数据库地址
     MYSQL_PORT =数据库端口
     MYSQL_DATABASE = chat2anything_db
     MYSQL_USERNAME =账户
     MYSQL_PASSWORD =密码
     
   # 密钥配置
     SECRET_KEY = '一定要改'

2. التكوين المتعلق بالنموذج:

    # model_config.py
     embedding_model_dict = {
     'text2vec": "/Path/to/text2vec-large-chinese' ,
    }
     
   # 密钥配置
     VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )

3. تهيئة قاعدة البيانات:

     flask db init
     flask db migrate
     flask db upgrade
     flask admin init

4. يجري:

     # Windows
     run.bat
   
     # Linux
     chmod +x run.sh
     ./run.sh
   
     # 管理员默写账户密码
     admin 123456

المشاريع ذات الصلة

نقدر المساهمات التالية:

• THUDM/chatglm-6b
• lm-sys/FastChat
• THUDM/chatglm2-6b
• chatchat-space/langchain-ChatGLM
• قارورة الكمثرى الإدارية