Chat2Anything
1.0.0
|ギットハブ|
Chat2Anything は、企業内部環境向けのラージ モデル (LLM) ナレッジ ベースの質問と回答システムであり、次の機能があります。
これには、クライアント (Chat2Anything) とバックエンド管理システム (Chat2Anything Admin) が含まれます。バックエンド管理システムは、大規模モデルのナレッジ ベースの作成と管理を担当します。ユーザーは、次の方法で企業内部のナレッジ (Langchain メカニズム) を大規模モデルに追加できます。 Excel、Word、PDF、その他のファイルのアップロード）管理システムには、完全なユーザー権限、役割、組織、データ辞書管理などの機能が含まれています。
ChatGPT、ChatGLM、Vicuna などの主流の大規模モデルをサポートし、ChatGLM と Vicuna を使用すると、システム全体が完全なプライベート ドメインの展開と 100% の内部循環を実現できます。
ビジネス システム データベース アクセス、クエリ分析に関連するテーブルの手動/自動選択、およびユーザーの問題の説明に基づく text2SQL をサポート (改善予定)、クエリ結果は自動的に実行され、視覚化されます (開発予定)
ChatGLM (https://github.com/THUDM/ChatGLM-6B) / Vicuna (https://github.com/lm-sys/FastChat) およびその他の大規模モデル (ChatGPT を使用するなど) を Chat2Anything/configs/ でローカルに構成します。 openai_config で OPENAI_API_KEY と OPENAI_API_BASE を設定します。
コントローラを実行します:
python3 -m fastchat.serve.controllermodel_worker を実行します (ChatGLM-6B、ChatGLM2-6B 推奨 (https://github.com/THUDM/ChatGLM2-6B)):
python3 -m fastchat.serve.model_worker_chatglm --model-path /path/to/model/weightsまたは
model_worker (vicuna) を実行します。
python3 -m fastchat.serve.model_worker --model-path /path/to/model/weightsクライアント Web サーバーを実行する
python3 -m fastchat.serve.chat2anything_web_serverChatGPT を使用する場合は、起動パラメータ --add-chatgpt を追加します
基本的なテスト環境
Ubuntu 20.04 CUDA 11.7 Python 3.9 PyTorch 1.13
Tesla V100 32GB * 1データベース (MySQL) 構成:
# MySql配置信息
MYSQL_HOST =数据库地址
MYSQL_PORT =数据库端口
MYSQL_DATABASE = chat2anything_db
MYSQL_USERNAME =账户
MYSQL_PASSWORD =密码
# 密钥配置
SECRET_KEY = '一定要改'モデル関連の構成:
# model_config.py
embedding_model_dict = {
'text2vec": "/Path/to/text2vec-large-chinese' ,
}
# 密钥配置
VECTOR_ROOT_PATH = os . path . join ( '/Path/to/Chat2Anything' , 'vector_stores' )データベースの初期化:
flask db init
flask db migrate
flask db upgrade
flask admin init走る：
# Windows
run.bat
# Linux
chmod +x run.sh
./run.sh
# 管理员默写账户密码
admin 123456以下の貢献に感謝します。
