中国語 | 英語
CodeFuse-ChatBot: プライベートナレッジ拡張による開発
CodeFuse-ChatBot は、Ant CodeFuse チームによって開発されたオープンソースの AI インテリジェント アシスタントであり、ソフトウェア開発ライフ サイクルのあらゆる側面の簡素化と最適化に専念しています。このプロジェクトは、マルチエージェントの協調スケジューリング メカニズムを組み合わせ、豊富なツール ライブラリ、コード ライブラリ、ナレッジ ベース、サンドボックス環境を統合し、LLM モデルが DevOps 分野で複雑なタスクを効果的に実行および処理できるようにします。
このプロジェクトは、設計、コーディング、テスト、展開、運用と保守の各段階をカバーする、検索拡張生成 (RAG)、ツール学習、サンドボックス環境を通じて、ソフトウェア開発のライフサイクル全体に対応する AI インテリジェント アシスタントを構築することを目的としています。 どこでもデータクエリを実行し、独立した分散型プラットフォームを運用する従来の開発および運用モデルから、大規模なモデルの質問と回答のインテリジェントな開発および運用モデルに徐々に変換し、人々の開発および運用の習慣を変えます。
このプロジェクトの中核となる差別化テクノロジーと機能ポイントは次のとおりです。
? オープンソースの LLM および埋め込みモデルに依存するこのプロジェクトは、オープンソース モデルに基づいたオフラインのプライベート展開を実現できます。さらに、このプロジェクトは OpenAI API 呼び出しもサポートしています。デモにアクセスする
中核となる研究開発チームは、長年にわたって AIOps + NLP の分野の研究に注力してきました。私たちは Codefuse-ai プロジェクトを立ち上げ、「世界で開発を容易にする」という目標を達成するために、皆様が高品質な開発および運用保守ドキュメントを広く提供してこのソリューションを共同で改善することを願っています。
Codefuse-ChatBot の機能と使い方をより直感的に理解していただくために、一連のデモビデオを収録しました。このプロジェクトの主な機能と操作手順は、これらのビデオを見ることですぐに理解できます。
特定の実装の詳細については、技術ルートの詳細とプロジェクト計画のフォローアップを参照してください: プロジェクト
特定のモデルを統合する必要がある場合は、問題を送信してニーズをお知らせください。
モデル名 | モデルサイズ | gpu_メモリ | 定量化する | HFハブ | モデルスコープ |
---|---|---|---|---|---|
チャットチャット | - | - | - | - | - |
コデラマ-34b-int4 | 34b | 20g | int4 | 近日公開 | リンク |
完全なドキュメントについては、CodeFuse-muAgent を参照してください。
pip install codefuse-muagent
nvidia ドライバーは自分でインストールしてください。このプロジェクトは、Python 3.9.18、CUDA 11.7 環境、Windows、および X86 アーキテクチャ macOS システムでテストされています。
Docker のインストール、プライベート化された LLM アクセス、および関連する起動の問題については、「クイック使用法の詳細」を参照してください。
Apple Silicon の場合は、最初に brew install qpdf を実行する必要がある場合があります。
1.Python環境の準備
# 准备 conda 环境
conda create --name devopsgpt python=3.9
conda activate devopsgpt
cd codefuse-chatbot
# python=3.9,notebook用最新即可,python=3.8用notebook=6.5.6
pip install -r requirements.txt
2.サービスを開始する
# 完成server_config.py配置后,可一键启动
cd examples
bash start.sh
# 开始在页面进行相关配置,然后打开`启动对话服务`即可
または、 start.py
その他の LLM アクセス方法については、詳細を参照してください。
Codefuse プロジェクトにご興味をお持ちいただき、誠にありがとうございます。Codefuse プロジェクトに対するご提案、ご意見 (批判を含む)、コメント、貢献をお待ちしております。
Codefuse に関するさまざまな提案、意見、コメントは、GitHub の Issues を通じて直接送信できます。
Codefuse プロジェクトに参加して貢献するには、コードの実装、テストの作成、プロセス ツールの改善、ドキュメントの改善など、さまざまな方法があります。いかなる貢献も大歓迎です。あなたも貢献者リストに追加されます。詳細については、貢献ガイドを参照してください...
このプロジェクトは langchain-chatchat と codebox-api に基づいており、彼らのオープンソースへの貢献に深く感謝の意を表したいと思います。