fastagent

即効性のある

fastagent: エージェントを本番環境に簡単に移行できるようにするツール

ドキュメント

---

警告

FastAgent は現在積極的に開発中であり、アルファ段階にあります。現在、SSL および CORS のセキュリティ機能が欠如しており、運用展開に必要な包括的なテストも行われていません。

インストール

pip を使用してプロジェクトをインストールできます: (PyPI で近々利用可能になります)

pip install git+https://github.com/bastienpo/fastagent.git

プロジェクトの使い方

まず、単純な LangChain アプリケーションを作成します。

作成できる最も単純な langchain 実行可能ファイルを使用して、大規模な言語モデルだけで構成される app.py ファイルを作成しましょう。

 # pip install -qU langchain-mistralai and requires MISTRAL_API_KEY in to be set
from langchain_mistralai import ChatMistralAI

chain = ChatMistralAI ( model = "ministral-3b-latest" )

次に、次のコマンドを使用して、fastagent 構成ファイル (fastagent.toml) を初期化する必要があります。

fastagent init

次のフォーム内のアプリケーションのパスと一致するように、プロジェクト セクションのアプリ フィールドを更新する必要があります。

<module_path>:<module_attribute>この場合、 myapplication.app:chainになります。

構成でデータベースを使用することに決めた場合は、 setupコマンドを使用してテーブルを作成し、データベースをセットアップできます。

fastagent setup

開発または出荷の準備ができたら、運用サーバーを起動できます。

fastagent dev # fastagent run

devとrunコマンドの違いは、 devコード変更時にサーバーをリロードしてコンソールにログを記録するのに対し、 run Docker イメージを構築してアプリケーションを提供することです。

特徴

これはプロジェクトの現在のロードマップです。

• このプロジェクトでは、エージェント用に単純なサーバーをセットアップできます。会話と認証データを保存するには、langchain と postgresql のみをサポートします。
• これにより、単純なトークンベースの認証と認可をセットアップできます。
• さまざまなミドルウェア CORS、認可、レート制限を構成できます。

次は何でしょうか？

注記

このプロジェクトは現在も開発中のため、デザインは変更される可能性があります。エージェントを運用環境に移行する方法に興味があったため、個人的なプロジェクトとしてのみ実行しています。ご自由に貢献したり、フィードバックをお寄せください。あらゆる提案を歓迎します。

近い将来:

• langchain と langgraph のプロジェクトのエンドツーエンドのテストを追加します。
• 権限システムを追加します。
• ステートレス認証を追加します。
• より多くのデータベース (特に SQLite) のサポートを追加します。

長期:

• モニタリングおよび可観測性ツールの統合を簡素化する (Langfuse、Phoenix)
• Dspy およびその他のフレームワークのサポートを追加します。

リソース

プロジェクトに使用される依存関係に関するいくつかのリソースと、プロジェクトのメンテナーの作業に感謝します。

• ファストAPI
• グラニアン
• ラングサーブ

このプロジェクトは LitServe からインスピレーションを受けています。