graphsignal python

Graphsignal: AI スタックの可観測性

Graphsignal は、AI エージェントおよび LLM を利用したアプリケーションのための可観測性プラットフォームです。これにより、開発者は AI アプリケーションが期待どおりに実行され、ユーザーは最高のエクスペリエンスを得ることができます。 Graphsignal を使用すると、開発者は次のことが可能になります。

• 完全な AI コンテキストで世代、実行、セッションをトレースします。
• ユーザー操作とアプリケーションの実行をスコアリングします。
• レイテンシーの内訳と分布を参照してください。
• デプロイメント、モデル、またはユーザーのモデル API コストを分析します。
• エラーや異常について通知を受け取ります。
• API、コンピューティング、GPU の使用率を監視します。

詳細については、graphsignal.com をご覧ください。

インストール

Graphsignal ライブラリをインストールします。

pip install --upgrade graphsignal

設定する

API キーを直接指定するか、 GRAPHSIGNAL_API_KEY環境変数を介して、Graphsignal トレーサを構成します。

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

API キーを取得するには、graphsignal.com で無料アカウントにサインアップしてください。このキーは、アカウントの [設定 / API キー] ページで確認できます。

あるいは、モジュールまたはスクリプトの実行時にコマンド ラインで Graphsignal トレーサを追加することもできます。環境変数GRAPHSIGNAL_API_KEYおよびGRAPHSIGNAL_DEPLOYMENTを設定する必要があります。

python -m graphsignal < script > 

python -m graphsignal -m < module > 

統合する

Graphsignal は、OpenAI や LangChain などのライブラリとフレームワークを自動計測およびトレースします。トレース、エラー、プロンプトや完了などのデータは自動的に記録され、app.graphsignal.com で分析できます。

以下の詳細については、以下のガイドを参照してください。

• セッション追跡
• ユーザー追跡
• 手動トレース
• スコアとフィードバック
• コストと使用量の監視

完全なドキュメントについては、API リファレンスを参照してください。

いくつかの統合例は、サンプル リポジトリで入手できます。

分析する

Graphsignal にログインして、アプリケーションを監視および分析し、問題を監視します。

オーバーヘッド

Graphsignal トレーサは非常に軽量です。トレースあたりのオーバーヘッドは 100 マイクロ秒未満であると測定されています。

セキュリティとプライバシー

Graphsignal トレーサーは、 api.graphsignal.comへのアウトバウンド接続を開いてデータを送信することのみが可能で、インバウンド接続やコマンドは実行できません。

プロンプトや入力完了などのペイロードは、自動トレースの場合にデフォルトで記録されます。無効にするには、 graphsignal.configureでrecord_payloads=Falseを設定します。

トラブルシューティング

デバッグ ログを有効にするには、 debug_mode=True configure()に追加します。デバッグ ログに問題の修正方法に関するヒントが得られない場合は、アカウント経由でサポート チームに報告してください。

接続の問題が発生した場合は、https: https://api.graphsignal.comへの送信接続が許可されていることを確認してください。