graphsignal python

Graphsignal：AI 堆疊的可觀察性

Graphsignal 是一個適用於 AI 代理和 LLM 支援的應用程式的可觀察平台。它幫助開發人員確保人工智慧應用程式能如預期運作並讓用戶獲得最佳體驗。透過 Graphsignal，開發人員可以：

• 使用完整的 AI 上下文追蹤生成、運行和會話。
• 對任何使用者互動和應用程式執行進行評分。
• 查看延遲細目和分佈。
• 分析部署、模型或使用者的模型 API 成本。
• 獲得有關錯誤和異常的通知。
• 監控 API、運算和 GPU 利用率。

請造訪 graphsignal.com 以了解更多資訊。

安裝

安裝 Graphsignal 函式庫。

pip install --upgrade graphsignal

配置

透過直接指定 API 金鑰或透過GRAPHSIGNAL_API_KEY環境變數來配置 Graphsignal 追蹤器。

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

若要取得 API 金鑰，請在 graphsignal.com 上註冊免費帳戶。然後可以在您帳戶的「設定」/「API 金鑰」頁面中找到該金鑰。

或者，您可以在執行模組或腳本時在命令列中新增 Graphsignal 追蹤器。必須設定環境變數GRAPHSIGNAL_API_KEY和GRAPHSIGNAL_DEPLOYMENT 。

python -m graphsignal < script > 

python -m graphsignal -m < module > 

整合

Graphsignal會自動偵測和追蹤函式庫和框架，例如 OpenAI 和 LangChain。追蹤、錯誤和資料（例如提示和完成）會自動記錄並可在 app.graphsignal.com 上進行分析。

有關詳細信息，請參閱以下指南：

• 會話追蹤
• 使用者追蹤
• 手動追蹤
• 分數和回饋
• 成本和使用監控

請參閱 API 參考以取得完整文件。

範例儲存庫中提供了一些整合範例。

分析

登入 Graphsignal 來監控和分析您的應用程式並監控問題。

開賣

Graphsignal 追蹤器非常輕量級。每條追蹤的開銷經測量小於 100 微秒。

安全和隱私

Graphsignal 追蹤器只能開啟到api.graphsignal.com出站連線並發送數據，不可能有入站連線或命令。

在自動追蹤的情況下，預設會記錄提示和完成等有效負載。若要停用，請在graphsignal.configure中設定record_payloads=False 。

故障排除

若要啟用偵錯日誌記錄，請將debug_mode=True新增至configure() 。如果偵錯日誌沒有給您任何有關如何解決問題的提示，請透過您的帳戶向我們的支援團隊報告。

如果出現連線問題，請確保允許到https://api.graphsignal.com的傳出連線。