graphsignal python

Graphsignal：AI 堆栈的可观察性

Graphsignal 是一个适用于 AI 代理和 LLM 支持的应用程序的可观察平台。它帮助开发人员确保人工智能应用程序按预期运行并让用户获得最佳体验。借助 Graphsignal，开发人员可以：

• 使用完整的 AI 上下文跟踪生成、运行和会话。
• 对任何用户交互和应用程序执行进行评分。
• 查看延迟细目和分布。
• 分析部署、模型或用户的模型 API 成本。
• 获得有关错误和异常的通知。
• 监控 API、计算和 GPU 利用率。

请访问 graphsignal.com 了解更多信息。

安装

安装 Graphsignal 库。

pip install --upgrade graphsignal

配置

通过直接指定 API 密钥或通过GRAPHSIGNAL_API_KEY环境变量来配置 Graphsignal 跟踪器。

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

要获取 API 密钥，请在 graphsignal.com 上注册免费帐户。然后可以在您帐户的“设置”/“API 密钥”页面中找到该密钥。

或者，您可以在运行模块或脚本时在命令行添加 Graphsignal 跟踪器。必须设置环境变量GRAPHSIGNAL_API_KEY和GRAPHSIGNAL_DEPLOYMENT 。

python -m graphsignal < script > 

python -m graphsignal -m < module > 

整合

Graphsignal自动检测和跟踪库和框架，例如 OpenAI 和 LangChain。跟踪、错误和数据（例如提示和完成）会自动记录并可在 app.graphsignal.com 上进行分析。

有关详细信息，请参阅以下指南：

• 会话跟踪
• 用户追踪
• 手动追踪
• 分数和反馈
• 成本和使用监控

请参阅 API 参考以获取完整文档。

示例存储库中提供了一些集成示例。

分析

登录 Graphsignal 来监控和分析您的应用程序并监控问题。

开销

Graphsignal 跟踪器非常轻量级。每条跟踪的开销经测量小于 100 微秒。

安全和隐私

Graphsignal 跟踪器只能打开到api.graphsignal.com出站连接并发送数据，不可能有入站连接或命令。

在自动跟踪的情况下，默认情况下会记录提示和完成等有效负载。要禁用，请在graphsignal.configure中设置record_payloads=False 。

故障排除

要启用调试日志记录，请将debug_mode=True添加到configure() 。如果调试日志没有给您任何有关如何解决问题的提示，请通过您的帐户向我们的支持团队报告。

如果出现连接问题，请确保允许到https://api.graphsignal.com的传出连接。