graphsignal python

Graphsignal: наблюдаемость для стека искусственного интеллекта

Graphsignal — это платформа наблюдения для агентов искусственного интеллекта и приложений на базе LLM. Это помогает разработчикам гарантировать, что приложения искусственного интеллекта работают должным образом, а пользователи получают наилучшие впечатления. С помощью Graphsignal разработчики могут:

• Отслеживайте поколения, запуски и сеансы с полным контекстом ИИ.
• Оценивайте любые взаимодействия с пользователем и выполнение приложений.
• См. разбивку и распределение задержек.
• Анализируйте затраты на API модели для развертываний, моделей или пользователей.
• Получайте уведомления об ошибках и аномалиях.
• Отслеживайте использование API, вычислений и графического процессора.

Узнайте больше на сайте Graphsignal.com.

Установить

Установите библиотеку Graphsignal.

pip install --upgrade graphsignal

Настроить

Настройте трассировщик Graphsignal, указав свой ключ API напрямую или через переменную среды GRAPHSIGNAL_API_KEY .

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

Чтобы получить ключ API, зарегистрируйте бесплатную учетную запись на сайтеgraphsignal.com. Затем ключ можно будет найти на странице «Настройки/Ключи API» вашей учетной записи.

Альтернативно вы можете добавить трассировщик Graphsignal в командную строку при запуске вашего модуля или скрипта. Необходимо установить переменные среды GRAPHSIGNAL_API_KEY и GRAPHSIGNAL_DEPLOYMENT .

python -m graphsignal < script > 

python -m graphsignal -m < module > 

Интегрировать

Graphsignal автоматически использует и отслеживает библиотеки и платформы, такие как OpenAI и LangChain. Трассировки, ошибки и данные, такие как подсказки и дополнения, автоматически записываются и доступны для анализа на сайте app.graphsignal.com.

Обратитесь к руководствам ниже для получения подробной информации о:

• Отслеживание сеансов
• Отслеживание пользователей
• Ручное отслеживание
• Оценки и обратная связь
• Мониторинг затрат и использования

Полную документацию см. в справочнике по API.

Некоторые примеры интеграции доступны в репозитории примеров.

Анализировать

Войдите в Graphsignal, чтобы отслеживать и анализировать свое приложение, а также отслеживать проблемы.

Накладные расходы

Graphsignal Tracer очень легкий. Издержки на одну трассировку измерены и составляют менее 100 микросекунд.

Безопасность и конфиденциальность

Трассировщик Graphsignal может открывать только исходящие соединения с api.graphsignal.com и отправлять данные; входящие соединения или команды невозможны.

Полезные данные, такие как подсказки и дополнения, записываются по умолчанию в случае автоматической трассировки. Чтобы отключить, установите record_payloads=False в graphsignal.configure .

Поиск неисправностей

Чтобы включить ведение журнала отладки, добавьте debug_mode=True в configure() . Если журнал отладки не дает никаких подсказок о том, как решить проблему, сообщите об этом в нашу службу поддержки через свою учетную запись.

В случае проблем с подключением убедитесь, что исходящие подключения к https://api.graphsignal.com разрешены.