graphsignal python

Graphsignal: Observabilidade para AI Stack

Graphsignal é uma plataforma de observabilidade para agentes de IA e aplicativos baseados em LLM. Ajuda os desenvolvedores a garantir que os aplicativos de IA funcionem conforme o esperado e que os usuários tenham a melhor experiência. Com o Graphsignal, os desenvolvedores podem:

• Rastreie gerações, execuções e sessões com contexto completo de IA.
• Pontue quaisquer interações do usuário e execução de aplicativos.
• Veja detalhamentos e distribuições de latência.
• Analise os custos da API do modelo para implantações, modelos ou usuários.
• Seja notificado sobre erros e anomalias.
• Monitore a utilização de API, computação e GPU.

Saiba mais em graphsignal.com.

Instalar

Instale a biblioteca Graphsignal.

pip install --upgrade graphsignal

Configurar

Configure o rastreador Graphsignal especificando sua chave de API diretamente ou por meio da variável de ambiente GRAPHSIGNAL_API_KEY .

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

Para obter uma chave API, cadastre-se para uma conta gratuita em graphsignal.com. A chave pode então ser encontrada na página Configurações/Chaves de API da sua conta.

Alternativamente, você pode adicionar o rastreador Graphsignal na linha de comando, ao executar seu módulo ou script. As variáveis ​​de ambiente GRAPHSIGNAL_API_KEY e GRAPHSIGNAL_DEPLOYMENT devem ser definidas.

python -m graphsignal < script > 

python -m graphsignal -m < module > 

Integrar

O Graphsignal instrumenta automaticamente e rastreia bibliotecas e estruturas, como OpenAI e LangChain. Rastreamentos, erros e dados, como prompts e conclusões, são registrados automaticamente e disponibilizados para análise em app.graphsignal.com.

Consulte os guias abaixo para obter informações detalhadas sobre:

• Acompanhamento de sessão
• Rastreamento de usuário
• Rastreamento manual
• Pontuações e feedback
• Monitoramento de custo e uso

Consulte a referência da API para obter a documentação completa.

Alguns exemplos de integração estão disponíveis no repositório de exemplos.

Analisar

Faça login no Graphsignal para monitorar e analisar seu aplicativo e monitorar problemas.

Despesas gerais

O rastreador Graphsignal é muito leve. A sobrecarga por rastreamento é medida como sendo inferior a 100 microssegundos.

Segurança e privacidade

O rastreador Graphsignal só pode abrir conexões de saída para api.graphsignal.com e enviar dados, nenhuma conexão ou comando de entrada é possível.

Cargas úteis, como prompts e conclusões, são registradas por padrão em caso de rastreamento automático. Para desativar, defina record_payloads=False em graphsignal.configure .

Solução de problemas

Para ativar o log de depuração, adicione debug_mode=True a configure() . Se o log de depuração não fornecer nenhuma dica sobre como corrigir um problema, informe nossa equipe de suporte por meio de sua conta.

Em caso de problemas de conexão, certifique-se de que conexões de saída para https://api.graphsignal.com sejam permitidas.