graphsignal python

Graphsignal: AI 스택에 대한 관측성

Graphsignal은 AI 에이전트 및 LLM 기반 애플리케이션을 위한 관찰 플랫폼입니다. 이를 통해 개발자는 AI 애플리케이션이 예상대로 실행되고 사용자에게 최상의 경험을 제공할 수 있습니다. Graphsignal을 사용하여 개발자는 다음을 수행할 수 있습니다.

• 전체 AI 컨텍스트를 사용하여 세대, 실행 및 세션을 추적합니다.
• 모든 사용자 상호 작용 및 애플리케이션 실행에 점수를 매깁니다.
• 지연 시간 분석 및 분포를 확인하세요.
• 배포, 모델 또는 사용자에 대한 모델 API 비용을 분석합니다.
• 오류 및 이상 현상에 대한 알림을 받으세요.
• API, 컴퓨팅 및 GPU 활용도를 모니터링합니다.

graphsignal.com에서 자세히 알아보세요.

설치하다

Graphsignal 라이브러리를 설치합니다.

pip install --upgrade graphsignal

구성

API 키를 직접 지정하거나 GRAPHSIGNAL_API_KEY 환경 변수를 통해 Graphsignal 추적기를 구성합니다.

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

API 키를 얻으려면 graphsignal.com에서 무료 계정에 가입하세요. 그러면 계정의 설정/API 키 페이지에서 키를 찾을 수 있습니다.

또는 모듈이나 스크립트를 실행할 때 명령줄에서 Graphsignal 추적기를 추가할 수 있습니다. 환경 변수 GRAPHSIGNAL_API_KEY 및 GRAPHSIGNAL_DEPLOYMENT 설정해야 합니다.

python -m graphsignal < script > 

python -m graphsignal -m < module > 

통합

Graphsignal은 OpenAI 및 LangChain과 같은 라이브러리 및 프레임워크를 자동 계측하고 추적합니다. 프롬프트 및 완료와 같은 추적, 오류 및 데이터는 자동으로 기록되어 app.graphsignal.com에서 분석에 사용할 수 있습니다.

다음에 대한 자세한 내용은 아래 가이드를 참조하세요.

• 세션 추적
• 사용자 추적
• 수동 추적
• 점수 및 피드백
• 비용 및 사용량 모니터링

전체 문서는 API 참조를 참조하세요.

일부 통합 예시는 예시 저장소에서 확인할 수 있습니다.

분석하다

Graphsignal에 로그인하여 애플리케이션을 모니터링 및 분석하고 문제를 모니터링하세요.

간접비

Graphsignal 추적기는 매우 가볍습니다. 추적당 오버헤드는 100마이크로초 미만으로 측정됩니다.

보안 및 개인정보 보호

Graphsignal 추적기는 api.graphsignal.com 에 대한 아웃바운드 연결만 열고 데이터를 보낼 수 있으며 인바운드 연결이나 명령은 불가능합니다.

자동 추적의 경우 프롬프트 및 완료와 같은 페이로드가 기본적으로 기록됩니다. 비활성화하려면 graphsignal.configure 에서 record_payloads=False 설정하세요.

문제 해결

디버그 로깅을 활성화하려면 debug_mode=True configure() 에 추가하세요. 디버그 로그에서 문제 해결 방법에 대한 힌트를 얻을 수 없는 경우 귀하의 계정을 통해 지원팀에 신고해 주세요.

연결 문제가 있는 경우 https://api.graphsignal.com 으로 나가는 연결이 허용되는지 확인하세요.