graphsignal python

Graphsignal: Observabilitas untuk AI Stack

Graphsignal adalah platform observasi untuk agen AI dan aplikasi yang didukung LLM. Ini membantu pengembang memastikan aplikasi AI berjalan sesuai harapan dan pengguna mendapatkan pengalaman terbaik. Dengan Graphsignal, pengembang dapat:

• Lacak generasi, proses, dan sesi dengan konteks AI penuh.
• Skor setiap interaksi pengguna dan eksekusi aplikasi.
• Lihat perincian dan distribusi latensi.
• Analisis biaya API model untuk penerapan, model, atau pengguna.
• Dapatkan pemberitahuan tentang kesalahan dan anomali.
• Pantau pemanfaatan API, komputasi, dan GPU.

Pelajari lebih lanjut di graphsignal.com.

Memasang

Instal perpustakaan Graphsignal.

pip install --upgrade graphsignal

Konfigurasikan

Konfigurasikan pelacak Graphsignal dengan menentukan kunci API Anda secara langsung atau melalui variabel lingkungan GRAPHSIGNAL_API_KEY .

 import graphsignal

graphsignal . configure ( api_key = 'my-api-key' , deployment = 'my-app' )

Untuk mendapatkan kunci API, daftar untuk mendapatkan akun gratis di graphsignal.com. Kuncinya kemudian dapat ditemukan di halaman Pengaturan/Kunci API akun Anda.

Alternatifnya, Anda dapat menambahkan pelacak Graphsignal di baris perintah, saat menjalankan modul atau skrip Anda. Variabel lingkungan GRAPHSIGNAL_API_KEY dan GRAPHSIGNAL_DEPLOYMENT harus disetel.

python -m graphsignal < script > 

python -m graphsignal -m < module > 

Mengintegrasikan

Instrumen otomatis Graphsignal dan menelusuri pustaka dan kerangka kerja, seperti OpenAI dan LangChain. Jejak, kesalahan, dan data, seperti petunjuk dan penyelesaian, secara otomatis dicatat dan tersedia untuk analisis di app.graphsignal.com.

Lihat panduan di bawah ini untuk informasi rinci tentang:

• Pelacakan Sesi
• Pelacakan Pengguna
• Penelusuran Manual
• Skor dan Umpan Balik
• Pemantauan Biaya dan Penggunaan

Lihat referensi API untuk dokumentasi lengkap.

Beberapa contoh integrasi tersedia di contoh repo.

Menganalisa

Masuk ke Graphsignal untuk memantau dan menganalisis aplikasi Anda serta memantau masalah.

Atas

Pelacak sinyal grafik sangat ringan. Overhead per jejak diukur kurang dari 100 mikrodetik.

Keamanan dan Privasi

Pelacak Graphsignal hanya dapat membuka koneksi keluar ke api.graphsignal.com dan mengirim data, tidak ada koneksi atau perintah masuk yang dapat dilakukan.

Payload, seperti perintah dan penyelesaian, dicatat secara default dalam kasus penelusuran otomatis. Untuk menonaktifkan, setel record_payloads=False di graphsignal.configure .

Pemecahan masalah

Untuk mengaktifkan pencatatan log debug, tambahkan debug_mode=True ke configure() . Jika log debug tidak memberikan petunjuk apa pun tentang cara memperbaiki masalah, harap laporkan ke tim dukungan kami melalui akun Anda.

Jika terjadi masalah koneksi, pastikan koneksi keluar ke https://api.graphsignal.com diizinkan.