LLM 申請的開源可觀察性
新功能:我們的語意約定現在是 OpenTelemetry 的一部分!加入討論並幫助我們塑造法學碩士可觀察性的未來。
正在尋找 JS/TS 版本?查看 OpenLLMetry-JS。
OpenLLMetry 是一組基於 OpenTelemetry 構建的擴展,可讓您對 LLM 應用程式具有完全的可觀察性。由於它在底層使用 OpenTelemetry,因此可以連接到您現有的可觀測性解決方案 - Datadog、Honeycomb 等。
它由 Traceloop 根據 Apache 2.0 許可證建構和維護。
此儲存庫包含適用於 LLM 提供者和向量資料庫的標準 OpenTelemetry 儀器,以及 Traceloop SDK,可輕鬆開始使用 OpenLLMetry,同時仍輸出可連接到可觀測性堆疊的標準 OpenTelemetry 資料。如果您已經安裝了 OpenTelemetry 儀器,則可以直接添加我們的任何儀器。
最簡單的入門方法是使用我們的 SDK。如需完整指南,請造訪我們的文件。
安裝SDK:
pip 安裝traceloop-sdk
然後,要開始檢測您的程式碼,只需將此行添加到您的程式碼中:
從traceloop.sdk導入TraceloopTraceloop.init()
就是這樣。您現在正在使用 OpenLLMetry 追蹤您的程式碼!如果您在本地運行此程序,您可能需要停用批量發送,以便您可以立即看到追蹤:
Traceloop.init(disable_batch=True)
✅ 追蹤循環
✅ 公理
✅ Azure 應用程式洞察
✅ 智囊團
✅ 衝刺0
✅ 數據狗
✅ 動態追蹤
✅ 格拉法納
✅ 突出顯示
✅ 蜂窩狀
✅ 超DX
✅ IBM Instana
✅ 雲伴侶
✅ 新遺物
✅ 開啟遙測收集器
✅ 立即服務雲端可觀測性
✅ 簽名Noz
✅ 哨兵
✅ 斯普朗克
請參閱我們的文檔,以了解有關連接到每一個的說明。
OpenLLMetry 可以偵測 OpenTelemetry 已經偵測到的所有內容 - 例如資料庫、API 呼叫等。最重要的是,我們建立了一組自訂擴展,用於檢測您對 OpenAI 或 Anthropic 的調用,或您的向量資料庫(如 Chroma、Pinecone、Qdrant 或 Weaviate)。
✅ OpenAI / Azure OpenAI
✅ 人為
✅ 凝聚力
✅ 奧拉馬
✅ 米斯特拉爾人工智慧
✅ 抱臉
✅ 基岩 (AWS)
✅ SageMaker (AWS)
✅ 複製
✅ 頂點人工智慧 (GCP)
✅ 谷歌生成式人工智慧(Gemini)
✅ IBM Watsonx 人工智慧
✅ 一起人工智慧
✅ 阿萊夫阿爾法
✅ 格羅克
✅ 色度
✅ 松果
✅ Qdrant
✅ 維維
✅ 米爾武斯
✅ 馬可
✅ 蘭斯資料庫
✅ 浪鏈
✅ 駱駝指數
✅ 乾草堆
✅ 萊特法學碩士
無論大小,我們都喜歡貢獻❤️ 查看我們的指南以了解如何開始。
不確定從哪裡開始?你可以:
與我們的一位隊友預訂一次免費配對課程!
加入我們的 Slack,並在那裡向我們提出任何問題。
Slack(用於與社區和 Traceloop 團隊進行即時討論)
GitHub 討論(幫助建立並更深入地討論功能)
GitHub 問題(對於使用 OpenLLMetry 遇到的任何錯誤和錯誤)
Twitter(快速獲取新聞)
感謝@patrickdebois,他為我們現在為這個存儲庫使用的偉大名稱提出了建議!