openllmetry ดาวน์โหลด - ดาวน์โหลด openllmetry ซอร์สโค้ด

openllmetry

ซอร์สโค้ดอื่น ๆ

0.33.12

ดาวน์โหลด

ความสามารถในการสังเกตโอเพ่นซอร์สสำหรับแอปพลิเคชัน LLM ของคุณ

เริ่มต้น »

หย่อน | เอกสาร | เว็บไซต์

ใหม่ : ข้อตกลงเชิงความหมายของเราตอนนี้เป็นส่วนหนึ่งของ OpenTelemetry แล้ว! เข้าร่วมการสนทนาและช่วยเรากำหนดอนาคตของความสามารถในการสังเกต LLM

กำลังมองหาเวอร์ชัน JS/TS อยู่ใช่ไหม? ตรวจสอบ OpenLLMetry-JS

OpenLLMetry คือชุดส่วนขยายที่สร้างขึ้นจาก OpenTelemetry ซึ่งช่วยให้คุณสามารถสังเกตแอปพลิเคชัน LLM ของคุณได้อย่างสมบูรณ์ เนื่องจากใช้ OpenTelemetry ภายใต้ประทุน จึงสามารถเชื่อมต่อกับโซลูชันการสังเกตที่มีอยู่ของคุณ เช่น Datadog, Honeycomb และอื่นๆ

สร้างและดูแลโดย Traceloop ภายใต้ลิขสิทธิ์ Apache 2.0

ที่เก็บประกอบด้วยเครื่องมือ OpenTelemetry มาตรฐานสำหรับผู้ให้บริการ LLM และ Vector DB รวมถึง Traceloop SDK ที่ทำให้ง่ายต่อการเริ่มต้นใช้งาน OpenLLMetry ในขณะที่ยังคงส่งออกข้อมูล OpenTelemetry มาตรฐานที่สามารถเชื่อมต่อกับสแต็กความสามารถในการสังเกตของคุณได้ หากคุณมีเครื่องมือ OpenTelemetry อยู่แล้ว คุณสามารถเพิ่มเครื่องมือใดๆ ของเราได้โดยตรง

เริ่มต้นใช้งาน

วิธีเริ่มต้นที่ง่ายที่สุดคือการใช้ SDK ของเรา หากต้องการคำแนะนำฉบับสมบูรณ์ โปรดไปที่เอกสารของเรา

ติดตั้ง SDK:

 pip ติดตั้ง Traceloop-sdk

จากนั้น หากต้องการเริ่มติดตั้งโค้ดของคุณ เพียงเพิ่มบรรทัดนี้ในโค้ดของคุณ:

 จาก Traceloop.sdk นำเข้า TraceloopTraceloop.init()

แค่นั้นแหละ. ขณะนี้คุณกำลังติดตามโค้ดของคุณด้วย OpenLLMetry! หากคุณใช้งานสิ่งนี้ในเครื่อง คุณอาจต้องการปิดการใช้งานการส่งเป็นชุด เพื่อให้คุณสามารถเห็นการติดตามได้ทันที:

 Traceloop.init(disable_batch=True)

⏫ ปลายทางที่รองรับ (และทดสอบแล้ว)

✅เทรซลูป
✅สัจพจน์
✅ ข้อมูลเชิงลึกของแอปพลิเคชัน Azure
✅ ความไว้วางใจทางสมอง
✅ แดช0
✅ ดาต้าด็อก
✅ไดนาเทรซ
✅กราฟาน่า
✅ไฮไลท์
✅รังผึ้ง
✅ไฮเปอร์ดีเอ็กซ์
✅ไอบีเอ็ม อินสตาน่า
✅คลาวด์เมท
✅ ของที่ระลึกใหม่
✅ ตัวสะสม OpenTelemetry
✅ ให้บริการทันที ความสามารถในการสังเกตบนคลาวด์
✅ ซิกโนซ
✅เซนทรี่
✅ สะลึมสะลือ

ดูเอกสารของเราสำหรับคำแนะนำในการเชื่อมต่อแต่ละรายการ

เราใช้เครื่องมืออะไร?

OpenLLMetry สามารถวัดทุกอย่างที่ OpenTelemetry วัดอยู่แล้ว - เช่น DB, การเรียก API และอื่นๆ อีกมากมาย ยิ่งไปกว่านั้น เรายังสร้างชุดส่วนขยายแบบกำหนดเองที่ใช้เครื่องมือต่างๆ เช่น การเรียก OpenAI หรือ Anthropic หรือ Vector DB ของคุณ เช่น Chroma, Pinecone, Qdrant หรือ Weaviate

✅ OpenAI / Azure OpenAI
✅ มานุษยวิทยา
✅เชื่อมโยงกัน
✅โอลามะ
✅มิสทรัลเอไอ
✅กอดหน้า
✅ หินดาด (AWS)
✅ SageMaker (AWS)
✅ทำซ้ำ
✅ เวอร์เท็กซ์เอไอ (GCP)
✅ Google กำเนิด AI (ราศีเมถุน)
✅ IBM Watsonx AI
✅ ร่วมกันเอไอ
✅อเลฟ อัลฟ่า
✅กรอค

ฐานข้อมูลเวกเตอร์

✅โครมา
✅ไพน์โคน
✅คิวดรานท์
✅วีวิเอท
✅มิลวัส
✅มาร์คโก้
✅แลนซ์ดีบี

กรอบงาน

✅แลงเชน
✅ LlamaIndex
✅กองหญ้า
✅ LiteLLM

มีส่วนร่วม

ไม่ว่าจะเล็กหรือใหญ่ เรารักการมีส่วนร่วม ❤️ ลองอ่านคำแนะนำของเราเพื่อดูวิธีเริ่มต้นใช้งาน

ไม่แน่ใจว่าจะเริ่มต้นจากตรงไหน? คุณสามารถ:

จองเซสชั่นจับคู่กับเพื่อนร่วมทีมของเราฟรี!
เข้าร่วม Slack ของเรา และถามคำถามกับเราที่นั่น

ชุมชนและการสนับสนุน

Slack (สำหรับการสนทนาสดกับชุมชนและทีม Traceloop)
การสนทนา GitHub (สำหรับความช่วยเหลือในการสร้างและการสนทนาเชิงลึกเกี่ยวกับคุณสมบัติต่างๆ)
ปัญหา GitHub (สำหรับข้อบกพร่องและข้อผิดพลาดใด ๆ ที่คุณพบโดยใช้ OpenLLMetry)
Twitter (รับข่าวสารอย่างรวดเร็ว)