openllmetry

إمكانية المراقبة مفتوحة المصدر لتطبيق LLM الخاص بك

ابدأ »

الركود | مستندات | موقع إلكتروني

جديد : أصبحت اصطلاحاتنا الدلالية الآن جزءًا من OpenTelemetry! انضم إلى المناقشة وساعدنا في تشكيل مستقبل إمكانية ملاحظة LLM.

هل تبحث عن إصدار JS/TS؟ تحقق من OpenLLMetry-JS.

OpenLLMetry عبارة عن مجموعة من الامتدادات المبنية على OpenTelemetry والتي تمنحك إمكانية المراقبة الكاملة عبر تطبيق LLM الخاص بك. نظرًا لأنه يستخدم OpenTelemetry أسفل الغطاء، فيمكن توصيله بحلول إمكانية المراقبة الحالية لديك - Datadog، وHoneycomb، وغيرها.

تم بناؤه وصيانته بواسطة Traceloop بموجب ترخيص Apache 2.0.

يحتوي الريبو على أدوات OpenTelemetry القياسية لموفري LLM وقواعد بيانات Vector، بالإضافة إلى Traceloop SDK الذي يجعل من السهل البدء باستخدام OpenLLMetry، مع الاستمرار في إخراج بيانات OpenTelemetry القياسية التي يمكن توصيلها بمكدس إمكانية المراقبة الخاص بك. إذا كان لديك بالفعل جهاز OpenTelemetry، فيمكنك فقط إضافة أي من أدواتنا مباشرة.

ابدء

أسهل طريقة للبدء هي استخدام SDK الخاص بنا. للحصول على دليل كامل، انتقل إلى مستنداتنا.

تثبيت SDK:

 نقطة تثبيت Traceloop-sdk

وبعد ذلك، لبدء استخدام التعليمات البرمجية الخاصة بك، ما عليك سوى إضافة هذا السطر إلى التعليمات البرمجية الخاصة بك:

 من Traceloop.sdk قم باستيراد TraceloopTraceloop.init()

هذا كل شيء. أنت الآن تتتبع التعليمات البرمجية الخاصة بك باستخدام OpenLLMetry! إذا كنت تقوم بتشغيل هذا محليًا، فقد ترغب في تعطيل إرسال الدُفعات، حتى تتمكن من رؤية الآثار على الفور:

 Traceloop.init(disable_batch=صحيح)

⏫ الوجهات المدعومة (والمختبرة).

• ✅تريسلوب

• ✅ اكسيوم

• ✅ رؤى تطبيق Azure

• ✅ الثقة بالعقل

• ✅ داش0

• ✅ داتا دوج

• ✅ديناتريس

• ✅جرافانا

• ✅ تسليط الضوء

• ✅ قرص العسل

• ✅ هايبر دي اكس

• ✅ آي بي إم إنستانا

• ✅ كلاود ميت

• ✅ بقايا جديدة

• ✅ جامع القياس عن بعد المفتوح

• ✅ الخدمة الآن إمكانية المراقبة السحابية

• ✅ سيجنوز

• ✅حارس

• ✅ سبلانك

راجع مستنداتنا للحصول على إرشادات حول الاتصال بكل منها.

ماذا نصنع؟

يمكن لـ OpenLLMetry قياس كل شيء يستخدمه OpenTelemetry بالفعل - مثل أشياء مثل قاعدة البيانات واستدعاءات واجهة برمجة التطبيقات والمزيد. علاوة على ذلك، قمنا ببناء مجموعة من الامتدادات المخصصة التي تتحكم في أشياء مثل مكالماتك إلى OpenAI أو Anthropic، أو قاعدة بيانات Vector الخاصة بك مثل Chroma أو Pinecone أو Qdrant أو Weaviate.

• ✅ OpenAI / Azure OpenAI

• ✅أنثروبي

• ✅تماسك

• ✅ أولاما

• ✅ميسترال AI

• ✅ معانقة الوجه

• ✅ حجر الأساس (AWS)

• ✅ سيج ميكر (AWS)

• ✅ النسخ

• ✅ قمة الذكاء الاصطناعي (GCP)

• ✅ جوجل الذكاء الاصطناعي (الجوزاء)

• ✅ آي بي إم واتسونكس AI

• ✅ معا الذكاء الاصطناعي

• ✅ ألف ألفا

• ✅ جروك

قواعد بيانات المتجهات

• ✅ كروما

• ✅ كوز الصنوبر

• ✅قدرانت

• ✅ ويفييت

• ✅ ميلفوس

• ✅ ماركو

• ✅ لانس دي بي

الأطر

• ✅ لانج تشين

• ✅ مؤشر اللاما

• ✅ كومة قش

• ✅ لايت LLM

المساهمة

سواء كانت كبيرة أو صغيرة، فنحن نحب المساهمات ❤️ راجع دليلنا لمعرفة كيفية البدء.

لست متأكدا من أين تبدأ؟ أنت تستطيع:

• احجز جلسة الاقتران المجانية مع أحد زملائنا في الفريق!

• انضم إلى Slack، واطرح علينا أي أسئلة هناك.

المجتمع والدعم

• Slack (للمناقشة المباشرة مع المجتمع وفريق Traceloop)

• مناقشات GitHub (للمساعدة في إنشاء محادثات أعمق حول الميزات)

• مشكلات GitHub (بالنسبة لأي أخطاء وأخطاء تواجهها عند استخدام OpenLLMetry)

• تويتر (احصل على الأخبار بسرعة)

شكر خاص

إلى @patrickdebois، الذي اقترح الاسم الرائع الذي نستخدمه الآن لهذا الريبو!