frugal
1.0.0
منصة مفتوحة المصدر لتحسين التكلفة والموارد لطلاب LLM. كن مقتصدا! ؟
Numexa هي أداة لتحسين التكلفة والموارد تعتمد على الذكاء الاصطناعي ومصممة لتعزيز الكفاءة التشغيلية. ويحقق ذلك من خلال الاستفادة من الرؤى السياقية المستمدة من مقاييس الاستخدام. تستخدم Numexa تقنيات متطورة مثل التخزين المؤقت الذكي واسترجاع البيانات، وتسخير قوة قواعد البيانات المتجهة لتبسيط العمليات. اكتشف كيف يمكن لـ Numexa أن يُحدث ثورة في إدارة مواردك ومساعيك لتوفير التكاليف.
تسجل الوظيفة المحايدة للنموذج طلبات غير محدودة من موفري خدمات مختلفين مثل OpenAI وCohere وAnthropic والمزيد.
؟ إدارة النموذج
؟ التنبيه والإخطار بسياسات محددة مسبقًا، مثل معدل الخطأ والحد الأدنى والتكلفة وما إلى ذلك.
؟ التخزين المؤقت، وحدود المعدل المخصص، وإعادة المحاولة،
تتبع التكاليف وفترات الاستجابة حسب المستخدمين والتطبيقات ونقاط النهاية
(قريبا) التخزين المؤقت الذكي واسترجاع البيانات
(قريبا) تحسين التكلفة والموارد
قبل البدء، تأكد من تثبيت ما يلي على نظامك:
استنساخ المستودع:
git clone < repository_url >
cd < repository_directory >
إنشاء الخدمات وبدء تشغيلها: قم بتشغيل الأوامر التالية لإنشاء خدمات المشروع وبدء تشغيلها
make all
docker compose -f docker-compose.dev.yaml up -dالتحقق من الخدمات: بعد تشغيل الأوامر المذكورة أعلاه، يجب أن تكون خدمات مشروعك جاهزة للعمل. يمكنك التحقق من ذلك عن طريق التحقق من السجلات
انضم إلى #Discord أو أرسل بريدًا إلكترونيًا على [email protected]
