mergeui

عنوان	com.emoji	colorFrom	colorTo	SDK	sdk_version	python_version	app_file	fullWidth	header	Disable_embedding	start_duration_timeout	رخصة	لغة	مجموعات البيانات	العلامات	short_description	صورة مصغرة	مثبت
MergeUI	؟	أرجواني	لون القرنفل	تدرج	4.31.5	3.9	mergeui/web/gradio_app/main.py	حقيقي	mini	خطأ شنيع	15 م	أباتشي-2.0	أون	open-llm-المتصدرين/النتائج	دمج المتصدرين mergekit معرف com لهذا التطبيق هو com.lazymergekit	واجهة مستخدم الكل في واحد لبرامج LLM المدمجة في Hugging Face Hub	https://raw.githubusercontent.com/naskio/mergeui/main/static/brand/banner.svg	حقيقي

واجهة مستخدم الكل في واحد لبرامج LLM المدمجة في Hugging Face

MergeUI هو مشروع مفتوح المصدر يهدف إلى توفير واجهة سهلة الاستخدام لاكتشاف وتحليل نماذج اللغات الكبيرة المدمجة (LLMs المدمجة) من Hugging Face Hub. ويركز بشكل خاص على النماذج التي تم دمجها باستخدام MergeKit.

• جربه
• مستودع جيثب
• ؟ معانقة مساحة الوجه

تطوير

متطلبات

لتشغيل المشروع محليًا، يجب تثبيت ما يلي:

• بايثون 3.9+
• الشعر 1.8+
• جراففيز
• عامل ميناء مع عامل ميناء يؤلف

يثبت

بمجرد تثبيت المتطلبات، يمكنك إعداد المشروع عن طريق تشغيل الأوامر التالية:

poetry install

بمجرد تثبيت التبعيات، تأكد من إعداد متغيرات البيئة عن طريق إنشاء ملف .env

cp .env.example .env

نصيحة

تعرف على المزيد حول متغيرات البيئة في ملف settings.py.

بعد ذلك، نحتاج إلى تشغيل قاعدة البيانات وRedis باستخدام Docker Compose:

docker compose up -d

نصيحة

قم بتشغيل docker compose down لإيقاف هذه الخدمات عند الانتهاء.

يجري

ملحوظة

يستخدم هذا المشروع poetry مع البرنامج المساعد Poe the Poet لتشغيل الأوامر، قم بتشغيل poe لرؤية جميع الأوامر المتاحة.

بمجرد اكتمال الإعداد، نحتاج إلى فهرسة النماذج من Hugging Face Hub وتخزينها في قاعدة البيانات.

الفهرسة

بالنسبة لنماذج الفهرسة نستخدم RQ:

• نحتاج أولاً إلى تشغيل بعض العمال عن طريق تشغيل الأمر التالي في علامات تبويب طرفية منفصلة:

  poe worker

• بعد ذلك، يمكننا أن نبدأ عملية الفهرسة عن طريق تشغيل:

  poe index

• لمراقبة عملية الفهرسة، يمكننا استخدام لوحة معلومات RQ عن طريق تشغيل:

  rq-dashboard

مهم

تستغرق عملية الفهرسة بضع دقائق حتى تكتمل اعتمادًا على مواردك وعدد العاملين وعدد نماذج merge المتاحة.

ملحوظة

يستغرق الأمر حوالي 6 دقائق لفهرسة رسم بياني لنماذج تبلغ حوالي 12 ألفًا وعلاقات تبلغ حوالي 51 ألفًا باستخدام 64 عاملاً.

التصور

بمجرد اكتمال عملية الفهرسة، يمكننا تشغيل تطبيقنا باستخدام الأمر التالي:

خادم FastAPI مع تطبيق Gradio

uvicorn mergeui.main:app --port 8000 --log-level trace

FastAPI فقط (وضع التطوير)

تحذير

قم بتعيين متغير البيئة GRADIO_APP_DISABLED إلى true لتعطيل تطبيق Gradio.

uvicorn mergeui.main:app --reload --port 8000 --log-level debug

تطبيق Gradio فقط (وضع التطوير)

gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading 

خادم بوكيه (وضع التطوير)

poe bokeh_dev

اختبار

يستخدم هذا المشروع pytest للاختبار، ويمكنك تشغيل الاختبارات باستخدام الأمر التالي:

poe test 

المساهمة

MergeUI هو مشروع جديد، وأي مساهمة من شأنها أن تحدث فرقا! سواء وجدت خطأ ما، أو كانت لديك تعليقات أو اقتراحات قيمة، أو ببساطة كنت ترغب في المشاركة، فنحن نحب أن نسمع منك!