minichat

com.miniChat

واجهة مستخدم دردشة LLM بسيطة، مستوحاة من Fooocus وPi.

إذا كان لديك نقطة نهاية API ممكّنة لـ CORS لاستخدامها، فيمكنك تجربتها هنا.

الهدف هو التركيز على المحتوى وإخفاء أكبر قدر ممكن من الترقيع والتبديل.

نحن نؤكد على المحتوى باستخدام الطباعة الغامقة والتصميم البسيط.

إعدادات

نحن نحاول الحفاظ على الحد الأدنى من التكوين مع المرونة.

يدعم MiniChat واجهات برمجة التطبيقات المتوافقة مع OpenAI، راجع قسم Docker Compose لتشغيل MiniChat مع موفري النماذج المختلفين من خلال الاستفادة من البوابات مثل Portkey.

عامل ميناء

يمكنك تشغيل MiniChat باستخدام Docker، حجم الصورة أقل من 2 ميجابايت.

 docker run -p 3216:3216 ghcr.io/functorism/minichat:master

عامل الميناء يؤلف

أولاما

يجري

 docker compose -f docker-compose-ollama.yml up
docker exec minichat-ollama-1 ollama pull llama3:8b

إعدادات واجهة المستخدم:

• الموديل: لاما3:8ب
• عنوان URL لواجهة برمجة تطبيقات OpenAI: http://localhost:11434/v1
• مفتاح واجهة برمجة التطبيقات: غير مستخدم مقابل أولاما

بورتكي

يجري

 docker compose -f docker-compose-portkey.yml up

إعدادات واجهة المستخدم:

• الموديل: كلود-3-5-سونيت-20240620
• عنوان URL لواجهة برمجة تطبيقات OpenAI: http://localhost:8080/http://portkey:8787/v1
• مفتاح واجهة برمجة التطبيقات: sk-...
• الرؤوس
  • موفر x-portkey: أنثروبي

HuggingFace استنتاج إنشاء النص

يجري

 docker compose -f docker-compose-tf-tgi.yml up

إعدادات واجهة المستخدم:

• الموديل: HuggingFaceH4/zephyr-7b-beta
• عنوان URL لواجهة برمجة تطبيقات OpenAI: http://localhost:8080/v1
• مفتاح واجهة برمجة التطبيقات: غير مستخدم مقابل hf-tgi
• الرؤوس
  • حدد "إرسال الحد الأدنى من الرؤوس"