AI Runner عبارة عن واجهة تسمح لك بتشغيل نماذج اللغات الكبيرة مفتوحة المصدر (LLM) ومولدات صور الذكاء الاصطناعي (Stable Diffusion) على أجهزتك الخاصة.
لقد تم تصميمه ليكون سهل الاستخدام، مع واجهة بسيطة وبديهية تسمح لك بتشغيل نماذج الذكاء الاصطناعي دون الحاجة إلى خادم ويب أو خدمة سحابية.
لقد تم تحسينه من أجل السرعة والكفاءة، مما يسمح لك بإنشاء الصور وإجراء محادثات مع روبوتات الدردشة في الوقت الفعلي.
AI Runner عبارة عن واجهة AI تسمح لك بتشغيل نماذج اللغات الكبيرة مفتوحة المصدر (LLM) ومولدات صور الذكاء الاصطناعي (Stable Diffusion) على أجهزتك الخاصة.
ميزة | وصف |
---|---|
LLMs والاتصالات | |
محادثات chatbot القائمة على الصوت | قم بإجراء محادثات مع chatbot باستخدام صوتك |
تحويل النص إلى كلام | تحويل النص إلى صوت منطوق |
تحويل الكلام إلى نص | تحويل الصوت المنطوق إلى نص |
روبوتات الدردشة القابلة للتخصيص مع LLMs | إنشاء نص باستخدام نماذج لغة كبيرة |
RAG على الوثائق والمواقع المحلية | تفاعل مع مستنداتك المحلية باستخدام LLM |
؟ توليد الصور | |
الانتشار المستقر (جميع الإصدارات) | إنشاء الصور باستخدام Stable Diffusion |
أدوات الرسم | تحويل الرسومات إلى فن |
تحويل النص إلى صورة | توليد الصور من الأوصاف النصية |
صورة إلى صورة | توليد الصور على أساس الصور المدخلة |
️ التلاعب بالصورة | |
Inpaint وOutpaint | تعديل أجزاء من الصورة مع الحفاظ على السياق |
شبكة التحكم | السيطرة على توليد الصور مع مدخلات إضافية |
لورا | تحسين النماذج بكفاءة باستخدام LoRA |
التضمينات النصية | استخدم التضمينات النصية للتحكم في توليد الصور |
مرشحات الصور | التمويه، وحبيبات الفيلم، وفن البكسل، والمزيد |
؟ جدوى | |
تشغيل دون اتصال بالإنترنت، محليًا | تشغيل على الأجهزة الخاصة بك دون الإنترنت |
جيل سريع | إنشاء صور خلال ثانيتين تقريبًا (RTX 2080s) |
تشغيل نماذج متعددة في وقت واحد | الاستفادة من نماذج متعددة في وقت واحد |
الوضع المظلم | تجربة مشاهدة مريحة في البيئات منخفضة الإضاءة |
قماش التمرير اللانهائي | قم بالتمرير بسلاسة عبر الصور التي تم إنشاؤها |
تبديل مرشح NSFW | ساعد في التحكم في رؤية محتوى NSFW |
تبديل حواجز الحماية NSFW | ساعد في منع إنشاء محتوى ضار لـ LLM |
قابلة للتخصيص بالكامل | ضبط جميع المعلمات بسهولة |
وقت تحميل سريع، واجهة سريعة الاستجابة | استمتع بتجربة مستخدم سلسة وسريعة الاستجابة |
بيثون خالص | لا الاعتماد على خادم الويب، وتنفيذ بيثون خالص |
هناك عدة طرق لبدء استخدام AI Runner، مثل حزمها ومن المصدر وكمكتبة.
يمكن العثور على تعليمات التعبئة والتغليف والتثبيت التفصيلية في الويكي.
تثبيت
pip install airunner
جري
airunner
يقوم AI Runner بتثبيت جميع النماذج المطلوبة لتشغيل روبوت الدردشة مع إمكانات تحويل النص إلى كلام وتحويل الكلام إلى نص، بالإضافة إلى النماذج الأساسية المطلوبة للنشر المستقر. ومع ذلك، يجب عليك توفير نماذج المولدات الفنية الخاصة بك.
يمكنك تنزيل النماذج من Huggingface.co أو civitai.com.
نماذج الانتشار المستقر المدعومة هي:
يجب وضع النماذج في الأدلة الخاصة بها في دليل airunner
.
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
قم بإجراء جميع اختبارات الوحدة
python -m unittest discover -s src/airunner/tests
قم بإجراء اختبارات وحدة واحدة python -m unittest src/airunner/tests/<file_name>
مثال
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
على الرغم من أن الإصدار 3.0 من AI Runner مصمم باستخدام مكتبات Huggingface، فقد حرصنا على تجريد التطبيق من أي ميزات قياس عن بعد أو تتبع.
يحتاج معالج الإعداد فقط إلى الوصول إلى الإنترنت لتنزيل النماذج المطلوبة.
لمزيد من المعلومات، راجع مكتبات Darklock وFacehuggershield.
تم تعطيل الوصول للكتابة لمكتبة المحولات، مما يمنعها من إنشاء دليل ذاكرة التخزين المؤقت المعانقة في وقت التشغيل.
قد يستمر التطبيق نفسه في الوصول إلى القرص للقراءة والكتابة، ومع ذلك فقد قمنا بتقييد عمليات القراءة والكتابة على دليل airunner
الذي يوفره المستخدم (افتراضيًا، يوجد هذا في ~/.local/share/airunner
).
يتم حظر كافة المحاولات الأخرى للوصول إلى القرص وتسجيلها لمراجعتك.
لمزيد من المعلومات، راجع src/security/restrict_os_access.py
.
يحتوي Huggingface Hub على ميزات القياس عن بعد والتتبع التي تم تعطيلها بالكامل في AI Runner.
الإجراءات الأمنية المتخذة لهذه المكتبة هي كما يلي
راجع Facehuggershield لمزيد من المعلومات.