رفيق الذكاء الاصطناعي v1
ثنائي صغير واحد يحتوي على جميع الميزات التي تحتاجها!
AI Companion هو مشروع يهدف إلى توفير طريقة سريعة وبسيطة وخفيفة ومريحة لإنشاء روبوتات دردشة تعمل بالذكاء الاصطناعي على جهاز الكمبيوتر المحلي الخاص بك، ولا يتطلب أي واجهة برمجة تطبيقات خارجية، أو تثبيت أي مكتبات، ما عليك سوى تثبيت الملف الثنائي المطابق للتشغيل الخاص بك النظام والجهاز، قم بتنزيل النموذج المحدد ويمكنك البدء في استخدام الأداة على النحو التالي: WebUI للدردشة مع LLM، أو WebUI للعب الأدوار مع شخصية AI، أو استخدامها كواجهة برمجة تطبيقات لمشاريعك الأخرى التي تتطلب chatbot AI.
يتضمن المشروع العديد من الميزات الفريدة، مثل الذاكرة قصيرة المدى، ودعم CUDA وOpenCL وMetal، والذاكرة طويلة المدى، وضبط الحوار، والتعرف على الوقت، والتعلم من خلال الدردشة، والقدرة على العمل كواجهة برمجة تطبيقات REST، وقراءة بطاقات الشخصيات، وسهولة- لاستخدام WebUI مما يسمح لك بتحرير البيانات وتحرير التكوين وإرسال الرسائل وتحريرها وحذفها.
تثبيت
قم بتنزيل الملف الثنائي المناسب لنظام التشغيل والجهاز الخاص بك من هنا (على سبيل المثال ai-companion-windows-cuda.exe )، ثم قم بتثبيت نموذج llm بامتداد .gguf (على سبيل المثال هذا)، ثم قم بتشغيل الملف الثنائي ai-companion، افتح متصفح الويب الخاص بك على http://localhost:3000 وسترى AI Companion WebUI، ثم انقر فوق رمز الترس الموجود على موقع الويب، وانتقل إلى config ، واستبدل المسار إلى نموذج اللغة الكبير (LLM) بالمسار إلى نموذج .gguf الموجود على محرك الأقراص لديك، وبعد القيام بذلك، يمكنك البدء في الدردشة مع رفيقك!
سمات
- يعمل محليًا - لا يتطلب مفاتيح API للخدمات الأخرى، مما يجعله مجانيًا تمامًا للاستخدام (حسنًا، بصرف النظر عن تكاليف الكهرباء - يجب أن يعمل جهاز الكمبيوتر الخاص بك بطريقة ما)، ولا يتطلب أيضًا تشغيل الإنترنت
- الخصوصية - يتم الاحتفاظ بجميع المحادثات محليًا في قاعدة بيانات SQLite، مما يعني أن محادثاتك أو خصائص الذكاء الاصطناعي الخاص بك تبقى فقط على جهاز الكمبيوتر الخاص بك
- واجهة برمجة التطبيقات (API) - يمكنك استخدامها كواجهة خلفية لمشاريعك الأخرى التي تتطلب شهادات LLM أو روبوتات دردشة مخصصة تعمل بالذكاء الاصطناعي أو أحرف AI مخصصة
- السرعة - يُظهر المكتوب في Rust كفاءة جيدة عندما يتعلق الأمر بوحدة المعالجة المركزية ووحدة معالجة الرسومات (لا شيء يبطئ جيلك) وذاكرة الوصول العشوائي (لا تحتاج إلى استخدام نماذج ذكاء اصطناعي أضعف)
- سهولة الاستخدام - يمكن تغيير كل شيء في واجهة مستخدم الويب، ويتم تجميع كل شيء في ملف ثنائي واحد يمكن تشغيله على جهازك (لا داعي للعب مع مئات الملفات المربكة، ولا داعي للقتال مع مكتبة/مترجم خاطئ / إصدارات الإطار)
- التخصيص - يمكنك تغيير اسم الذكاء الاصطناعي وشخصيته ومظهره والرسالة الأولى المرسلة. يمكن أيضًا تعديل الذاكرة قصيرة المدى وطويلة المدى للذكاء الاصطناعي
- الذاكرة قصيرة المدى - يتذكر الذكاء الاصطناعي الرسائل المستلمة/المرسلة مؤخرًا
- الذاكرة طويلة المدى - يمكن للذكاء الاصطناعي أن يتذكر المحادثات وحتى آلاف المطالبات لاحقًا باستخدام الذاكرة طويلة المدى - ربط الأشياء بكلمات أو عبارات أو جمل أو حتى تواريخ مختلفة
- التعلم في الوقت الفعلي - عند الدردشة مع الذكاء الاصطناعي، يكون قادرًا على إنشاء "ذكريات" بالإضافة إلى التعرف على الأشخاص الذين يتحدثون معهم (ما هي مهنتهم، وماذا يحبون أن يأكلوا ويشربوا، وما إلى ذلك)
- تغذية الذكاء الاصطناعي ببيانات مخصصة - باستخدام واجهة برمجة التطبيقات، من الممكن الحفظ في ذاكرة الذكاء الاصطناعي طويلة المدى، على سبيل المثال أجزاء من المستندات والمقالات وكلمات الأغاني والقصائد
- لعب الأدوار - يمكن لروبوت الدردشة الآلي (في حالة تمكينه) تنفيذ إجراءات بين العلامات النجمية (*) على سبيل المثال ، الاقتراب ، والتلويح بالترحيب
- يمكنك تحميل ملفات الأحرف بتنسيق .json أو .png (بطاقات الأحرف). على سبيل المثال، يمكنك إنشاء الخاصة بك باستخدام هذه الأداة
- يمكنك استخدام {{char}} و{{user}} في شخصية الرفيق ومثال الحوار والرسالة الأولى وشخصية المستخدم (إذا قمت بتغيير اسم المستخدم أو اسم الرفيق، فلن تحتاج إلى تغييرهما، فسوف يتغير تلقائيًا)
- الوقت - يمكن لـ Chatbot AI الحصول على معلومات حول الوقت الحالي من الكمبيوتر، ويمكن لذاكرته طويلة المدى أن تتذكر الأيام التي جرت فيها محادثات معينة
نماذج الذكاء الاصطناعي المدعومة
قائمة صغيرة من نماذج الذكاء الاصطناعي المختبرة والعملية:
- ميسترال 7 ب
- زفير 7B بيتا
- اللاما 3 8B إرشاد
والعديد من نماذج LLM الأخرى بتنسيق .gguf
وثائق واجهة برمجة التطبيقات
يمكن العثور على وثائق API هنا
المشاريع القائمة على AI-companion Backend/API/Library
- مساعد محلي - مساعد افتراضي يعمل بالذكاء الاصطناعي
- روبوت رفيق المصفوفة - روبوت دردشة قائم على الذكاء الاصطناعي يعمل على بروتوكول ماتريكس
استخدامها كمكتبة بايثون (موقوف)
إذا كنت تبحث عن مكتبة بايثون تسمح لك باستخدام الواجهة الخلفية ai-companion في مشاريعك، فهي متاحة هنا ai-companion-py
التجميع من كود المصدر:
لإنشاء ملف قابل للتنفيذ، تحتاج إلى: Node.js وnpm وRust وcargo
لكي يعمل البرنامج مع CUDA وOpenCL وMetal، يجب عليك أيضًا اتباع خطوات مشابهة لتلك الموجودة في هذه الوثائق
قم بعمل نسخة git من المستودع:
git clone https://github.com/Hukasx0/ai-companion
انتقل إلى المجلد
تثبيت وحدات العقدة
تجميع كل شيء في ثنائي واحد
أو
تجميع كل شيء في ملف ثنائي واحد بدعم CUDA
أو
قم بتجميع كل شيء في ملف ثنائي واحد بدعم OpenCL
npm run build-full-opencl
أو
قم بتجميع كل شيء في ملف ثنائي واحد مع دعم Metal
(بعد التجميع، يجب أن يكون الملف الثنائي في ai-companion/backend/target/release)
ومن ثم تابع نفس الخطوات للتثبيت