FreeChat

freechat

الدردشة مع LLMS على جهاز Mac دون تثبيت أي برنامج آخر. يتم حفظ كل محادثة محليًا ، تحدث جميع المحادثات في وضع عدم الاتصال.

• تخصيص الشخصية والخبرة عن طريق تغيير موجه النظام
• جرب أي نموذج متوافق مع llama.cpp
• لا يوجد اتصال بالإنترنت مطلوب ، كل محلي (مع خيار الاتصال بالطراز البعيد)

H264.Screen.Recording.2023-09-13.at.1.54.49.pm.mov

ثَبَّتَ

انضم إلى Testflight Beta: https://6032904148827.gumroad.com/l/freechat-beta

أو تنزيل على متجر تطبيق Mac: https://apps.apple.com/us/app/freechat/id6458534902

أو بناء من المصدر عبر "أرشيف" في Xcode بعد الانتهاء من إعداد DEV أدناه.

الأهداف

الهدف الرئيسي من FreeChat هو جعل نماذج مفتوحة ومحلية وخاصة في متناول المزيد من الأشخاص.

Freechat هو جهاز LLM الأصلي لـ MacOS الذي يعمل محليًا تمامًا. قم بتنزيله واطرح سؤالاً على LLM دون القيام بأي تكوين. نسخة محلية/لاما من دردشة Openai دون تسجيل الدخول أو التتبع. يجب أن تكون قادرًا على التثبيت من متجر تطبيقات MAC واستخدامه على الفور.

• لا تكوين. قابلة للاستخدام من قبل الأشخاص الذين لم يسمعوا عن النماذج أو المطالبات أو LLMS.
• الأداء والبساطة على تجربة ديف أو الميزات. ملاحظات لا كلمة ، سويفت لا elektron.
• محلي أولا. يجب ألا تتطلب الوظيفة الأساسية اتصالًا بالإنترنت.
• لا تتبع محادثة. تحدث عن ما تريد مع Freechat ، تمامًا مثل الملاحظات.
• المصدر المفتوح. ما الهدف من تشغيل الذكاء الاصطناعي المحلي إذا لم تتمكن من مراجعة أنها تعمل محليًا؟

ترقية النماذج الخاصة بك

بمجرد أن تستيقظ ، من الممتع تجربة نماذج مختلفة في Freechat. يطلق مجتمع تدريب الذكاء الاصطناعي نماذج جديدة بشكل أساسي كل يوم. FreeChat متوافق مع أي نموذج تنسيق GGUF الذي يعمل مع llama.cpp مع.

عادة ما يتم تسمية النماذج مع عدد المعلمات (على سبيل المثال 7 ب) ويتم تنسيقها بمستويات مختلفة من الضغط المفقود المطبقة (القياس الكمي). القاعدة العامة للإبهام هي أن النماذج ذات المعلمات المزيد من المعلمات تميل إلى أن تكون أبطأ وأكثر حكمة والكميات الكمية تجعلها أغبياء.

للعثور على النماذج ، حاول معانقة الوجه. تحتوي معظم النماذج على "بطاقة نموذج" مرتبطة من قبل المؤلف الذي يناقش تدريبه وقدراته.

الإعداد DEV

1. افتح Mac/Freechat.xcodeproj
2. تشغيل وإصلاح الأخطاء

خريطة الطريق / تودو (تقريبًا بالترتيب):

• الدردشة مع Llama 3 دون تثبيت أي شيء آخر
• جرب أي نموذج متوافق مع llama.cpp
• مطالبات نظام التغيير بتعديل الأشخاص أو الخبرة
• تنزيل النماذج من داخل التطبيق (تقلص التطبيق من 3 جيجابايت إلى 10 ميغابايت ، أفضل للتحديثات)
• الإعدادات المتقدمة (تنسيق موجه ، درجة الحرارة ، عقوبة التكرار)
• Personas - حفظ إعدادات موجه / نموذج النظام في وقت لاحق وتغيير الشخصيات عند إنشاء محادثة جديدة
• محادثات البحث

المساهمة

المساهمات مرحب بها للغاية. لنجعل Freechat بسيطًا وقويًا.

الاعتمادات

لن يكون هذا المشروع ممكنًا بدون العمل الشاق لـ:

• Georgi Gerganov for llama.cpp
• ميتا لتدريب لاما 2
• جون دوربين لتدريب Micyboros ، النموذج الافتراضي
• TheBloke (Tom Jobbins) من أجل تقدير النموذج
• Monica Kogler لشعار Freechat و Consults UX الذي لا يمكن فهمه

أيضا شكرا جزيلا لبيلي رينكامب ، إليوت هيرش ، توماس سافيليانو ، جود شوينهولتز ، أليكس فاريل على جلسات spitballing لا تقدر بثمن.