(تحديث 27 نوفمبر 2023) كان الهدف الأصلي من الريبو هو مقارنة بعض النماذج الأصغر (7B و13B) التي يمكن تشغيلها على الأجهزة الاستهلاكية، بحيث يحصل كل نموذج على درجة لمجموعة من الأسئلة من GPT-4. لكنني أدركت أنه مع ظهور العديد من النماذج الأكثر قدرة، فإن عملية التقييم والمقارنة قد لا تكون كافية.
لذلك، أنا فقط أضع روابط Colab WebUI للنماذج الأحدث ويمكنك تجربتها بنفسك ببضع نقرات - بعد كل شيء، تعتمد فعالية نموذج اللغة بشكل كبير على ملاءمته لحالة الاستخدام المحددة الخاصة بك. ومن خلال تجربة النماذج بشكل مباشر، يمكنك تقييم أدائها وتحديد النموذج الذي يناسب احتياجاتك بشكل أفضل.
يمكن تشغيل هذه النماذج على الأجهزة الاستهلاكية وهي جيدة بشكل عام (من اقتراحات Reddit وتجربتي الخاصة). جربوها بأنفسكم (اضغط على زر "فتح في كولاب")!
نموذج | وصلة | رابط كولاب | تاريخ الإضافة | ملحوظة |
---|---|---|---|---|
زفير-7B-بيتا-GGUF | https://huggingface.co/TheBloke/zephyr-7B-beta-GGUF | 2023/11/27 | لعب الأدوار مقبول، غير خاضع للرقابة | |
أوبن هيرميس-2.5-ميسترال-7B-GGUF | https://huggingface.co/TheBloke/OpenHermes-2.5-Mistral-7B-GGUF | 2023/11/27 | لعب الأدوار جيد، وغير خاضع للرقابة | |
دولفين-2.2.1-ميسترال-7B-GGUF | https://huggingface.co/TheBloke/dolphin-2.2.1-mistral-7B-GGUF | 2023/11/27 | لعب الأدوار مقبول، غير خاضع للرقابة | |
العصبية-دردشة-7B-v3-1-GGUF | https://huggingface.co/TheBloke/neural-chat-7B-v3-1-GGUF | 2023/11/27 | لعب الأدوار جيد، غير خاضع للرقابة؛ بعض العيوب المنطقية | |
openchat_3.5-16k-GGUF | https://huggingface.co/TheBloke/openchat_3.5-16k-GGUF | 2023/11/27 | خاضعة للرقابة | |
ستارلينغ-LM-7B-ألفا-GGUF | https://huggingface.co/TheBloke/Starling-LM-7B-alpha-GGUF | 2023/11/29 | رقابة حصل على تقييم عالي على Reddit | |
أوركا-2-7B-GGUF | https://huggingface.co/TheBloke/Orca-2-7B-GGUF | 2023/11/29 | خاضعة للرقابة | |
أوركا-2-13B-GGUF | https://huggingface.co/TheBloke/Orca-2-13B-GGUF | 2023/11/29 | خاضع للرقابة، بعض العيوب المنطقية الغريبة أسوأ من الإصدار 7B | |
ميثوميست-7B-GGUF | https://huggingface.co/TheBloke/MythoMist-7B-GGUF | 2023/11/29 | لعب الأدوار جيد، غير خاضع للرقابة؛ بعض العيوب المنطقية | |
نيورال هيرميس-2.5-ميسترال-7B-GGUF | https://huggingface.co/TheBloke/NeuralHermes-2.5-Mistral-7B-GGUF | 2023/12/05 | لعب الأدوار جيد، وغير خاضع للرقابة | |
Stablelm-zephyr-3b-GGUF | https://huggingface.co/TheBloke/stablelm-zephyr-3b-GGUF | 2023/12/11 | 3ب؛ لعب الأدوار حسنًا؛ غير خاضعة للرقابة. بعض العيوب المنطقية | |
Deepseek-llm-7B-chat-GGUF | https://huggingface.co/TheBloke/deepseek-llm-7B-chat-GGUF | 2023/12/11 | خاضعة للرقابة | |
ميسترال-7B-Instruct-v0.2-GGUF | https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.2-GGUF | 2023/12/13 | رقابة جزئية. لعب الأدوار حسنًا؛ حصل على تقييم عالي على Reddit | |
Mixtral-8x7B-Instruct-v0.1-GGUF | https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF | 2023/12/13 | نموذج وزارة التربية والتعليم؛ خاضعة للرقابة جزئيا؛ لعب الأدوار حسنا | |
Deepsex-34b-GGUF | https://huggingface.co/TheBloke/deepsex-34b-GGUF | 2023/12/14 | 34 ب. نموذج NSFW | |
فاي-2 | https://huggingface.co/microsoft/phi-2 | 2023/12/15 | 2.7 ب؛ النموذج الأساسي | |
Xwin-MLewd-13B-v0.2-GGUF | https://huggingface.co/TheBloke/Xwin-MLewd-13B-v0.2-GGUF | 2023/12/15 | 13 ب. نموذج NSFW | |
ميثوماكس-L2-13B-GGUF | https://huggingface.co/TheBloke/MythoMax-L2-13B-GGUF | 2023/12/15 | 13 ب. رقابة لعب الأدوار حسنا | |
LLaMA2-13B-Tiefighter-GGUF | https://huggingface.co/TheBloke/LLaMA2-13B-Tiefighter-GGUF | 2023/12/15 | 13 ب. لعب الأدوار بشكل جيد | |
LLaMA2-13B-Psyfighter2-GGUF | https://huggingface.co/TheBloke/LLaMA2-13B-Psyfighter2-GGUF | 2023/12/15 | 13 ب. رقابة جزئية. لعب الأدوار حسنًا؛ الموصى بها على رديت | |
نوروميد-13B-v0.1.1-GGUF | https://huggingface.co/TheBloke/Noromaid-13B-v0.1.1-GGUF | 2023/12/15 | 13 ب. نموذج NSFW؛ لعب الأدوار جيد | |
دولفين-2.5-ميكسترال-8x7b-GGUF | https://huggingface.co/TheBloke/dolphin-2.5-mixtral-8x7b-GGUF | 2023/12/20 | نموذج وزارة التربية والتعليم؛ تدعي أنها غير خاضعة للرقابة ولكنها ترفض بعض الطلبات؛ لعب الأدوار غير صالح للاستخدام | |
SOLAR-10.7B-Instruct-v1.0-GGUF | https://huggingface.co/TheBloke/SOLAR-10.7B-Instruct-v1.0-GGUF | 2023/12/21 | 10.7ب؛ رقابة لعب الأدوار حسنا | |
نوس-هيرميس-2-SOLAR-10.7B-GGUF | https://huggingface.co/TheBloke/Nous-Hermes-2-SOLAR-10.7B-GGUF | 2024/01/08 | 10.7ب؛ رقابة جزئية؛ لعب الأدوار بشكل جيد | |
openchat-3.5-0106-GGUF | https://huggingface.co/TheBloke/openchat-3.5-0106-GGUF | 2024/01/12 | لعب الأدوار والكتابة الإبداعية جيدة؛ غير خاضعة للرقابة | |
ميسترال-7B-Instruct-v0.2-code-ft-GGUF | https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.2-code-ft-GGUF | 2024/01/12 | نموذج الترميز | |
الباندا-7B-v0.1-GGUF | https://huggingface.co/TheBloke/Panda-7B-v0.1-GGUF | 2024/01/12 | لعب الأدوار حسنًا؛ الكتابة الإبداعية جيدة؛ خاضعة للرقابة جزئيا | |
لاما-برو-8B-GGUF | https://huggingface.co/TheBloke/LLaMA-Pro-8B-GGUF | 2024/01/16 | يدعي أنه جيد في الرياضيات/الترميز؛ الجودة هكذا | |
دولفين-2.6-ميسترال-7B-dpo-ليزر-GGUF | https://huggingface.co/TheBloke/dolphin-2.6-mistral-7B-dpo-laser-GGUF | 2024/01/16 | غير خاضعة للرقابة. نوعية جيدة؛ لعب الأدوار بشكل جيد | |
ليزر اكسترال-GGUF | https://huggingface.co/dagbs/laserxtral-GGUF | 2024/01/17 | طراز 4x7B MOE؛ نصف ذاكرة من Mixtral؛ غير خاضعة للرقابة؛ لعب الأدوار بشكل جيد | |
Mixtral_7Bx2_MoE-GGUF | https://huggingface.co/TheBloke/Mixtral_7Bx2_MoE-GGUF | 2024/01/23 | نموذج 2x7B MOE؛ غير خاضعة للرقابة. لعب الأدوار حسنا | |
كابيباراهيرميس-2.5-ميسترال-7B-GGUF | https://huggingface.co/TheBloke/CapybaraHermes-2.5-Mistral-7B-GGUF | 2024/02/06 | رقابة | |
رمز مستقر-3b-GGUF | https://huggingface.co/TheBloke/stable-code-3b-GGUF/ | 2024/02/06 | 3ب؛ نموذج الترميز؛ ربما تكون الجودة صغيرة جدًا | |
إستوبيان ميد-13B-GGUF | https://huggingface.co/TheBloke/EstopianMaid-13B-GGUF | 2024/02/06 | 13 ب. نموذج لعب الأدوار | |
جيما-7ب-it-GGUF | https://huggingface.co/mlabonne/gemma-7b-it-GGUF/ | 2024/02/28 | 7 ب؛ خاضعة للرقابة | |
ستاركودر2-15B-GGUF | https://huggingface.co/ Second-state/StarCoder2-15B-GGUF | 2024/03/20 | 15 ب. نموذج الترميز تم التصويت عليه بشدة على r/LocalLLaMA | |
Qwen1.5-7B-Chat-GGUF | https://huggingface.co/Qwen/Qwen1.5-7B-Chat-GGUF | 2024/03/20 | 7 ب؛ رقابة تم التصويت عليه بشدة على r/LocalLLaMA | |
Qwen1.5-14B-Chat-GGUF | https://huggingface.co/Qwen/Qwen1.5-14B-Chat-GGUF | 2024/03/20 | 14 ب. رقابة تم التصويت عليه بشدة على r/LocalLLaMA | |
هيرميس-2-برو-ميسترال-7B-GGUF | https://huggingface.co/NousResearch/Hermes-2-Pro-Mistral-7B-GGUF | 2024/03/22 | 7 ب؛ غير خاضعة للرقابة. لعب الأدوار حسنًا؛ حصل على مرتبة عالية في Huggingface | |
نوس-هيرميس-2-ميسترال-7B-DPO-GGUF | https://huggingface.co/NousResearch/Nous-Hermes-2-Mistral-7B-DPO-GGUF | 2024/03/22 | 7 ب؛ رقابة جزئية؛ لعب الأدوار بشكل جيد؛ حصل على مرتبة عالية في Huggingface | |
تعليمات التعليمات البرمجية المستقرة-3b-GGUF | https://huggingface.co/bartowski/stable-code-instruct-3b-GGUF | 2024/03/27 | 3ب؛ نموذج توليد التعليمات البرمجية المضبوط للتعليمات | |
Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 | https://huggingface.co/Qwen/Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 | 2024/04/03 | وزارة التربية والتعليم؛ بصمة صغيرة بعض الأخطاء المنطقية | |
الأخطبوط-v2 | https://huggingface.co/NexaAIDev/Octopus-v2/ | 2024/04/07 | 2ب؛ غير كمي؛ مُحسّن لواجهات برمجة تطبيقات Android الموجودة على الجهاز | |
كودجيما-7ب-it-GGUF | https://huggingface.co/lmstudio-community/codegemma-7b-it-GGUF | 2024/04/18 | 7 ب؛ نموذج الترميز | |
CodeQwen1.5-7B-Chat-GGUF | https://huggingface.co/Qwen/CodeQwen1.5-7B-Chat-GGUF | 2024/04/18 | 7 ب؛ نموذج الترميز | |
معالجLM-2-7B-GGUF | https://huggingface.co/MaziyarPanahi/WizardLM-2-7B-GGUF | 2024/04/18 | 7 ب؛ خاضعة للرقابة | |
Meta-Llama-3-8B-Instruct-GGUF | https://huggingface.co/QuantFactory/Meta-Llama-3-8B-Instruct-GGUF | 2024/04/19 | 8 ب؛ خاضعة للرقابة | |
دولفين-2.9-llama3-8b-gguff | https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8b-gguff | 2024/04/22 | 8 ب؛ غير خاضعة للرقابة. يبدو المنطق متدهورًا من Llama-3-8B | |
Lexi-Llama-3-8B-غير خاضعة للرقابة-GGUF | https://huggingface.co/Orenguteng/Lexi-Llama-3-8B-Uncentriced-GGUF | 2024/04/24 | 8 ب؛ غير خاضعة للرقابة | |
Llama3-8B-الصينية-الدردشة-GGUF | https://huggingface.co/QuantFactory/Llama3-8B-Chinese-Chat-GGUF | 2024/04/24 | 8 ب؛ الصينية | |
Phi-3-mini-4k-instruct-gguf | https://huggingface.co/microsoft/Phi-3-mini-4k-instruct-gguf | 2024/04/24 | 3.8 ب؛ رقابة سريع | |
اللاما-3-8B-Instruct-32k-v0.1-GGUF | https://huggingface.co/MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1-GGUF | 2024/04/25 | 8 ب؛ سياق 32 كيلو؛ جيد لتلخيص النص الطويل | |
starcoder2-15b-instruct-v0.1-GGUF | https://huggingface.co/bartowski/starcoder2-15b-instruct-v0.1-GGUF | 2024/05/06 | 15 ب. نموذج الترميز | |
هيرميس-2-برو-لاما-3-8B-GGUF | https://huggingface.co/NousResearch/Hermes-2-Pro-Llama-3-8B-GGUF | 2024/05/06 | 8 ب؛ رقابة جزئية؛ JSON، استخدام الأداة، إلخ. | |
Llama-3-ChatQA-1.5-8B-GGUF | https://huggingface.co/bartowski/Llama-3-ChatQA-1.5-8B-GGUFF | 2024/05/15 | 8 ب؛ غير خاضعة للرقابة | |
هيرميس-2-ثيتا-لاما-3-8B-GGUF | https://huggingface.co/NousResearch/Hermes-2-Theta-Llama-3-8B-GGUF | 2024/05/17 | 8 ب؛ رقابة JSON، استخدام الأداة، إلخ | |
زهر-v5.1-9b-GGUF | https://huggingface.co/bartowski/blossom-v5.1-9b-GGUF | 2024/05/17 | 9 ب. مجموعة بيانات مختلطة من Wizard/Orca/Math/الصينية/الإنجليزية | |
الصقر-11B-GGUF | https://huggingface.co/bartowski/falcon-11B-GGUF | 2024/05/17 | 11 ب. نموذج خام أساسي تم تدريبه مسبقًا | |
llama-3-cat-8b-instruct-v1-GGUFF | https://huggingface.co/bartowski/llama-3-cat-8b-instruct-v1-GGUFF | 2024/05/20 | 8 ب؛ خاضعة للرقابة جزئيا؛ دقة تعليمات النظام؛ لعب الأدوار | |
يي-1.5-9B-دردشة-GGUF | https://huggingface.co/bartowski/Yi-1.5-9B-Chat-GGUF | 2024/05/20 | 9 ب. خاضعة للرقابة | |
SFR-تكراري-DPO-LLaMA-3-8B-R-GGUF | https://huggingface.co/bartowski/SFR-Iterative-DPO-LLaMA-3-8B-R-GGUF | 2024/05/22 | 8 ب؛ خاضعة للرقابة جزئيا | |
اللاما-3-لوميميد-8B-v0.1-OAS-GGUF-IQ-Imatrix | https://huggingface.co/Lewdiculous/Llama-3-Lumimaid-8B-v0.1-OAS-GGUF-IQ-Imatrix | 2024/05/22 | 8 ب؛ لعب الأدوار؛ تدريب على عدم رفض الطلبات؛ يبدو أنه تم تدريبه على بيانات Quora | |
ميسترال-7B-Instruct-v0.3-GGUF | https://huggingface.co/MaziyarPanahi/Mistral-7B-Instruct-v0.3-GGUF | 2024/05/23 | 7 ب؛ خاضعة للرقابة | |
L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix | https://huggingface.co/Lewdiculous/L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix | 2024/05/30 | 8 ب؛ تم تدريبه على لعب الأدوار الفردية غير الخاضعة للرقابة | |
آية-23-8ب-GGUF | https://huggingface.co/bartowski/aya-23-8B-GGUF | 2024/05/30 | 8 ب؛ خاضعة للرقابة | |
LLaMA3-تكراري-DPO-نهائي-GGUF | https://huggingface.co/bartowski/LLaMA3-iteative-DPO-final-GGUF | 2024/05/30 | 8 ب؛ خاضعة للرقابة | |
openchat-3.6-8b-20240522-GGUF | https://huggingface.co/bartowski/openchat-3.6-8b-20240522-GGUF | 2024/06/04 | 8 ب؛ خاضعة للرقابة جزئيا | |
Meta-Llama-3-8B-Instruct-abliterated-v3-GGUF | https://huggingface.co/failspy/Meta-Llama-3-8B-Instruct-abliterated-v3-GGUF | 2024/06/04 | 8 ب؛ غير خاضعة للرقابة. | |
NeuralDaredevil-8B-محو-GGUF | https://huggingface.co/QuantFactory/NeuralDaredevil-8B-abliterated-GGUF | 2024/06/19 | 8 ب؛ غير خاضعة للرقابة. | |
Qwen2-7B-Instruct-GGUF | https://huggingface.co/Qwen/Qwen2-7B-Instruct-GGUF | 2024/06/24 | 7 ب؛ خاضعة للرقابة | |
DeepSeek-Coder-V2-Lite-Instruct-GGUF | https://huggingface.co/lmstudio-community/DeepSeek-Coder-V2-Lite-Instruct-GGUF | 2024/06/27 | 16 ب. إرشاد نموذج الترميز | |
internlm2_5-7b-chat-gguf | https://huggingface.co/internlm/internlm2_5-7b-chat-gguf | 2024/07/11 | 7 ب؛ رقابة سياق طويل؛ الاستدلال واستخدام الأداة؛ | |
جيما-2-9ب-it-GGUF | https://huggingface.co/bartowski/gemma-2-9b-it-GGUF | 2024/07/11 | 9 ب. خاضعة للرقابة | |
Smegmma-Deluxe-9B-v1-GGUF | https://huggingface.co/bartowski/Smegmma-Deluxe-9B-v1-GGUF | 2024/07/22 | 9 ب. جيما أقل رقابة (لا تزال ترفض بعض الطلبات)؛ لعب الأدوار | |
h2o-danube3-4b-chat-GGUF | https://huggingface.co/h2oai/h2o-danube3-4b-chat-GGUF | 2024/07/17 | 4 ب؛ خاضعة للرقابة جزئيا | |
تايجر-جيما-9B-v1-GGUF | https://huggingface.co/bartowski/Tiger-Gemma-9B-v1-GGUF | 2024/07/17 | 9 ب. غير خاضعة للرقابة. ولكن يبدو أن لديها بعض العيوب في المنطق | |
جيماسوترا-9B-v1-GGUF | https://huggingface.co/TheDrummer/Gemmasutra-9B-v1-GGUF | 2024/07/24 | 9 ب. لعب الأدوار مع بعض الرقابة | |
Meta-Llama-3.1-8B-Instruct-GGUF | https://huggingface.co/lmstudio-community/Meta-Llama-3.1-8B-Instruct-GGUF | 2024/07/25 | 8 ب؛ خاضعة للرقابة | |
ميسترال-نيمو-إنستركت-2407-GGUF | https://huggingface.co/ Second-state/Mistral-Nemo-Instruct-2407-GGUF | 2024/07/25 | 12.2ب؛ غير خاضعة للرقابة جزئيا. أوصت به Redditors | |
سيليست-12B-V1.6_iMatrix_GGUF | https://huggingface.co/MarsupialAI/Celeste-12B-V1.6_iMatrix_GGUF | 2024/07/30 | 12ب؛ نموذج لعب الأدوار وكتابة القصة، غير خاضع للرقابة | |
هيرميس-3-لاما-3.1-8B-GGUF | https://huggingface.co/NousResearch/Hermes-3-Llama-3.1-8B-GGUF | 2024/08/19 | 8 ب؛ غير خاضعة للرقابة | |
جيما-2-9ب-إت-SPPO-Iter3-GGUF | https://huggingface.co/bartowski/Gemma-2-9B-It-SPPO-Iter3-GGUF | 2024/08/19 | 9 ب. يوصى به على r/LocalLLaMA للتلخيص | |
اللاما-3.1-العاصفة-8B-GGUF | https://huggingface.co/bartowski/Llama-3.1-Storm-8B-GGUF | 2024/08/20 | 8 ب؛ خاضعة للرقابة | |
Phi-3.5-mini-instruct-GGUF | https://huggingface.co/lmstudio-community/Phi-3.5-mini-instruct-GGUF | 2024/08/21 | 3.5 ب؛ رقابة، صغيرة وسريعة | |
Phi-3.5-mini-instruct_Unرقابة-GGUF | https://huggingface.co/bartowski/Phi-3.5-mini-instruct_Uncentriced-GGUF | 2024/08/26 | 3.5 ب؛ غير خاضع للرقابة، صغير وسريع، ولكن به عيوب منطقية ونتائج غير متناسقة | |
نيمو ميكس-أنليشد-12B-GGUF | https://huggingface.co/bartowski/NemoMix-Unleashed-12B-GGUF | 2024/08/26 | 12ب؛ خاضعة للرقابة جزئيًا، وتمثيل الأدوار ورواية القصص | |
ميسترال-نيمو-مينيترون-8B-Base-GGUF | https://huggingface.co/QuantFactory/Mistral-NeMo-Minitron-8B-Base-GGUF | 2024/08/26 | 8 ب؛ النموذج الأساسي | |
يي-المبرمج-9B-الدردشة-GGUF | https://huggingface.co/bartowski/Yi-Coder-9B-Chat-GGUF | 2024/09/05 | 9 ب. نموذج ترميز التعليمات | |
Llama-3.2-3B-Instruct-Q8_0-GGUF | https://huggingface.co/hugging-quants/Llama-3.2-3B-Instruct-Q8_0-GGUF | 2024/10/01 | 3ب؛ نموذج صغير للرقابة | |
Qwen2.5-7B-Instruct-GGUF | https://huggingface.co/bartowski/Qwen2.5-7B-Instruct-GGUF | 2024/10/01 | 7 ب؛ خاضع للرقابة، موصى به على r/LocalLLaMA | |
Qwen2.5-Coder-7B-Instruct-GGUF | https://huggingface.co/bartowski/Qwen2.5-Coder-7B-Instruct-GGUF | 2024/10/01 | 7 ب؛ نموذج ترميز التعليمات، موصى به على r/LocalLLaMA | |
اللاما-3.1-8B-ليكسي-غير خاضعة للرقابة-V2-GGUF | https://huggingface.co/Orenguteng/Llama-3.1-8B-Lexi-Uncentriced-V2-GGUF | 2024/10/15 | 8 ب؛ خاضعة للرقابة جزئيا | |
سوبر نوفا-ميديوس-GGUF | https://huggingface.co/arcee-ai/SuperNova-Medius-GGUF | 2024/10/15 | 14 ب. خاضع للرقابة، موصى به على r/LocalLLaMA | |
Llama-3.2-3B-Instruct-un الخاضعة للرقابة-GGUF | https://huggingface.co/mradermacher/Llama-3.2-3B-Instruct-uncentric-GGUF | 2024/10/15 | 3ب؛ صغيرة وغير خاضعة للرقابة | |
مينيسترال-8B-Instruct-2410-HF-GGUF-TEST | https://huggingface.co/bartowski/Ministral-8B-Instruct-2410-HF-GGUF-TEST | 2024/10/21 | 8 ب؛ خاضعة للرقابة جزئيا | |
الجرانيت-3.0-8b-instruct-GGUF | https://huggingface.co/bartowski/granite-3.0-8b-instruct-GGUF | 2024/10/28 | 8 ب؛ خاضعة للرقابة | |
آية-امتداد-8b-GGUF | https://huggingface.co/bartowski/aya-expanse-8b-GGUF | 2024/10/28 | 8 ب؛ خاضعة للرقابة | |
Qwen2.5-Coder-14B-Instruct-GGUF | https://huggingface.co/Qwen/Qwen2.5-Coder-14B-Instruct-GGUF | 2024/11/12 | 14 ب. نموذج الترميز، جيد في حجمه |
تعمل هذه النماذج بشكل أفضل بين النماذج التي اختبرتها على أجهزتي (i5-12490F، وذاكرة الوصول العشوائي (RAM) سعة 32 جيجابايت، وذاكرة الوصول العشوائي (RTX 3060 Ti GDDR6X 8 جيجابايت) (VRAM): (ملاحظة: نظرًا لأن llama.cpp قام ببعض التغييرات العاجلة لدعم نماذج ggml الأقدم. بعض النماذج القديمة قد لا تعمل إصدارات ggml المدرجة أدناه بشكل صحيح على llama.cpp الحالي ولكن يجب أن تكون هناك مكافئات لـ GPTQ أو إصدارات ggml أحدث للنماذج.)
ملحوظة:
اسم_النموذج | متوسط النتيجة | Colab_Link | تاريخ_الإضافة | وصلة |
---|---|---|---|---|
Mistral-7B-OpenOrca (باستخدام oobabooga/text-generation-webui) | 10.00 | 2023/10/08 | https://huggingface.co/TheBloke/Mistral-7B-OpenOrca-GGUF | |
Llama-2-13B-chat (باستخدام oobabooga/text-generation-webui) | 9.65 | 2023/07/20 | https://huggingface.co/TheBloke/Llama-2-13B-chat-GGML | |
wizard-vicuna-13B.ggml.q4_0 (باستخدام llama.cpp) | 9.63 | 2023/05/07 | https://huggingface.co/TheBloke/wizard-vicuna-13B-GGML | |
Nous-Capybara-7B (باستخدام oobabooga/text-generation-webui) | 9.56 | 2023/10/08 | https://huggingface.co/TheBloke/Nous-Capybara-7B-GGUF | |
vicuna-13B-v1.5 (باستخدام oobabooga/text-generation-webui) | 9.53 | 2023/08/09 | https://huggingface.co/TheBloke/vicuna-13B-v1.5-GGML | |
wizardLM-13B-1.0-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.53 | 2023/05/29 | https://huggingface.co/TheBloke/wizardLM-13B-1.0-GPTQ | |
airoboros-13B-gpt4-1.4-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.50 | 2023/06/30 | https://huggingface.co/TheBloke/airoboros-13B-gpt4-1.4-GPTQ | |
Nous-Hermes-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.44 | 2023/06/03 | https://huggingface.co/TheBloke/Nous-Hermes-13B-GPTQ/tree/main | |
Dolphin-Llama-13B (باستخدام oobabooga/text-generation-webui) | 9.38 | 2023/07/24 | https://huggingface.co/TheBloke/Dolphin-Llama-13B-GGML | |
Mistral-7B-Instruct-v0.1 (باستخدام oobabooga/text-generation-webui) | 9.37 | 2023/10/08 | https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.1-GGUF | |
OpenOrca-Platypus2-13B (باستخدام oobabooga/text-generation-webui) | 9.37 | 2023/08/15 | https://huggingface.co/TheBloke/OpenOrca-Platypus2-13B-GGML | |
airoboros-l2-13b-gpt4-2.0 (باستخدام oobabooga/text-generation-webui) | 9.34 | 2023/08/01 | https://huggingface.co/TheBloke/airoboros-l2-13b-gpt4-2.0-GGML | |
Chronos-13B-v2 (باستخدام oobabooga/text-generation-webui) | 9.31 | 2023/08/09 | https://huggingface.co/TheBloke/Chronos-13B-v2-GGML | |
vicuna-13b-v1.3.0-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.31 | 2023/06/29 | https://huggingface.co/TheBloke/vicuna-13b-v1.3.0-GPTQ | |
MythoLogic-13B (باستخدام oobaooga/text-generation-webui) | 9.31 | 2023/07/20 | https://huggingface.co/TheBloke/MythoLogic-13B-GGML | |
Selfee-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.28 | 2023/06/07 | https://huggingface.co/TheBloke/Selfee-13B-GPTQ | |
WizardLM-13B-V1.2 (باستخدام oobabooga/text-generation-webui) | 9.28 | 2023/07/26 | https://huggingface.co/TheBloke/WizardLM-13B-V1.2-GGML | |
minotaur-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.28 | 2023/06/09 | https://huggingface.co/TheBloke/minotaur-13B-GPTQ | |
Pygmalion-2-13B-SuperCOT2 (باستخدام oobabooga/text-generation-webui) | 9.20 | 2023/09/21 | https://huggingface.co/TheBloke/Pygmalion-2-13B-SuperCOT2-GGUF | |
Athena-v1 (باستخدام oobabooga/text-generation-webui) | 9.19 | 2023/08/31 | https://huggingface.co/TheBloke/Athena-v1-GGUF | |
PuddleJumper-13B (باستخدام oobaooga/text-generation-webui) | 9.1875 | 2023/08/29 | https://huggingface.co/TheBloke/PuddleJumper-13B-GGUF | |
Nous-Hermes-Llama2 (باستخدام oobabooga/text-generation-webui) | 9.17 | 2023/07/24 | https://huggingface.co/TheBloke/Nous-Hermes-Llama2-GGML | |
Luban-13B (باستخدام oobabooga/text-generation-webui) | 9.15 | 2023/08/31 | https://huggingface.co/TheBloke/Luban-13B-GGUF | |
MythoBoros-13B (باستخدام oobaooga/text-generation-webui) | 9.15 | 2023/07/24 | https://huggingface.co/TheBloke/MythoBoros-13B-GGML | |
13B- Ouroboros (باستخدام oobabooga/text-generation-webui) | 9.11 | 2023/07/27 | https://huggingface.co/TheBloke/13B-OURoboros-GGML | |
tulu-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 9.06 | 2023/06/13 | https://huggingface.co/TheBloke/tulu-13B-GPTQ | |
AlpacaCielo-13B (باستخدام oobabooga/text-generation-webui) | 9.03125 | 2023/07/27 | https://huggingface.co/TheBloke/AlpacaCielo-13B-GGML | |
StableBeluga-13B (باستخدام oobabooga/text-generation-webui) | 9 | 2023/08/01 | https://huggingface.co/TheBloke/StableBeluga-13B-GGML | |
Chronos-Hermes-13B-v2 (باستخدام oobabooga/text-generation-webui) | 8.97 | 2023/08/10 | https://huggingface.co/TheBloke/Chronos-Hermes-13B-v2-GGML | |
OpenBuddy-Llama2-13B-v11.1 (باستخدام oobabooga/text-generation-webui) | 8.97 | 2023/09/05 | https://huggingface.co/TheBloke/OpenBuddy-Llama2-13B-v11.1-GGUF | |
Camel-Platypus2-13B (باستخدام oobabooga/text-generation-webui) | 8.94 | 2023/08/15 | https://huggingface.co/TheBloke/Camel-Platypus2-13B-GGML | |
airoboros-l2-13b-gpt4-m2.0 (باستخدام oobabooga/text-generation-webui) | 8.94 | 2023/09/21 | https://huggingface.co/TheBloke/airoboros-l2-13b-gpt4-m2.0-GGUF | |
UltraLM-13B-GPTQ (باستخدام oobaooga/text-generation-webui) | 8.89 | 2023/06/30 | https://huggingface.co/TheBloke/UltraLM-13B-GPTQ | |
13B-HyperMantis_GPTQ (باستخدام oobabooga/text-generation-webui) | 8.88 | 2023/06/03 | https://huggingface.co/digitous/13B-HyperMantis_GPTQ_4bit-128g/ | |
Stable-Platypus2-13B (باستخدام oobabooga/text-generation-webui) | 8.875 | 2023/08/15 | https://huggingface.co/TheBloke/Stable-Platypus2-13B-GGML | |
Airoboros-13B-GPTQ-4bit (باستخدام oobabooga/text-generation-webui) | 8.84 | 2023/05/25 | https://huggingface.co/TheBloke/airoboros-13B-GPTQ | |
Kuchiki-1.1-L2-7B (باستخدام oobabooga/text-generation-webui) | 8.84 | 2023/09/21 | https://huggingface.co/TheBloke/Kuchiki-1.1-L2-7B-GGUF | |
WizardLM-1.0-Unرقابة-Llama2-13B (باستخدام oobabooga/text-generation-webui) | 8.80625 | 2023/08/09 | https://huggingface.co/TheBloke/WizardLM-1.0-Uncentriced-Llama2-13B-GGML | |
Chronos-Beluga-v2-13B (باستخدام oobabooga/text-generation-webui) | 8.75 | 2023/08/10 | https://huggingface.co/TheBloke/Chronos-Beluga-v2-13B-GGML | |
Vicuna-13B-CoT-GPTQ (باستخدام oobabooga/text-generation-webui) | 8.75 | 2023/06/09 | https://huggingface.co/TheBloke/Vicuna-13B-CoT-GPTQ | |
المعالجLM-7B.q4_2 (في GPT4All) | 8.75 | لا | 2023/05/07 | https://gpt4all.io/models/ggml-wizardLM-7B.q4_2.bin |
OpenChat_v3.2 (باستخدام oobabooga/text-generation-webui) | 8.71875 | 2023/08/01 | https://huggingface.co/TheBloke/OpenChat_v3.2-GGML | |
Huginn-13B (باستخدام oobabooga/text-generation-webui) | 8.7125 | 2023/08/10 | https://huggingface.co/TheBloke/Huginn-13B-GGML | |
WizardLM-13B-V1.1 (باستخدام oobabooga/text-generation-webui) | 8.66 | 2023/07/17 | https://huggingface.co/TheBloke/WizardLM-13B-V1.1-GGML | |
robin-13B-v2-GPTQ (باستخدام oobabooga/text-generation-webui) | 8.66 | 2023/06/19 | https://huggingface.co/TheBloke/robin-13B-v2-GPTQ | |
llama-2-13B-Guanaco-QLoRA (باستخدام oobabooga/text-generation-webui) | 8.625 | 2023/07/21 | https://huggingface.co/TheBloke/llama-2-13B-Guanaco-QLoRA-GGML | |
mpt-7b-chat (في GPT4All) | 8.53 | لا | 2023/05/11 | https://gpt4all.io/models/ggml-mpt-7b-chat.bin |
chronos-hermes-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 8.48125 | 2023/06/16 | https://huggingface.co/TheBloke/chronos-hermes-13B-GPTQ | |
Luna-AI-Llama2-غير خاضعة للرقابة (باستخدام oobabooga/text-generation-webui) | 8.46875 | 2023/07/20 | https://huggingface.co/TheBloke/Luna-AI-Llama2-Uncentriced-GGML | |
مستقر-vicuna-13B-GPTQ-4bit-128g (باستخدام oobabooga/text-generation-webui) | 8.25 | 2023/05/12 | https://huggingface.co/TheBloke/stable-vicuna-13B-GPTQ | |
manticore_13b_chat_pyg_GPTQ (باستخدام oobabooga/text-generation-webui) | 8.21875 | 2023/05/24 | https://huggingface.co/TheBloke/manticore-13b-chat-pyg-GPTQ | |
CAMEL_13B_Combined_Data_GPTQ (باستخدام oobabooga/text-generation-webui) | 8.09375 | 2023/06/10 | https://huggingface.co/TheBloke/CAMEL-13B-Combined-Data-GPTQ | |
WizardLM-Unرقابة-Falcon-7B-GPTQ (باستخدام oobabooga/text-generation-webui) | 8.09375 | 2023/06/02 | https://huggingface.co/TheBloke/WizardLM-Uncentric-Falcon-7B-GPTQ | |
llama-13b-supercot-GGML (باستخدام oobabooga/text-generation-webui) | 8.01 | 2023/07/05 | https://huggingface.co/TheBloke/llama-13b-supercot-GGML | |
Project-Baize-v2-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.96875 | 2023/05/24 | https://huggingface.co/TheBloke/Project-Baize-v2-13B-GPTQ | |
koala-13B-4bit-128g.GGML (باستخدام llama.cpp) | 7.9375 | لا | 2023/05/07 | https://huggingface.co/TheBloke/koala-13B-GPTQ-4bit-128g-GGML |
wizard-lm-unرقابة-13b-GPTQ-4bit-128g (باستخدام oobaooga/text-generation-webui) | 7.90625 | 2023/05/19 | https://huggingface.co/4bit/WizardLM-13B-Uncentric-4bit-128g | |
vicuna-7B-v1.3-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.875 | 2023/06/29 | https://huggingface.co/TheBloke/vicuna-7B-v1.3-GPTQ | |
Manticore-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.78125 | 2023/05/23 | https://huggingface.co/TheBloke/Manticore-13B-GPTQ | |
فيكونا-13ب-1.1-q4_2 (في GPT4All) | 7.75 | لا | 2023/05/07 | https://gpt4all.io/models/ggml-vicuna-13b-1.1-q4_2.bin |
falcon-7b-instruct-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.625 | 2023/06/02 | https://huggingface.co/TheBloke/falcon-7b-instruct-GPTQ | |
guanaco-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.5625 | 2023/05/26 | https://huggingface.co/TheBloke/guanaco-13B-GPTQ | |
Mythical-Destroyer-V2-L2-13B (باستخدام oobabooga/text-generation-webui) | 7.31 | 2023/08/31 | https://huggingface.co/TheBloke/Mythical-Destroyer-V2-L2-13B-GGUF | |
Kimiko-v2-13B (باستخدام oobabooga/text-generation-webui) | 7.25 | 2023/08/31 | https://huggingface.co/TheBloke/Kimiko-v2-13B-GGUF | |
orca-mini-13b.ggmlv3.q5_K_M (باستخدام oobabooga/text-generation-webui) | 7.0875 | 2023/06/28 | https://huggingface.co/TheBloke/orca_mini_13B-GGML | |
Platypus2-13B (باستخدام oobabooga/text-generation-webui) | 7.03125 | 2023/08/15 | https://huggingface.co/TheBloke/Platypus2-13B-GGML | |
Redmond-Puffin-13B (باستخدام oobabooga/text-generation-webui) | 7.03125 | 2023/07/20 | https://huggingface.co/TheBloke/Redmond-Puffin-13B-GGML | |
13B-BlueMethod (باستخدام oobabooga/text-generation-webui) | 7.025 | 2023/07/24 | https://huggingface.co/TheBloke/13B-BlueMethod-GGML | |
mpt-7b-إرشاد | 6.6875 | لا | 2023/05/12 | https://huggingface.co/TheBloke/MPT-7B-Instruct-GGML |
Kimiko-13B (باستخدام oobabooga/text-generation-webui) | 6.46875 | 2023/08/01 | https://huggingface.co/TheBloke/Kimiko-13B-GGML | |
gpt4-x-alpaca-13b-ggml-q4_0 (باستخدام llama.cpp) | 6.0625 | لا | 2023/05/07 | https://huggingface.co/Bradarr/gpt4-x-alpaca-13b-native-ggml-model-q4_0 |
minotaur-15B-GPTQ (باستخدام oobabooga/text-generation-webui) | 5.9375 | 2023/06/26 | https://huggingface.co/TheBloke/minotaur-15B-GPTQ | |
baichuan-vicuna-7B-GGML (باستخدام oobabooga/text-generation-webui) | 5.90625 | 2023/07/05 | https://huggingface.co/TheBloke/baichuan-vicuna-7B-GGML | |
gpt4all-j-v1.3-groovy (في GPT4All) | 5.6875 | لا | 2023/05/07 | https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin |
جزيل الشكر ل:
❤️ GPT4ALLl: https://github.com/nomic-ai/gpt4all-chat
❤️ llama.cpp: https://github.com/ggerganov/llama.cpp
❤️ واجهة إنشاء النصوص oobabooga: https://github.com/oobabooga/text-generation-webui
❤️ Colab webui مستوحاة من Camenduru: https://github.com/camenduru/text-generation-webui-colab/tree/main
❤️البلوك لتكميم النماذج: https://huggingface.co/TheBloke
(جميع النتائج من GPT-4-0613.)
اسم_النموذج | متوسط_الدرجات | Colab_Link | تاريخ_الإضافة | وصلة |
---|---|---|---|---|
CodeLlama-13B-oasst-sft-v10 (باستخدام oobabooga/text-generation-webui) | 9.8 | 2023/08/28 | https://huggingface.co/TheBloke/CodeLlama-13B-oasst-sft-v10-GGUF | |
WizardCoder-Python-13B-V1.0 (باستخدام oobabooga/text-generation-webui) | 9.5 | 2023/08/28 | https://huggingface.co/TheBloke/WizardCoder-Python-13B-V1.0-GGUF | |
Redmond-Hermes-Coder-GPTQ (باستخدام oobabooga/text-generation-webui) | 8.4 | 2023/07/03 | https://huggingface.co/TheBloke/Redmond-Hermes-Coder-GPTQ | |
CodeUp-Alpha-13B-HF (باستخدام oobabooga/text-generation-webui) | 7.9 | 2023/08/15 | https://huggingface.co/TheBloke/CodeUp-Alpha-13B-HF-GGML | |
starchat-beta-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.6 | 2023/07/04 | https://huggingface.co/TheBloke/starchat-beta-GPTQ | |
wizard-vicuna-13B-GPTQ (باستخدام oobabooga/text-generation-webui) | 7.3 | 2023/07/03 | https://huggingface.co/TheBloke/wizard-vicuna-13B-GPTQ | |
WizardCoder-Guanaco-15B-V1.1 (باستخدام oobabooga/text-generation-webui) | 7.1 | 2023/07/21 | https://huggingface.co/TheBloke/WizardCoder-Guanaco-15B-V1.1-GPTQ | |
CodeLlama-13B-Instruct (باستخدام oobabooga/text-generation-webui) | 7 | 2023/08/28 | https://huggingface.co/TheBloke/CodeLlama-13B-Instruct-GGUF | |
CodeUp-Llama-2-13B-Chat-HF (باستخدام oobabooga/text-generation-webui) | 6 | 2023/08/03 | https://huggingface.co/TheBloke/CodeUp-Llama-2-13B-Chat-HF-GGML | |
WizardCoder-15B-1.0-GPTQ (باستخدام oobabooga/text-generation-webui) | 5.9 | 2023/07/03 | https://huggingface.co/TheBloke/WizardCoder-15B-1.0-GPTQ | |
wizardLM-13B-1.0-GPTQ (باستخدام oobabooga/text-generation-webui) | 5.9 | 2023/05/29 | https://huggingface.co/TheBloke/wizardLM-13B-1.0-GPTQ |
يمكن العثور على الردود الأصلية على: https://docs.google.com/spreadsheets/d/1ogDXUiaBx3t7EpMo44aaA6U6kLXX0x2tGRgLg8CISGs/edit?usp=sharing
مجال المهمة: الترجمة
الاستجابة الجيدة المتوقعة: "Le Soleil SE Lève à l'est et SE Couche à l'ouest."
Explanation: تختبر هذه المهمة قدرة النموذج على فهم النص وترجمته بدقة بين اللغات.
مجال المهمة: ملخص
الاستجابة الجيدة المتوقعة: "دورة المياه هي الحركة المستمرة للمياه على الأرض، وهي ضرورية للحفاظ على توازن الماء ودعم الحياة."
Explanation: تقوم هذه المهمة بتقييم قدرة النموذج على استخلاص النقاط الرئيسية من نص معين وإنشاء ملخص موجز.
مجال المهمة: تصميم التطبيق
Explanation: تقوم هذه المهمة بتقييم قدرة النموذج على اتباع تعليمات المستخدم عن كثب لمهمة معقدة.
مجال المهمة: الإجابة على أسئلة جاذبية
الاستجابة الجيدة المتوقعة: الأزمات المالية ، عدم المساواة الاجتماعية ، وأفكار التنوير.
Explanation: هذه المهمة تختبر قدرة النموذج على فهم السياق وإنشاء إجابة بكلماته الخاصة.