Beranda>Terkait pemrograman>Kode sumber lainnya
Unduh

Perbandingan LLM Lokal & Tautan Colab (WIP)

(Pembaruan 27 November 2023) Tujuan awal dari repo ini adalah untuk membandingkan beberapa model yang lebih kecil (7B dan 13B) yang dapat dijalankan pada hardware konsumen sehingga setiap model memiliki skor untuk serangkaian pertanyaan dari GPT-4. Namun saya menyadari bahwa karena semakin banyak model yang lebih mumpuni yang bermunculan, proses evaluasi dan perbandingan mungkin tidak cukup.

Oleh karena itu, saya hanya memasang tautan WebUI Colab untuk model yang lebih baru dan Anda dapat mencobanya sendiri dengan beberapa klik - lagipula, keefektifan model bahasa sangat bergantung pada kesesuaiannya dengan kasus penggunaan spesifik Anda. Dengan mencoba modelnya secara langsung, Anda dapat menilai performanya dan menentukan model mana yang paling sesuai dengan kebutuhan Anda.

Model Baru tanpa Skor:

Model ini dapat dijalankan pada perangkat keras konsumen dan secara umum bagus (dari saran Reddit dan pengalaman saya sendiri). Cobalah sendiri (ketuk tombol 'Buka di Colab')!

Model Link Tautan Kolab Tanggal Ditambahkan Catatan
zephyr-7B-beta-GGUF https://huggingface.co/TheBloke/zephyr-7B-beta-GGUF 27/11/2023 Roleplay oke, tidak disensor
OpenHermes-2.5-Mistral-7B-GGUF https://huggingface.co/TheBloke/OpenHermes-2.5-Mistral-7B-GGUF 27/11/2023 Roleplaynya bagus, tidak disensor
lumba-lumba-2.2.1-mistral-7B-GGUF https://huggingface.co/TheBloke/dolphin-2.2.1-mistral-7B-GGUF 27/11/2023 Roleplay oke, tidak disensor
neural-obrolan-7B-v3-1-GGUF https://huggingface.co/TheBloke/neural-chat-7B-v3-1-GGUF 27/11/2023 Roleplay oke, tidak disensor; beberapa kelemahan logika
openchat_3.5-16k-GGUF https://huggingface.co/TheBloke/openchat_3.5-16k-GGUF 27/11/2023 Disensor
Jalak-LM-7B-alpha-GGUF https://huggingface.co/TheBloke/Starling-LM-7B-alpha-GGUF 2023/11/29 Disensor; berperingkat tinggi di Reddit
Orca-2-7B-GGUF https://huggingface.co/TheBloke/Orca-2-7B-GGUF 2023/11/29 Disensor
Orca-2-13B-GGUF https://huggingface.co/TheBloke/Orca-2-13B-GGUF 2023/11/29 Disensor, beberapa kelemahan logika aneh lebih buruk dari versi 7B
MythoMist-7B-GGUF https://huggingface.co/TheBloke/MythoMist-7B-GGUF 2023/11/29 Roleplay oke, tidak disensor; beberapa kelemahan logika
NeuralHermes-2.5-Mistral-7B-GGUF https://huggingface.co/TheBloke/NeuralHermes-2.5-Mistral-7B-GGUF 2023/12/05 Roleplaynya bagus, tidak disensor
stablelm-zephyr-3b-GGUF https://huggingface.co/TheBloke/stablelm-zephyr-3b-GGUF 2023/12/11 3B; permainan peran oke; tidak disensor; beberapa kelemahan logika
deepseek-llm-7B-obrolan-GGUF https://huggingface.co/TheBloke/deepseek-llm-7B-chat-GGUF 2023/12/11 Disensor
Mistral-7B-Instruksikan-v0.2-GGUF https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.2-GGUF 2023/12/13 Disensor sebagian; permainan peran oke; berperingkat tinggi di Reddit
Mixtral-8x7B-Instruksikan-v0.1-GGUF https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF 2023/12/13 model MOE; disensor sebagian; permainan peran oke
deepsex-34b-GGUF https://huggingface.co/TheBloke/deepsex-34b-GGUF 2023/12/14 34B; model NSFW
phi-2 https://huggingface.co/microsoft/phi-2 2023/12/15 2.7B; Model dasar;
Xwin-MLewd-13B-v0.2-GGUF https://huggingface.co/TheBloke/Xwin-MLewd-13B-v0.2-GGUF 2023/12/15 13B; model NSFW
MythoMax-L2-13B-GGUF https://huggingface.co/TheBloke/MythoMax-L2-13B-GGUF 2023/12/15 13B; Disensor; permainan peran oke
LLaMA2-13B-Tiefighter-GGUF https://huggingface.co/TheBloke/LLaMA2-13B-Tiefighter-GGUF 2023/12/15 13B; permainan peran yang baik
LLaMA2-13B-Psyfighter2-GGUF https://huggingface.co/TheBloke/LLaMA2-13B-Psyfighter2-GGUF 2023/12/15 13B; Disensor sebagian; permainan peran oke; direkomendasikan di Reddit
Noromaid-13B-v0.1.1-GGUF https://huggingface.co/TheBloke/Noromaid-13B-v0.1.1-GGUF 2023/12/15 13B; model NSFW; permainan peran yang bagus
lumba-lumba-2.5-mixtral-8x7b-GGUF https://huggingface.co/TheBloke/dolphin-2.5-mixtral-8x7b-GGUF 2023/12/20 model MOE; mengaku tidak disensor tetapi menolak beberapa permintaan; permainan peran tidak dapat digunakan
SOLAR-10.7B-Instruksikan-v1.0-GGUF https://huggingface.co/TheBloke/SOLAR-10.7B-Instruct-v1.0-GGUF 2023/12/21 10.7B; Disensor; permainan peran oke
Nous-Hermes-2-SURYA-10.7B-GGUF https://huggingface.co/TheBloke/Nous-Hermes-2-SOLAR-10.7B-GGUF 2024/01/08 10.7B; Disensor Sebagian; permainan peran yang baik
openchat-3.5-0106-GGUF https://huggingface.co/TheBloke/openchat-3.5-0106-GGUF 2024/01/12 Permainan peran dan penulisan kreatif yang baik; tidak disensor
Mistral-7B-Instruksikan-v0.2-kode-ft-GGUF https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.2-code-ft-GGUF 2024/01/12 Model pengkodean
Panda-7B-v0.1-GGUF https://huggingface.co/TheBloke/Panda-7B-v0.1-GGUF 2024/01/12 Permainan peran oke; menulis kreatif yang baik; disensor sebagian
LLaMA-Pro-8B-GGUF https://huggingface.co/TheBloke/LLaMA-Pro-8B-GGUF 2024/01/16 Mengaku pandai matematika/coding; kualitas begitu-begitu saja
lumba-lumba-2.6-mistral-7B-dpo-laser-GGUF https://huggingface.co/TheBloke/dolphin-2.6-mistral-7B-dpo-laser-GGUF 2024/01/16 Tanpa sensor; Kualitas bagus; permainan peran yang baik
laserxtral-GGUF https://huggingface.co/dagbs/laserxtral-GGUF 2024/01/17 model MOE 4x7B; setengah memori dari Mixtral; tidak disensor; permainan peran yang baik
Campuran_7Bx2_MoE-GGUF https://huggingface.co/TheBloke/Mixtral_7Bx2_MoE-GGUF 23/01/2024 model MOE 2x7B; tanpa sensor; permainan peran oke
KapibaraHermes-2.5-Mistral-7B-GGUF https://huggingface.co/TheBloke/CapybaraHermes-2.5-Mistral-7B-GGUF 2024/02/06 Disensor;
kode-stabil-3b-GGUF https://huggingface.co/TheBloke/stable-code-3b-GGUF/ 2024/02/06 3B; Model pengkodean; kualitas meh mungkin terlalu kecil
EstopianMaid-13B-GGUF https://huggingface.co/TheBloke/EstopianMaid-13B-GGUF 2024/02/06 13B; Model permainan peran
gemma-7b-it-GGUF https://huggingface.co/mlabonne/gemma-7b-it-GGUF/ 28/02/2024 7B; Disensor
StarCoder2-15B-GGUF https://huggingface.co/second-state/StarCoder2-15B-GGUF 2024/03/20 15B; model pengkodean; sangat memilih di r/LocalLLaMA
Qwen1.5-7B-Obrolan-GGUF https://huggingface.co/Qwen/Qwen1.5-7B-Chat-GGUF 2024/03/20 7B; Disensor; sangat memilih di r/LocalLLaMA
Qwen1.5-14B-Obrolan-GGUF https://huggingface.co/Qwen/Qwen1.5-14B-Chat-GGUF 2024/03/20 14B; Disensor; sangat memilih di r/LocalLLaMA
Hermes-2-Pro-Mistral-7B-GGUF https://huggingface.co/NousResearch/Hermes-2-Pro-Mistral-7B-GGUF 2024/03/22 7B; Tidak disensor; permainan peran oke; berperingkat tinggi di Huggingface
Nous-Hermes-2-Mistral-7B-DPO-GGUF https://huggingface.co/NousResearch/Nous-Hermes-2-Mistral-7B-DPO-GGUF 2024/03/22 7B; Disensor sebagian; permainan peran yang baik; berperingkat tinggi di Huggingface
kode-stabil-instruksikan-3b-GGUF https://huggingface.co/bartowski/stable-code-instruct-3b-GGUF 2024/03/27 3B; model pembuatan kode yang disetel dengan instruksi
Qwen1.5-MoE-A2.7B-Obrolan-GPTQ-Int4 https://huggingface.co/Qwen/Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 2024/04/03 MOE; Jejak kecil; beberapa kesalahan logis
Gurita-v2 https://huggingface.co/NexaAIDev/Octopus-v2/ 2024/04/07 2B; tidak terkuantisasi; dioptimalkan untuk API Android di perangkat
codegemma-7b-it-GGUF https://huggingface.co/lmstudio-community/codegemma-7b-it-GGUF 2024/04/18 7B; model pengkodean
KodeQwen1.5-7B-Obrolan-GGUF https://huggingface.co/Qwen/CodeQwen1.5-7B-Chat-GGUF 2024/04/18 7B; model pengkodean
PenyihirLM-2-7B-GGUF https://huggingface.co/MaziyarPanahi/WizardLM-2-7B-GGUF 2024/04/18 7B; Disensor
Meta-Llama-3-8B-Instruksikan-GGUF https://huggingface.co/QuantFactory/Meta-Llama-3-8B-Instruct-GGUF 2024/04/19 8B; Disensor
lumba-lumba-2.9-llama3-8b-gguff https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8b-gguff 2024/04/22 8B; Tanpa sensor; logika tampaknya terdegradasi dari Llama-3-8B
Lexi-Llama-3-8B-Tanpa sensor-GGUF https://huggingface.co/Orenguteng/Lexi-Llama-3-8B-Uncensored-GGUF 2024/04/24 8B; Tanpa sensor
Llama3-8B-Obrolan-Cina-GGUF https://huggingface.co/QuantFactory/Llama3-8B-Chinese-Chat-GGUF 2024/04/24 8B; Cina
Phi-3-mini-4k-instruksikan-gguf https://huggingface.co/microsoft/Phi-3-mini-4k-instruct-gguf 2024/04/24 3,8B; Disensor; Cepat
Llama-3-8B-Instruksikan-32k-v0.1-GGUF https://huggingface.co/MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1-GGUF 2024/04/25 8B; konteks 32K; bagus untuk meringkas teks panjang
starcoder2-15b-instruksikan-v0.1-GGUF https://huggingface.co/bartowski/starcoder2-15b-instruct-v0.1-GGUF 2024/05/06 15B; model pengkodean
Hermes-2-Pro-Llama-3-8B-GGUF https://huggingface.co/NousResearch/Hermes-2-Pro-Llama-3-8B-GGUF 2024/05/06 8B; Disensor sebagian; JSON, Penggunaan Alat, dll.
Llama-3-ObrolanQA-1.5-8B-GGUF https://huggingface.co/bartowski/Llama-3-ChatQA-1.5-8B-GGUFF 2024/05/15 8B; Tanpa sensor
Hermes-2-Theta-Llama-3-8B-GGUF https://huggingface.co/NousResearch/Hermes-2-Theta-Llama-3-8B-GGUF 2024/05/17 8B; Disensor; JSON, Penggunaan Alat, dll
mekar-v5.1-9b-GGUF https://huggingface.co/bartowski/blossom-v5.1-9b-GGUF 2024/05/17 9B; Kumpulan data campuran Wizard/Orca/Matematika/Cina/Inggris
elang-11B-GGUF https://huggingface.co/bartowski/falcon-11B-GGUF 2024/05/17 11B; model dasar yang telah dilatih sebelumnya
llama-3-cat-8b-instruksikan-v1-GGUFF https://huggingface.co/bartowski/llama-3-cat-8b-instruct-v1-GGUFF 2024/05/20 8B; disensor sebagian; kesetiaan instruksi sistem; Permainan peran
Yi-1.5-9B-Obrolan-GGUF https://huggingface.co/bartowski/Yi-1.5-9B-Chat-GGUF 2024/05/20 9B; Disensor
SFR-Iteratif-DPO-LLaMA-3-8B-R-GGUF https://huggingface.co/bartowski/SFR-Iterative-DPO-LLaMA-3-8B-R-GGUF 2024/05/22 8B; Disensor sebagian
Llama-3-Lumimaid-8B-v0.1-OAS-GGUF-IQ-Imatrix https://huggingface.co/Lewdiculous/Llama-3-Lumimaid-8B-v0.1-OAS-GGUF-IQ-Imatrix 2024/05/22 8B; Permainan peran; Dilatih untuk tidak menolak permintaan; Tampaknya dilatih tentang data Quora
Mistral-7B-Instruksikan-v0.3-GGUF https://huggingface.co/MaziyarPanahi/Mistral-7B-Instruct-v0.3-GGUF 23/05/2024 7B; Disensor
L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix https://huggingface.co/Lewdiculous/L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix 30/05/2024 8B; dilatih untuk permainan peran 1 lawan 1 tanpa sensor
aya-23-8B-GGUF https://huggingface.co/bartowski/aya-23-8B-GGUF 30/05/2024 8B; Disensor
LLaMA3-iteratif-DPO-final-GGUF https://huggingface.co/bartowski/LLaMA3-iterative-DPO-final-GGUF 30/05/2024 8B; Disensor
openchat-3.6-8b-20240522-GGUF https://huggingface.co/bartowski/openchat-3.6-8b-20240522-GGUF 2024/06/04 8B; Disensor sebagian
Meta-Llama-3-8B-Instruksikan-abliterasi-v3-GGUF https://huggingface.co/failspy/Meta-Llama-3-8B-Instruct-abliterated-v3-GGUF 2024/06/04 8B; Tanpa sensor;
NeuralDaredevil-8B-dihapuskan-GGUF https://huggingface.co/QuantFactory/NeuralDaredevil-8B-abliterated-GGUF 2024/06/19 8B; Tanpa sensor;
Qwen2-7B-Instruksikan-GGUF https://huggingface.co/Qwen/Qwen2-7B-Instruct-GGUF 2024/06/24 7B; Disensor
DeepSeek-Coder-V2-Lite-Instruksikan-GGUF https://huggingface.co/lmstudio-community/DeepSeek-Coder-V2-Lite-Instruct-GGUF 2024/06/27 16B; Instruksikan model pengkodean
maganglm2_5-7b-chat-gguf https://huggingface.co/internlm/internlm2_5-7b-chat-gguf 2024/07/11 7B; Disensor; Konteks yang panjang; Penalaran dan Penggunaan Alat;
gemma-2-9b-it-GGUF https://huggingface.co/bartowski/gemma-2-9b-it-GGUF 2024/07/11 9B; Disensor
Smegmma-Deluxe-9B-v1-GGUF https://huggingface.co/bartowski/Smegmma-Deluxe-9B-v1-GGUF 2024/07/22 9B; Gemma yang kurang disensor (masih menolak beberapa permintaan); Permainan peran
h2o-danube3-4b-obrolan-GGUF https://huggingface.co/h2oai/h2o-danube3-4b-chat-GGUF 2024/07/17 4B; Disensor sebagian
Harimau-Gemma-9B-v1-GGUF https://huggingface.co/bartowski/Tiger-Gemma-9B-v1-GGUF 2024/07/17 9B; Tanpa sensor; tetapi tampaknya memiliki beberapa kelemahan dalam logika
Gemmasutra-9B-v1-GGUF https://huggingface.co/TheDrummer/Gemmasutra-9B-v1-GGUF 2024/07/24 9B; Roleplay dengan beberapa sensor
Meta-Llama-3.1-8B-Instruksikan-GGUF https://huggingface.co/lmstudio-community/Meta-Llama-3.1-8B-Instruct-GGUF 25/07/2024 8B; Disensor
Mistral-Nemo-Instruksikan-2407-GGUF https://huggingface.co/second-state/Mistral-Nemo-Instruct-2407-GGUF 25/07/2024 12.2B; Sebagian Tanpa Sensor; Direkomendasikan oleh Redditor
Celeste-12B-V1.6_iMatrix_GGUF https://huggingface.co/MarsupialAI/Celeste-12B-V1.6_iMatrix_GGUF 30/07/2024 12B; Model permainan peran & penulisan cerita, Tanpa sensor
Hermes-3-Llama-3.1-8B-GGUF https://huggingface.co/NousResearch/Hermes-3-Llama-3.1-8B-GGUF 2024/08/19 8B; Tanpa sensor
Gemma-2-9B-It-SPPO-Iter3-GGUF https://huggingface.co/bartowski/Gemma-2-9B-It-SPPO-Iter3-GGUF 2024/08/19 9B; Direkomendasikan di r/LocalLLaMA untuk ringkasan
Llama-3.1-Badai-8B-GGUF https://huggingface.co/bartowski/Llama-3.1-Storm-8B-GGUF 2024/08/20 8B; Disensor
Phi-3.5-mini-instruksikan-GGUF https://huggingface.co/lmstudio-community/Phi-3.5-mini-instruct-GGUF 2024/08/21 3,5B; Disensor, kecil & cepat
Phi-3.5-mini-instruct_Uncensored-GGUF https://huggingface.co/bartowski/Phi-3.5-mini-instruct_Uncensored-GGUF 2024/08/26 3,5B; Tanpa sensor, kecil & cepat, namun memiliki kelemahan logika & hasil yang tidak konsisten
NemoMix-Unleashed-12B-GGUF https://huggingface.co/bartowski/NemoMix-Unleashed-12B-GGUF 2024/08/26 12B; Disensor sebagian, Roleplaying & bercerita
Mistral-NeMo-Minitron-8B-Base-GGUF https://huggingface.co/QuantFactory/Mistral-NeMo-Minitron-8B-Base-GGUF 2024/08/26 8B; Model dasar
Yi-Coder-9B-Obrolan-GGUF https://huggingface.co/bartowski/Yi-Coder-9B-Chat-GGUF 2024/09/05 9B; Model pengkodean instruksi
Llama-3.2-3B-Instruksikan-Q8_0-GGUF https://huggingface.co/hugging-quants/Llama-3.2-3B-Instruct-Q8_0-GGUF 2024/10/01 3B; Model kecil yang disensor
Qwen2.5-7B-Instruksikan-GGUF https://huggingface.co/bartowski/Qwen2.5-7B-Instruct-GGUF 2024/10/01 7B; Disensor, direkomendasikan di r/LocalLLaMA
Qwen2.5-Coder-7B-Instruksikan-GGUF https://huggingface.co/bartowski/Qwen2.5-Coder-7B-Instruct-GGUF 2024/10/01 7B; Model pengkodean instruksi, direkomendasikan di r/LocalLLaMA
Llama-3.1-8B-Lexi-Tanpa sensor-V2-GGUF https://huggingface.co/Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2-GGUF 2024/10/15 8B; Disensor sebagian
SuperNova-Medius-GGUF https://huggingface.co/arcee-ai/SuperNova-Medius-GGUF 2024/10/15 14B; Disensor, direkomendasikan di r/LocalLLaMA
Llama-3.2-3B-Instruksikan-tanpa sensor-GGUF https://huggingface.co/mradermacher/Llama-3.2-3B-Instruct-uncensored-GGUF 2024/10/15 3B; Kecil, tanpa sensor
Ministral-8B-Instruksikan-2410-HF-GGUF-TEST https://huggingface.co/bartowski/Ministral-8B-Instruct-2410-HF-GGUF-TEST 2024/10/21 8B; Disensor sebagian
granit-3.0-8b-instruksikan-GGUF https://huggingface.co/bartowski/granite-3.0-8b-instruct-GGUF 2024/10/28 8B; Disensor
aya-expanse-8b-GGUF https://huggingface.co/bartowski/aya-expanse-8b-GGUF 2024/10/28 8B; Disensor
Qwen2.5-Coder-14B-Instruksikan-GGUF https://huggingface.co/Qwen/Qwen2.5-Coder-14B-Instruct-GGUF 2024/11/12 14B; Model pengkodean, bagus dalam ukurannya

Sejarah Bintang

Model Lama dengan Skor

Model Lama dengan Skor:

Model-model ini berfungsi lebih baik di antara model-model yang saya uji pada perangkat keras saya (i5-12490F, RAM 32GB, RTX 3060 Ti GDDR6X 8GB VRAM): (Catatan: Karena llama.cpp telah membuat beberapa perubahan yang dapat mengganggu dukungan model ggml lama. Beberapa model lama Versi ggml yang tercantum di bawah mungkin tidak berfungsi dengan baik pada llama.cpp saat ini. Namun harus ada versi GPTQ yang setara atau versi ggml yang lebih baru untuk model tersebut.)

CATATAN:

  • Pengeditan besar pada tanggal 30 Juni 2023. Karena saya melihat GPT-4 mulai memberikan skor yang lebih terperinci dan cenderung memberikan skor yang lebih tinggi, saya memutuskan untuk menjalankan kembali pengujian untuk semua model agar dapat dibandingkan (Semua evaluasi dilakukan dengan GPT -4-0613 untuk konsistensi). Skor pada tabel di bawah ini adalah rata-rata skor tes terakhir. Skor pada tabel di bawah ini tidak sebanding dengan skor pada README versi sebelumnya.
Model_Nama Rata-rata_Skor Colab_Link Tanggal_Ditambahkan Link
Mistral-7B-OpenOrca (menggunakan oobabooga/pembuatan teks-webui) 10.00 2023/10/08 https://huggingface.co/TheBloke/Mistral-7B-OpenOrca-GGUF
Obrolan Llama-2-13B (menggunakan oobabooga/pembuatan teks-webui) 9.65 2023/07/20 https://huggingface.co/TheBloke/Llama-2-13B-chat-GGML
wizard-vicuna-13B.ggml.q4_0 (menggunakan llama.cpp) 9.63 2023/05/07 https://huggingface.co/TheBloke/wizard-vicuna-13B-GGML
Nous-Capybara-7B (menggunakan oobabooga/pembuatan teks-webui) 9.56 2023/10/08 https://huggingface.co/TheBloke/Nous-Capybara-7B-GGUF
vicuna-13B-v1.5 (menggunakan oobabooga/pembuatan teks-webui) 9.53 2023/08/09 https://huggingface.co/TheBloke/vicuna-13B-v1.5-GGML
wizardLM-13B-1.0-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.53 29/05/2023 https://huggingface.co/TheBloke/wizardLM-13B-1.0-GPTQ
airoboros-13B-gpt4-1.4-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.50 30/06/2023 https://huggingface.co/TheBloke/airoboros-13B-gpt4-1.4-GPTQ
Nous-Hermes-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.44 2023/06/03 https://huggingface.co/TheBloke/Nous-Hermes-13B-GPTQ/tree/main
Dolphin-Llama-13B (menggunakan oobabooga/pembuatan teks-webui) 9.38 2023/07/24 https://huggingface.co/TheBloke/Dolphin-Llama-13B-GGML
Mistral-7B-Instruct-v0.1 (menggunakan oobabooga/pembuatan teks-webui) 9.37 2023/10/08 https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.1-GGUF
OpenOrca-Platypus2-13B (menggunakan oobabooga/pembuatan teks-webui) 9.37 2023/08/15 https://huggingface.co/TheBloke/OpenOrca-Platypus2-13B-GGML
airoboros-l2-13b-gpt4-2.0 (menggunakan oobabooga/pembuatan teks-webui) 9.34 2023/08/01 https://huggingface.co/TheBloke/airoboros-l2-13b-gpt4-2.0-GGML
Chronos-13B-v2 (menggunakan oobabooga/pembuatan teks-webui) 9.31 2023/08/09 https://huggingface.co/TheBloke/Chronos-13B-v2-GGML
vicuna-13b-v1.3.0-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.31 2023/06/29 https://huggingface.co/TheBloke/vicuna-13b-v1.3.0-GPTQ
MythoLogic-13B (menggunakan oobabooga/pembuatan teks-webui) 9.31 2023/07/20 https://huggingface.co/TheBloke/MythoLogic-13B-GGML
Selfee-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.28 2023/06/07 https://huggingface.co/TheBloke/Selfee-13B-GPTQ
WizardLM-13B-V1.2 (menggunakan oobabooga/pembuatan teks-webui) 9.28 2023/07/26 https://huggingface.co/TheBloke/WizardLM-13B-V1.2-GGML
minotaur-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.28 2023/06/09 https://huggingface.co/TheBloke/minotaur-13B-GPTQ
Pygmalion-2-13B-SuperCOT2 (menggunakan oobabooga/pembuatan teks-webui) 09.20 2023/09/21 https://huggingface.co/TheBloke/Pygmalion-2-13B-SuperCOT2-GGUF
Athena-v1 (menggunakan oobabooga/pembuatan teks-webui) 9.19 31/08/2023 https://huggingface.co/TheBloke/Athena-v1-GGUF
PuddleJumper-13B (menggunakan oobabooga/pembuatan teks-webui) 9.1875 2023/08/29 https://huggingface.co/TheBloke/PuddleJumper-13B-GGUF
Nous-Hermes-Llama2 (menggunakan oobabooga/pembuatan teks-webui) 9.17 2023/07/24 https://huggingface.co/TheBloke/Nous-Hermes-Llama2-GGML
Luban-13B (menggunakan oobabooga/pembuatan teks-webui) 9.15 31/08/2023 https://huggingface.co/TheBloke/Luban-13B-GGUF
MythoBoros-13B (menggunakan oobabooga/pembuatan teks-webui) 9.15 2023/07/24 https://huggingface.co/TheBloke/MythoBoros-13B-GGML
13B-Ouroboros (menggunakan oobabooga/pembuatan teks-webui) 9.11 27/07/2023 https://huggingface.co/TheBloke/13B-Ouroboros-GGML
tulu-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 9.06 2023/06/13 https://huggingface.co/TheBloke/tulu-13B-GPTQ
AlpacaCielo-13B (menggunakan oobabooga/pembuatan teks-webui) 9.03125 27/07/2023 https://huggingface.co/TheBloke/AlpacaCielo-13B-GGML
StableBeluga-13B (menggunakan oobabooga/pembuatan teks-webui) 9 2023/08/01 https://huggingface.co/TheBloke/StableBeluga-13B-GGML
Chronos-Hermes-13B-v2 (menggunakan oobabooga/pembuatan teks-webui) 8.97 2023/08/10 https://huggingface.co/TheBloke/Chronos-Hermes-13B-v2-GGML
OpenBuddy-Llama2-13B-v11.1 (menggunakan oobabooga/pembuatan teks-webui) 8.97 2023/09/05 https://huggingface.co/TheBloke/OpenBuddy-Llama2-13B-v11.1-GGUF
Camel-Platypus2-13B (menggunakan oobabooga/pembuatan teks-webui) 8.94 2023/08/15 https://huggingface.co/TheBloke/Camel-Platypus2-13B-GGML
airoboros-l2-13b-gpt4-m2.0 (menggunakan oobabooga/pembuatan teks-webui) 8.94 2023/09/21 https://huggingface.co/TheBloke/airoboros-l2-13b-gpt4-m2.0-GGUF
UltraLM-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.89 30/06/2023 https://huggingface.co/TheBloke/UltraLM-13B-GPTQ
13B-HyperMantis_GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.88 2023/06/03 https://huggingface.co/digitous/13B-HyperMantis_GPTQ_4bit-128g/
Stable-Platypus2-13B (menggunakan oobabooga/pembuatan teks-webui) 8.875 2023/08/15 https://huggingface.co/TheBloke/Stable-Platypus2-13B-GGML
Airoboros-13B-GPTQ-4bit (menggunakan oobabooga/pembuatan teks-webui) 8.84 25/05/2023 https://huggingface.co/TheBloke/airoboros-13B-GPTQ
Kuchiki-1.1-L2-7B (menggunakan oobabooga/pembuatan teks-webui) 8.84 2023/09/21 https://huggingface.co/TheBloke/Kuchiki-1.1-L2-7B-GGUF
WizardLM-1.0-Uncensored-Llama2-13B (menggunakan oobabooga/text-generasi-webui) 8.80625 2023/08/09 https://huggingface.co/TheBloke/WizardLM-1.0-Uncensored-Llama2-13B-GGML
Chronos-Beluga-v2-13B (menggunakan oobabooga/pembuatan teks-webui) 8.75 2023/08/10 https://huggingface.co/TheBloke/Chronos-Beluga-v2-13B-GGML
Vicuna-13B-CoT-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.75 2023/06/09 https://huggingface.co/TheBloke/Vicuna-13B-CoT-GPTQ
wizardLM-7B.q4_2 (dalam GPT4Semua) 8.75 TIDAK 2023/05/07 https://gpt4all.io/models/ggml-wizardLM-7B.q4_2.bin
OpenChat_v3.2 (menggunakan oobabooga/pembuatan teks-webui) 8.71875 2023/08/01 https://huggingface.co/TheBloke/OpenChat_v3.2-GGML
Huginn-13B (menggunakan oobabooga/pembuatan teks-webui) 8.7125 2023/08/10 https://huggingface.co/TheBloke/Huginn-13B-GGML
WizardLM-13B-V1.1 (menggunakan oobabooga/pembuatan teks-webui) 8.66 2023/07/17 https://huggingface.co/TheBloke/WizardLM-13B-V1.1-GGML
robin-13B-v2-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.66 2023/06/19 https://huggingface.co/TheBloke/robin-13B-v2-GPTQ
llama-2-13B-Guanaco-QLoRA (menggunakan oobabooga/pembuatan teks-webui) 8.625 2023/07/21 https://huggingface.co/TheBloke/llama-2-13B-Guanaco-QLoRA-GGML
mpt-7b-obrolan (dalam GPT4All) 8.53 TIDAK 2023/05/11 https://gpt4all.io/models/ggml-mpt-7b-chat.bin
chronos-hermes-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.48125 2023/06/16 https://huggingface.co/TheBloke/chronos-hermes-13B-GPTQ
Luna-AI-Llama2-Tanpa sensor (menggunakan oobabooga/pembuatan teks-webui) 8.46875 2023/07/20 https://huggingface.co/TheBloke/Luna-AI-Llama2-Uncensored-GGML
stable-vicuna-13B-GPTQ-4bit-128g (menggunakan oobabooga/pembuatan teks-webui) 8.25 2023/05/12 https://huggingface.co/TheBloke/stable-vicuna-13B-GPTQ
manticore_13b_chat_pyg_GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.21875 2023/05/24 https://huggingface.co/TheBloke/manticore-13b-chat-pyg-GPTQ
CAMEL_13B_Combined_Data_GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.09375 2023/06/10 https://huggingface.co/TheBloke/CAMEL-13B-Combined-Data-GPTQ
WizardLM-Uncensored-Falcon-7B-GPTQ (menggunakan oobabooga/text-generasi-webui) 8.09375 2023/06/02 https://huggingface.co/TheBloke/WizardLM-Uncensored-Falcon-7B-GPTQ
llama-13b-supercot-GGML (menggunakan oobabooga/pembuatan teks-webui) 8.01 2023/07/05 https://huggingface.co/TheBloke/llama-13b-supercot-GGML
Project-Baize-v2-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.96875 2023/05/24 https://huggingface.co/TheBloke/Project-Baize-v2-13B-GPTQ
koala-13B-4bit-128g.GGML (menggunakan llama.cpp) 7.9375 TIDAK 2023/05/07 https://huggingface.co/TheBloke/koala-13B-GPTQ-4bit-128g-GGML
wizard-lm-uncensored-13b-GPTQ-4bit-128g (menggunakan oobabooga/pembuatan teks-webui) 7.90625 2023/05/19 https://huggingface.co/4bit/WizardLM-13B-Uncensored-4bit-128g
vicuna-7B-v1.3-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.875 2023/06/29 https://huggingface.co/TheBloke/vicuna-7B-v1.3-GPTQ
Manticore-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.78125 23/05/2023 https://huggingface.co/TheBloke/Manticore-13B-GPTQ
vicuna-13b-1.1-q4_2 (di GPT4All) 7.75 TIDAK 2023/05/07 https://gpt4all.io/models/ggml-vicuna-13b-1.1-q4_2.bin
falcon-7b-instruct-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.625 2023/06/02 https://huggingface.co/TheBloke/falcon-7b-instruct-GPTQ
guanaco-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.5625 2023/05/26 https://huggingface.co/TheBloke/guanaco-13B-GPTQ
Mythical-Destroyer-V2-L2-13B (menggunakan oobabooga/teks-generasi-webui) 7.31 31/08/2023 https://huggingface.co/TheBloke/Mythical-Destroyer-V2-L2-13B-GGUF
Kimiko-v2-13B (menggunakan oobabooga/pembuatan teks-webui) 7.25 31/08/2023 https://huggingface.co/TheBloke/Kimiko-v2-13B-GGUF
orca-mini-13b.ggmlv3.q5_K_M (menggunakan oobabooga/text-generasi-webui) 7.0875 28/06/2023 https://huggingface.co/TheBloke/orca_mini_13B-GGML
Platipus2-13B (menggunakan oobabooga/pembuatan teks-webui) 7.03125 2023/08/15 https://huggingface.co/TheBloke/Platypus2-13B-GGML
Redmond-Puffin-13B (menggunakan oobabooga/pembuatan teks-webui) 7.03125 2023/07/20 https://huggingface.co/TheBloke/Redmond-Puffin-13B-GGML
13B-BlueMethod (menggunakan oobabooga/pembuatan teks-webui) 7.025 2023/07/24 https://huggingface.co/TheBloke/13B-BlueMethod-GGML
mpt-7b-instruksikan 6.6875 TIDAK 2023/05/12 https://huggingface.co/TheBloke/MPT-7B-Instruct-GGML
Kimiko-13B (menggunakan oobabooga/pembuatan teks-webui) 6.46875 2023/08/01 https://huggingface.co/TheBloke/Kimiko-13B-GGML
gpt4-x-alpaca-13b-ggml-q4_0 (menggunakan llama.cpp) 6.0625 TIDAK 2023/05/07 https://huggingface.co/Bradarr/gpt4-x-alpaca-13b-native-ggml-model-q4_0
minotaur-15B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 5.9375 2023/06/26 https://huggingface.co/TheBloke/minotaur-15B-GPTQ
baichuan-vicuna-7B-GGML (menggunakan oobabooga/pembuatan teks-webui) 5.90625 2023/07/05 https://huggingface.co/TheBloke/baichuan-vicuna-7B-GGML
gpt4all-j-v1.3-groovy (di GPT4All) 5.6875 TIDAK 2023/05/07 https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin

Terima kasih banyak kepada:
❤️ GPT4ALl: https://github.com/nomic-ai/gpt4all-chat
❤️ llama.cpp: https://github.com/ggerganov/llama.cpp
❤️ webui pembuatan teks oobabooga: https://github.com/oobabooga/text-generasi-webui
❤️ Colab webui terinspirasi oleh camenduru: https://github.com/camenduru/text-generasi-webui-colab/tree/main
❤️ The Bloke untuk kuantisasi model: https://huggingface.co/TheBloke

Model pengkodean diuji & skor rata-rata:

(Semua skor berasal dari GPT-4-0613.)

Model_Nama Rata-rata_Skor Colab_Link Tanggal_Ditambahkan Link
CodeLlama-13B-oasst-sft-v10 (menggunakan oobabooga/pembuatan teks-webui) 9.8 28/08/2023 https://huggingface.co/TheBloke/CodeLlama-13B-oasst-sft-v10-GGUF
WizardCoder-Python-13B-V1.0 (menggunakan oobabooga/pembuatan teks-webui) 9.5 28/08/2023 https://huggingface.co/TheBloke/WizardCoder-Python-13B-V1.0-GGUF
Redmond-Hermes-Coder-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 8.4 2023/07/03 https://huggingface.co/TheBloke/Redmond-Hermes-Coder-GPTQ
CodeUp-Alpha-13B-HF (menggunakan oobabooga/pembuatan teks-webui) 7.9 2023/08/15 https://huggingface.co/TheBloke/CodeUp-Alpha-13B-HF-GGML
pati-beta-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.6 2023/07/04 https://huggingface.co/TheBloke/starchat-beta-GPTQ
wizard-vicuna-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 7.3 2023/07/03 https://huggingface.co/TheBloke/wizard-vicuna-13B-GPTQ
WizardCoder-Guanaco-15B-V1.1 (menggunakan oobabooga/pembuatan teks-webui) 7.1 2023/07/21 https://huggingface.co/TheBloke/WizardCoder-Guanaco-15B-V1.1-GPTQ
CodeLlama-13B-Instruct (menggunakan oobabooga/text-generasi-webui) 7 28/08/2023 https://huggingface.co/TheBloke/CodeLlama-13B-Instruct-GGUF
CodeUp-Llama-2-13B-Chat-HF (menggunakan oobabooga/pembuatan teks-webui) 6 2023/08/03 https://huggingface.co/TheBloke/CodeUp-Llama-2-13B-Chat-HF-GGML
WizardCoder-15B-1.0-GPTQ (menggunakan oobabooga/text-generasi-webui) 5.9 2023/07/03 https://huggingface.co/TheBloke/WizardCoder-15B-1.0-GPTQ
wizardLM-13B-1.0-GPTQ (menggunakan oobabooga/pembuatan teks-webui) 5.9 29/05/2023 https://huggingface.co/TheBloke/wizardLM-13B-1.0-GPTQ

Pertanyaan dan skor

Tanggapan asli dapat ditemukan di: https://docs.google.com/spreadsheets/d/1ogDXUiaBx3t7EpMo44aaA6U6kLXX0x2tGRgLg8CISGs/edit?usp=sharing

Pertanyaan 1: Terjemahkan teks bahasa Inggris berikut ke bahasa Prancis: "Matahari terbit di timur dan terbenam di barat."

Domain Tugas: Terjemahan
Respons Baik yang Diharapkan: "Le soleil se lève à l'est et se couche à l'ouest."
Penjelasan: Tugas ini menguji kemampuan model dalam memahami dan menerjemahkan teks antarbahasa secara akurat.

  • wizardLM-7B.q4_2 (di GPT4All): 10
  • gpt4all-j-v1.3-groovy (dalam GPT4All) : 1
  • vicuna-13b-1.1-q4_2 (dalam GPT4All) : 8
  • gpt4-x-alpaca-13b-ggml-q4_0 (menggunakan llama.cpp): 10
  • koala-13B-4bit-128g.GGML (menggunakan llama.cpp): 7
  • wizard-vicuna-13B.ggml.q4_0 (menggunakan llama.cpp): 10
  • mpt-7b-obrolan (dalam GPT4All): 1
  • stable-vicuna-13B-GPTQ-4bit-128g (menggunakan oobabooga/text-generasi-webui): 1
  • mpt-7b-instruksikan : 1
  • wizard-lm-uncensored-13b-GPTQ-4bit-128g (menggunakan oobabooga/text-generasi-webui): 7
  • Manticore-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • manticore_13b_chat_pyg_GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • Project-Baize-v2-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • Airoboros-13B-GPTQ-4bit (menggunakan oobabooga/text-generasi-webui): 10
  • guanaco-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui): 1
  • wizardLM-13B-1.0-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • falcon-7b-instruct-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • WizardLM-Uncensored-Falcon-7B-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • Nous-Hermes-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • 13B-HyperMantis_GPTQ (menggunakan oobabooga/text-generasi-webui): 1
  • Selfee-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) : 7
  • minotaur-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • Vicuna-13B-CoT-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • CAMEL_13B_Combined_Data_GPTQ (menggunakan oobabooga/pembuatan teks-webui): 10
  • tulu-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • chronos-hermes-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui): 1
  • robin-13B-v2-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • minotaur-15B-GPTQ (menggunakan oobabooga/text-generasi-webui): 1
  • orca-mini-13b.ggmlv3.q5_K_M (menggunakan oobabooga/text-generasi-webui): 1
  • vicuna-13b-v1.3.0-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • vicuna-7B-v1.3-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • UltraLM-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui) : 7
  • airoboros-13B-gpt4-1.4-GPTQ (menggunakan oobabooga/text-generasi-webui): 8
  • llama-13b-supercot-GGML (menggunakan oobabooga/text-generasi-webui): 10
  • baichuan-vicuna-7B-GGML (menggunakan oobabooga/text-generasi-webui): 1
  • WizardLM-13B-V1.1 (menggunakan oobabooga/pembuatan teks-webui): 8.5
  • Obrolan Llama-2-13B (menggunakan oobabooga/pembuatan teks-webui): 10
  • Luna-AI-Llama2-Tanpa sensor (menggunakan oobabooga/pembuatan teks-webui): 6
  • MythoLogic-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Redmond-Puffin-13B (menggunakan oobabooga/text-generasi-webui): 10
  • llama-2-13B-Guanaco-QLoRA (menggunakan oobabooga/pembuatan teks-webui): 7.5
  • Dolphin-Llama-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Nous-Hermes-Llama2 (menggunakan oobabooga/pembuatan teks-webui): 10
  • 13B-BlueMethod (menggunakan oobabooga/text-generasi-webui) : 4
  • MythoBoros-13B (menggunakan oobabooga/pembuatan teks-webui): 10
  • WizardLM-13B-V1.2 (menggunakan oobabooga/text-generasi-webui): 10
  • 13B-Ouroboros (menggunakan oobabooga/pembuatan teks-webui): 10
  • AlpacaCielo-13B (menggunakan oobabooga/pembuatan teks-webui) : 9
  • OpenChat_v3.2 (menggunakan oobabooga/text-generasi-webui) : 10
  • airoboros-l2-13b-gpt4-2.0 (menggunakan oobabooga/text-generasi-webui): 10
  • StableBeluga-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Kimiko-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Chronos-13B-v2 (menggunakan oobabooga/pembuatan teks-webui): 10
  • WizardLM-1.0-Uncensored-Llama2-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Huginn-13B (menggunakan oobabooga/pembuatan teks-webui): 10
  • Chronos-Beluga-v2-13B (menggunakan oobabooga/pembuatan teks-webui): 10
  • Chronos-Hermes-13B-v2 (menggunakan oobabooga/pembuatan teks-webui): 10
  • vicuna-13B-v1.5 (menggunakan oobabooga/pembuatan teks-webui): 10
  • Stable-Platypus2-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Platipus2-13B (menggunakan oobabooga/pembuatan teks-webui): 10
  • Camel-Platypus2-13B (menggunakan oobabooga/pembuatan teks-webui): 7.5
  • OpenOrca-Platypus2-13B (menggunakan oobabooga/text-generasi-webui): 10
  • PuddleJumper-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Kimiko-v2-13B (menggunakan oobabooga/pembuatan teks-webui): 7.5
  • Mythical-Destroyer-V2-L2-13B (menggunakan oobabooga/text-generasi-webui): 10
  • Athena-v1 (menggunakan oobabooga/text-generasi-webui): 10
  • Luban-13B (menggunakan oobabooga/text-generasi-webui): 10
  • OpenBuddy-Llama2-13B-v11.1 (menggunakan oobabooga/pembuatan teks-webui): 9.5
  • Kuchiki-1.1-L2-7B (menggunakan oobabooga/pembuatan teks-webui): 9.5
  • Pygmalion-2-13B-SuperCOT2 (menggunakan oobabooga/pembuatan teks-webui): 9.5
  • airoboros-l2-13b-gpt4-m2.0 (menggunakan oobabooga/text-generasi-webui): 10
  • Mistral-7B-OpenOrca (menggunakan oobabooga/text-generasi-webui): 10
  • Nous-Capybara-7B (menggunakan oobabooga/text-generasi-webui): 10
  • Mistral-7B-Instruct-v0.1 (menggunakan oobabooga/text-generasi-webui): 9.5

Pertanyaan 2: Ringkaslah teks berikut: "Siklus air adalah proses alami yang melibatkan pergerakan air secara terus menerus di atas, dan di bawah permukaan bumi. Ini mencakup berbagai tahapan seperti penguapan, kondensasi, pengendapan, dan limpasan. Siklus ini berperan peran penting dalam menjaga keseimbangan air bumi dan mendukung kehidupan."

Domain Tugas: Ringkasan
Respon Baik yang Diharapkan: “Siklus air adalah pergerakan air yang terus menerus di bumi, penting untuk menjaga keseimbangan air dan mendukung kehidupan.”
Penjelasan: Tugas ini mengevaluasi kemampuan model untuk mengekstrak poin-poin utama dari teks tertentu dan menghasilkan ringkasan singkat.

  • wizardLM-7B.q4_2 (dalam GPT4All) : 5
  • gpt4all-j-v1.3-groovy (dalam GPT4All) : 7.5
  • vicuna-13b-1.1-q4_2 (dalam GPT4All) : 9
  • gpt4-x-alpaca-13b-ggml-q4_0 (menggunakan llama.cpp): 4
  • koala-13B-4bit-128g.GGML (menggunakan llama.cpp): 10
  • wizard-vicuna-13B.ggml.q4_0 (menggunakan llama.cpp): 10
  • mpt-7b-obrolan (dalam GPT4All): 10
  • stable-vicuna-13B-GPTQ-4bit-128g (menggunakan oobabooga/text-generasi-webui): 10
  • mpt-7b-instruksikan : 7.5
  • wizard-lm-uncensored-13b-GPTQ-4bit-128g (menggunakan oobabooga/text-generasi-webui): 1
  • Manticore-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 9
  • manticore_13b_chat_pyg_GPTQ (menggunakan oobabooga/text-generasi-webui): 8.5
  • Project-Baize-v2-13B-GPTQ (menggunakan oobabooga/text-generasi-webui): 10
  • Airoboros-13B-GPTQ-4bit (menggunakan oobabooga/text-generasi-webui): 7.5
  • guanaco-13B-GPTQ (menggunakan oobabooga/pembuatan teks-webui): 9
  • wizardlm-13b-1.0-gptq (menggunakan oobabooga/text-generation-webui): 9
  • Falcon-7b-instruct-GPTQ (menggunakan oobabooga/text-generation-webui): 9
  • Wizardlm-Incensored-Falcon-7b-GPTQ (Menggunakan Oobabooga/Text-Generation-WebUi): 5
  • Nous-hermes-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • 13b-hypermantis_gptq (menggunakan oobabooga/text-generation-webui): 10
  • Selfee-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • minotaur-13b-gptq (menggunakan oobabooga/text-generation-webui): 9
  • Vicuna-13b-cot-gptq (menggunakan oobabooga/text-generation-webui): 9
  • Camel_13b_combined_data_gptq (menggunakan oobabooga/text-generation-webui): 9
  • TULU-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Chronos-Hermes-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • robin-13b-v2-gptq (menggunakan oobabooga/text-generation-webui): 8.5
  • Minotaur-15b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 8
  • orca-mini-13b.ggmlv3.q5_k_m (menggunakan oobabooga/text-generation-webui): 1
  • vicuna-13b-v1.3.0-gptq (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-7b-v1.3-gptq (menggunakan oobabooga/text-generation-webui): 10
  • UltralM-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-13b-Gpt4-1.4-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 9
  • LLAMA-13B-SUPERCOT-GGML (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Baichuan-vicuna-7b-ggml (menggunakan oobabooga/text-generation-webui): 10
  • Wizardlm-13b-v1.1 (menggunakan oobabooga/text-generation-webui): 10
  • LLAMA-2-13B-CHAT (Menggunakan Oobabooga/Text-Generation-Webui): 9
  • Luna-ai-llama2-tidakensor (menggunakan oobabooga/text-generation-webui): 8
  • Mythologic-13b (Menggunakan Oobabooga/Text-Generation-Webui): 7.5
  • Redmond-puffin-13b (menggunakan oobabooga/text-generation-webui): 1
  • llama-2-13b-guanaco-qlora (menggunakan oobabooga/text-generation-webui): 10
  • Dolphin-Llama-13b (menggunakan oobabooga/text-generation-webui): 10
  • Nous-hermes-llama2 (menggunakan oobabooga/text-generation-webui): 10
  • 13b-bluemethod (menggunakan oobabooga/text-generation-webui): 1
  • Mythoboros-13b (Menggunakan Oobabooga/Text-Generation-Webui): 7
  • Wizardlm-13b-v1.2 (menggunakan oobabooga/text-generation-webui): 10
  • 13b-ouroboros (menggunakan oobabooga/text-generation-webui): 7.5
  • Alpacacielo-13b (menggunakan oobabooga/text-generation-webui): 9
  • OpenChat_V3.2 (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-L2-13B-GPT4-2.0 (Menggunakan Oobabooga/Text-Generation-Webui): 7.5
  • StableBeluga-13b (menggunakan oobabooga/text-generation-webui): 10
  • Kimiko-13b (menggunakan oobabooga/text-generation-webui): 7.5
  • Chronos-13b-v2 (menggunakan oobabooga/text-generation-webui): 9
  • Wizardlm-1.0-llama2-13b (menggunakan oobabooga/text-generation-webui): 5
  • Huginn-13b (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Chronos-Beluga-V2-13B (menggunakan oobabooga/text-generation-webui): 10
  • Chronos-Hermes-13b-V2 (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-13b-v1.5 (menggunakan oobabooga/text-generation-webui): 10
  • Stabil-platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Platypus2-13b (menggunakan oobabooga/text-generation-webui): 7.5
  • CAMEL-PLATYPUS2-13B (Menggunakan Oobabooga/Text-Generation-Webui): 9
  • Openorca-Platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Pudlejumper-13b (menggunakan oobabooga/text-generation-webui): 9.5
  • Kimiko-v2-13b (menggunakan oobabooga/text-generation-webui): 9
  • Mythical-Destroyer-V2-L2-13B (Menggunakan Oobabooga/Text-Generation-Webui): 5
  • Athena-V1 (Menggunakan Oobabooga/Text-Generation-Webui): 9
  • Luban-13b (menggunakan oobabooga/text-generation-webui): 10
  • OpenBuddy-llama2-13b-V11.1 (menggunakan oobabooga/text-generation-webui): 10
  • Kuchiki-1.1-l2-7b (menggunakan oobabooga/text-generation-webui): 10
  • Pygmalion-2-13b-supercot2 (menggunakan oobabooga/text-generation-webui): 10
  • Airoboros-L2-13B-GPT4-M2.0 (Menggunakan Oobabooga/Text-Generation-Webui): 9.5
  • MISTRAL-7B-OPENORCA (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Nous-capybara-7b (menggunakan oobabooga/text-generation-webui): 9
  • MISTRAL-7B-INSTRUCT-V0.1 (Menggunakan Oobabooga/Text-Generation-Webui): 10

Pertanyaan 3: Saya ingin Anda bertindak sebagai pengembang perangkat lunak senior dengan pengetahuan mendalam dalam desain sistem, pemrograman frontend, dan pemrograman backend. Memberikan desain tingkat tinggi aplikasi jurnal kesehatan mental. Sertakan komponen frontend dan backend. Jangan menulis kode.

Domain Tugas: Desain Aplikasi
Penjelasan: Tugas ini mengevaluasi kemampuan model untuk mengikuti instruksi pengguna secara ketat untuk tugas yang kompleks.

  • wizardlm-7b.q4_2 (dalam gpt4all): 10
  • gpt4all-j-v1.3-groovy (dalam gpt4all): 9
  • Vicuna-13b-1.1-Q4_2 (dalam GPT4ALL): 10
  • GPT4-X-ALPACA-13B-GGML-Q4_0 (menggunakan llama.cpp): 7.5
  • koala-13b-4bit-128g.ggml (menggunakan llama.cpp): 10
  • wizard-vicuna-13b.ggml.q4_0 (menggunakan llama.cpp): 10
  • MPT-7B-CHAT (dalam GPT4ALL): 10
  • stabil-vicuna-13b-gptq-4bit-128g (menggunakan oobabooga/text-generation-webui): 10
  • MPT-7B-Instruksi: 6.5
  • Wizard-LM-Incensored-13B-GPTQ-4BIT-128G (menggunakan oobabooga/text-generation-webui): 10
  • Manticore-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 8
  • Manticore_13b_chat_pyg_gptq (menggunakan oobabooga/text-generation-webui): 10
  • Project-Baize-V2-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-13b-GPTQ-4Bit (menggunakan oobabooga/text-generation-webui): 10
  • guanaco-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • WizardLM-13B-1.0-GPTQ (menggunakan oobabooga/text-generation-webui): 10
  • Falcon-7b-instruct-GPTQ (menggunakan oobabooga/text-generation-webui): 9
  • Wizardlm-Incensored-Falcon-7b-GPTQ (menggunakan oobabooga/text-generation-webui): 10
  • Nous-hermes-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • 13b-hypermantis_gptq (menggunakan oobabooga/text-generation-webui): 10
  • Selfee-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • Minotaur-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Vicuna-13b-cot-gptq (menggunakan oobabooga/text-generation-webui): 10
  • Camel_13b_combined_data_gptq (menggunakan oobabooga/text-generation-webui): 10
  • TULU-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Chronos-Hermes-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • robin-13b-v2-gptq (menggunakan oobabooga/text-generation-webui): 10
  • Minotaur-15b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • orca-mini-13b.ggmlv3.q5_k_m (menggunakan oobabooga/text-generation-webui): 9
  • vicuna-13b-v1.3.0-gptq (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-7b-v1.3-gptq (menggunakan oobabooga/text-generation-webui): 10
  • UltralM-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-13b-Gpt4-1.4-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • LLAMA-13B-SUPERCOT-GGML (Menggunakan Oobabooga/Text-Generation-Webui): 9.5
  • Baichuan-vicuna-7b-ggml (menggunakan oobabooga/text-generation-webui): 3
  • Wizardlm-13b-v1.1 (menggunakan oobabooga/text-generation-webui): 10
  • LLAMA-2-13B-CHAT (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Luna-ai-llama2-tidakensor (menggunakan oobabooga/text-generation-webui): 10
  • Mythologic-13b (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Redmond-puffin-13b (menggunakan oobabooga/text-generation-webui): 9.5
  • llama-2-13b-guanaco-qlora (menggunakan oobabooga/text-generation-webui): 10
  • Dolphin-Llama-13b (menggunakan oobabooga/text-generation-webui): 10
  • Nous-hermes-llama2 (menggunakan oobabooga/text-generation-webui): 10
  • 13b-bluemethod (menggunakan oobabooga/text-generation-webui): 10
  • Mythoboros-13b (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Wizardlm-13b-v1.2 (menggunakan oobabooga/text-generation-webui): 10
  • 13b-ouroboros (menggunakan oobabooga/text-generation-webui): 10
  • Alpacacielo-13b (menggunakan oobabooga/text-generation-webui): 10
  • OpenChat_V3.2 (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-L2-13B-GPT4-2.0 (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • StableBeluga-13b (menggunakan oobabooga/text-generation-webui): 10
  • Kimiko-13b (menggunakan oobabooga/text-generation-webui): 8.5
  • Chronos-13b-v2 (menggunakan oobabooga/text-generation-webui): 10
  • Wizardlm-1.0-llama2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Huginn-13b (Menggunakan Oobabooga/Text-Generation-Webui): 7.4
  • Chronos-Beluga-V2-13B (menggunakan oobabooga/text-generation-webui): 10
  • Chronos-Hermes-13b-V2 (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-13b-v1.5 (menggunakan oobabooga/text-generation-webui): 10
  • Stabil-platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Unta-platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Openorca-Platypus2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Pudlejumper-13b (menggunakan oobabooga/text-generation-webui): 10
  • Kimiko-v2-13b (menggunakan oobabooga/text-generation-webui): 10
  • Mythical-Destroyer-V2-L2-13B (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Athena-V1 (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Luban-13b (menggunakan oobabooga/text-generation-webui): 10
  • OpenBuddy-llama2-13b-V11.1 (menggunakan oobabooga/text-generation-webui): 10
  • Kuchiki-1.1-l2-7b (menggunakan oobabooga/text-generation-webui): 10
  • Pygmalion-2-13b-supercot2 (menggunakan oobabooga/text-generation-webui): 10
  • Airoboros-L2-13B-GPT4-M2.0 (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • MISTRAL-7B-OPENORCA (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Nous-capybara-7b (menggunakan oobabooga/text-generation-webui): 10
  • MISTRAL-7B-INSTRUCT-V0.1 (Menggunakan Oobabooga/Text-Generation-Webui): 10

Pertanyaan 4: Apa penyebab utama revolusi Prancis menurut perikop ini: "Revolusi Prancis, yang terjadi antara 1789 dan 1799, berakar pada krisis keuangan, ketidaksetaraan sosial, dan ide -ide pencerahan."

Domain tugas: menjawab pertanyaan abstraktif
Tanggapan yang baik yang diharapkan: Krisis keuangan, ketidaksetaraan sosial, dan ide -ide pencerahan.
Penjelasan: Tugas ini menguji kemampuan model untuk memahami konteks dan menghasilkan jawaban dengan kata -katanya sendiri.

  • wizardlm-7b.q4_2 (dalam gpt4all): 10
  • gpt4all-j-v1.3-groovy (dalam gpt4all): 10
  • Vicuna-13b-1.1-Q4_2 (dalam GPT4ALL): 10
  • GPT4-X-ALPACA-13B-GGML-Q4_0 (menggunakan llama.cpp): 1
  • koala-13b-4bit-128g.ggml (menggunakan llama.cpp): 10
  • wizard-vicuna-13b.ggml.q4_0 (menggunakan llama.cpp): 10
  • MPT-7B-CHAT (dalam GPT4ALL): 10
  • stabil-vicuna-13b-gptq-4bit-128g (menggunakan oobabooga/text-generation-webui): 10
  • MPT-7B-Instruksi: 6
  • Wizard-LM-Incensored-13B-GPTQ-4BIT-128G (menggunakan oobabooga/text-generation-webui): 10
  • Manticore-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 4
  • Manticore_13b_chat_pyg_gptq (menggunakan oobabooga/text-generation-webui): 10
  • Project-Baize-V2-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-13b-GPTQ-4Bit (menggunakan oobabooga/text-generation-webui): 10
  • guanaco-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • WizardLM-13B-1.0-GPTQ (menggunakan oobabooga/text-generation-webui): 10
  • Falcon-7b-instruct-GPTQ (menggunakan oobabooga/text-generation-webui): 10
  • Wizardlm-Incensored-Falcon-7b-GPTQ (menggunakan oobabooga/text-generation-webui): 10
  • Nous-hermes-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • 13b-hypermantis_gptq (menggunakan oobabooga/text-generation-webui): 10
  • Selfee-13b-gptq (menggunakan oobabooga/text-generation-webui): 10
  • Minotaur-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Vicuna-13b-cot-gptq (menggunakan oobabooga/text-generation-webui): 10
  • Camel_13b_combined_data_gptq (menggunakan oobabooga/text-generation-webui): 9.5
  • TULU-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Chronos-Hermes-13b-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • robin-13b-v2-gptq (menggunakan oobabooga/text-generation-webui): 10
  • minotaur-15b-gptq (menggunakan oobabooga/text-generation-webui): 9
  • orca-mini-13b.ggmlv3.q5_k_m (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-13b-v1.3.0-gptq (menggunakan oobabooga/text-generation-webui): 10
  • vicuna-7b-v1.3-gptq (menggunakan oobabooga/text-generation-webui): 10
  • UltralM-13B-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Airoboros-13b-Gpt4-1.4-GPTQ (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • LLAMA-13B-SUPERCOT-GGML (Menggunakan Oobabooga/Text-Generation-Webui): 9.5
  • Baichuan-vicuna-7b-ggml (menggunakan oobabooga/teks-generasi-webui): 7.5
  • Wizardlm-13b-v1.1 (menggunakan oobabooga/text-generation-webui): 10
  • LLAMA-2-13B-CHAT (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Luna-ai-llama2-tidakensor (menggunakan oobabooga/text-generation-webui): 10
  • Mythologic-13b (Menggunakan Oobabooga/Text-Generation-Webui): 10
  • Redmond-puffin-13b (menggunakan oobabooga/text-generation-webui): 10
  • llama-2-13b-guanaco-qlora (menggunakan oobabooga/text-generation-webui): 8
  • Dolphin-Llama-13b (menggunakan oobabooga/text-generation-webui): 10
  • Nous-hermes-llama2 (menggunakan oobabooga/text-generation-webui): 10
  • 13b-bluemethod (menggunakan oobabooga/text-generation-webui): 10
  • Mythoboros-13b (USI
Memperluas
Informasi Tambahan
Aplikasi Terkait
Direkomendasikan untuk Anda
Informasi Terkait Semua