gpt4all

GPT4Semua

Situs Web • Dokumentasi • Discord • Tutorial YouTube

GPT4All menjalankan model bahasa besar (LLM) secara pribadi di desktop & laptop sehari-hari.

Tidak diperlukan panggilan API atau GPU - Anda cukup mengunduh aplikasi dan memulai.

Baca tentang apa yang baru di blog kami.

Berlangganan buletin

gpt4all_2.mp4

GPT4All dimungkinkan oleh mitra komputasi kami, Paperspace.

Tautan Unduhan

— Penginstal Ubuntu —

Windows dan Linux memerlukan Intel Core i3 2nd Gen/AMD Bulldozer, atau lebih baik. x86-64 saja, tanpa ARM.

macOS memerlukan Monterey 12.6 atau lebih baru. Hasil terbaik dengan prosesor Apple Silicon seri M.

Lihat Persyaratan Sistem selengkapnya untuk lebih jelasnya.

Flathub (dikelola komunitas)

Instal GPT4All Python

gpt4all memberi Anda akses ke LLM dengan klien Python kami seputar implementasi llama.cpp .

Nomic berkontribusi pada perangkat lunak sumber terbuka seperti llama.cpp untuk membuat LLM dapat diakses dan efisien untuk semua orang .

pip install gpt4all

 from gpt4all import GPT4All
model = GPT4All ( "Meta-Llama-3-8B-Instruct.Q4_0.gguf" ) # downloads / loads a 4.66GB LLM
with model . chat_session ():
    print ( model . generate ( "How can I run LLMs efficiently on my laptop?" , max_tokens = 1024 ))

Integrasi

?? Langchain ?️ Basis Data Vektor Weaviate - dokumen modul? OpenLIT (Pemantauan asli Otel) - Dokumen

Riwayat Rilis

• 2 Juli 2024 : Rilis V3.0.0
  • Desain ulang baru pada UI aplikasi obrolan
  • Peningkatan alur kerja pengguna untuk LocalDocs
  • Akses yang diperluas ke lebih banyak arsitektur model
• 19 Oktober 2023 : Dukungan GGUF Diluncurkan dengan Dukungan untuk:
  • Model dasar Mistral 7b, galeri model yang diperbarui di situs web kami, beberapa model kode lokal baru termasuk Rift Coder v1.5
  • Dukungan Nomic Vulkan untuk kuantisasi Q4_0 dan Q4_1 di GGUF.
  • Dukungan build offline untuk menjalankan versi lama Klien Obrolan LLM Lokal GPT4All.
• 18 September 2023 : Nomic Vulkan diluncurkan mendukung inferensi LLM lokal pada GPU NVIDIA dan AMD.
• Juli 2023 : Dukungan stabil untuk LocalDocs, sebuah fitur yang memungkinkan Anda mengobrol secara pribadi dan lokal dengan data Anda.
• 28 Juni 2023 : Peluncuran server API berbasis Docker memungkinkan inferensi LLM lokal dari titik akhir HTTP yang kompatibel dengan OpenAI.

Berkontribusi

GPT4All menyambut baik kontribusi, keterlibatan, dan diskusi dari komunitas open source! Silakan lihat CONTRIBUTING.md dan ikuti masalah, laporan bug, dan templat penurunan harga PR.

Periksa perselisihan proyek, dengan pemilik proyek, atau melalui isu/Humas yang ada untuk menghindari duplikasi pekerjaan. Harap pastikan untuk menandai semua hal di atas dengan pengidentifikasi proyek yang relevan atau kontribusi Anda berpotensi hilang. Contoh tag: backend , bindings , python-bindings , documentation , dll.

Kutipan

Jika Anda menggunakan repositori, model, atau data ini dalam proyek hilir, harap pertimbangkan untuk mengutipnya dengan:

 @misc{gpt4all,
  author = {Yuvanesh Anand and Zach Nussbaum and Brandon Duderstadt and Benjamin Schmidt and Andriy Mulyar},
  title = {GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/nomic-ai/gpt4all}},
}