gpt4all

GPT4All

เว็บไซต์ • เอกสารประกอบ • ความไม่ลงรอยกัน • บทช่วยสอน YouTube

GPT4All ใช้งานโมเดลภาษาขนาดใหญ่ (LLM) แบบส่วนตัวบนเดสก์ท็อปและแล็ปท็อปในชีวิตประจำวัน

ไม่จำเป็นต้องเรียก API หรือ GPU คุณสามารถดาวน์โหลดแอปพลิเคชันและเริ่มต้นใช้งานได้เลย

อ่านว่ามีอะไรใหม่ในบล็อกของเรา

สมัครรับจดหมายข่าว

gpt4all_2.mp4

GPT4All เกิดขึ้นได้โดย Paperspace ซึ่งเป็นพันธมิตรด้านการคำนวณของเรา

ลิงค์ดาวน์โหลด

— ตัวติดตั้ง Ubuntu —

Windows และ Linux ต้องใช้ Intel Core i3 2nd Gen / AMD Bulldozer หรือดีกว่า x86-64 เท่านั้น ไม่มี ARM

macOS ต้องใช้ Monterey 12.6 หรือใหม่กว่า ผลลัพธ์ที่ดีที่สุดด้วยโปรเซสเซอร์ Apple Silicon M-series

ดูข้อกำหนดของระบบฉบับเต็มสำหรับรายละเอียดเพิ่มเติม

Flathub (ดูแลชุมชน)

ติดตั้ง GPT4All Python

gpt4all ช่วยให้คุณเข้าถึง LLM ด้วยไคลเอนต์ Python ของเราเกี่ยวกับการใช้งาน llama.cpp

Nomic มีส่วนสนับสนุนซอฟต์แวร์โอเพ่นซอร์ส เช่น llama.cpp เพื่อให้ LLM สามารถเข้าถึงได้และมีประสิทธิภาพ สำหรับทุกคน

pip install gpt4all

 from gpt4all import GPT4All
model = GPT4All ( "Meta-Llama-3-8B-Instruct.Q4_0.gguf" ) # downloads / loads a 4.66GB LLM
with model . chat_session ():
    print ( model . generate ( "How can I run LLMs efficiently on my laptop?" , max_tokens = 1024 ))

บูรณาการ

- Langchain ⁉️ Weaviate Vector Database - โมดูลเอกสาร ? OpenLIT (การตรวจสอบ OTel-native) - เอกสาร

ประวัติการเผยแพร่

• 2 กรกฎาคม 2024 : รุ่น V3.0.0
  • การออกแบบ UI แอปพลิเคชันแชทใหม่
  • ปรับปรุงขั้นตอนการทำงานผู้ใช้สำหรับ LocalDocs
  • ขยายการเข้าถึงสถาปัตยกรรมแบบจำลองเพิ่มเติม
• 19 ตุลาคม 2023 : เปิดตัวการสนับสนุน GGUF พร้อมการสนับสนุนสำหรับ:
  • โมเดลพื้นฐาน Mistral 7b แกลเลอรีโมเดลที่ได้รับการอัปเดตบนเว็บไซต์ของเรา โมเดลโค้ดท้องถิ่นใหม่หลายโมเดล รวมถึง Rift Coder v1.5
  • รองรับ Nomic Vulkan สำหรับการหาปริมาณ Q4_0 และ Q4_1 ใน GGUF
  • การสนับสนุนบิลด์ออฟไลน์สำหรับการเรียกใช้ GPT4All Local LLM Chat Client เวอร์ชันเก่า
• 18 กันยายน 2023 : Nomic Vulkan เปิดตัวการรองรับการอนุมาน LLM ท้องถิ่นบน NVIDIA และ AMD GPU
• กรกฎาคม 2023 : การสนับสนุนที่เสถียรสำหรับ LocalDocs ซึ่งเป็นฟีเจอร์ที่ช่วยให้คุณแชทกับข้อมูลของคุณแบบส่วนตัวและในเครื่องได้
• 28 มิถุนายน 2023 : เซิร์ฟเวอร์ API ที่ใช้ Docker เปิดตัวเพื่อให้สามารถอนุมาน LLM ในเครื่องจากจุดสิ้นสุด HTTP ที่เข้ากันได้กับ OpenAI

มีส่วนร่วม

GPT4All ยินดีรับการมีส่วนร่วม การมีส่วนร่วม และการอภิปรายจากชุมชนโอเพ่นซอร์ส! โปรดดูที่ CONTRIBUTING.md และติดตามปัญหา รายงานข้อบกพร่อง และเทมเพลต PR markdown

ตรวจสอบความไม่ลงรอยกันของโครงการกับเจ้าของโครงการ หรือผ่านปัญหา/PR ที่มีอยู่เพื่อหลีกเลี่ยงงานที่ซ้ำกัน โปรดอย่าลืมติดแท็กทั้งหมดข้างต้นด้วยตัวระบุโครงการที่เกี่ยวข้อง ไม่เช่นนั้นการมีส่วนร่วมของคุณอาจสูญหายได้ แท็กตัวอย่าง: backend , bindings , python-bindings , documentation ฯลฯ

การอ้างอิง

หากคุณใช้พื้นที่เก็บข้อมูล แบบจำลอง หรือข้อมูลนี้ในโปรเจ็กต์ดาวน์สตรีม โปรดพิจารณาอ้างอิงด้วย:

 @misc{gpt4all,
  author = {Yuvanesh Anand and Zach Nussbaum and Brandon Duderstadt and Benjamin Schmidt and Andriy Mulyar},
  title = {GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/nomic-ai/gpt4all}},
}