gpt4all

GPT4Tous

Site Web • Documentation • Discord • Tutoriel YouTube

GPT4All exécute des modèles de langage étendus (LLM) en privé sur les ordinateurs de bureau et portables de tous les jours.

Aucun appel API ni GPU requis : vous pouvez simplement télécharger l'application et commencer.

Découvrez les nouveautés sur notre blog.

Abonnez-vous à la newsletter

gpt4all_2.mp4

GPT4All est rendu possible par notre partenaire informatique Paperspace.

Liens de téléchargement

- Programme d'installation d'Ubuntu -

Windows et Linux nécessitent Intel Core i3 2e génération / AMD Bulldozer, ou mieux. x86-64 uniquement, pas d'ARM.

macOS nécessite Monterey 12.6 ou une version ultérieure. Meilleurs résultats avec les processeurs Apple Silicon M-series.

Consultez la configuration système complète requise pour plus de détails.

Flathub (maintenu par la communauté)

Installer GPT4All Python

gpt4all vous donne accès aux LLM avec notre client Python autour des implémentations llama.cpp .

Nomic contribue à des logiciels open source comme llama.cpp pour rendre les LLM accessibles et efficaces pour tous .

pip install gpt4all

 from gpt4all import GPT4All
model = GPT4All ( "Meta-Llama-3-8B-Instruct.Q4_0.gguf" ) # downloads / loads a 4.66GB LLM
with model . chat_session ():
    print ( model . generate ( "How can I run LLMs efficiently on my laptop?" , max_tokens = 1024 ))

Intégrations

?? Langchain ?️ Weaviate Vector Database - documentation du module ? OpenLIT (surveillance native OTel) - Docs

Historique des versions

• 2 juillet 2024 : Sortie V3.0.0
  • Nouvelle refonte de l'interface utilisateur de l'application de chat
  • Flux de travail utilisateur amélioré pour LocalDocs
  • Accès étendu à davantage d'architectures de modèles
• 19 octobre 2023 : lancement du support GGUF avec prise en charge de :
  • Modèle de base Mistral 7b, une galerie de modèles mise à jour sur notre site Web, plusieurs nouveaux modèles de codes locaux, dont Rift Coder v1.5
  • Prise en charge de Nomic Vulkan pour les quantifications Q4_0 et Q4_1 dans GGUF.
  • Prise en charge de la construction hors ligne pour l'exécution d'anciennes versions du client de discussion LLM local GPT4All.
• 18 septembre 2023 : Nomic Vulkan lance la prise en charge de l'inférence LLM locale sur les GPU NVIDIA et AMD.
• Juillet 2023 : Prise en charge stable de LocalDocs, une fonctionnalité qui vous permet de discuter en privé et localement avec vos données.
• 28 juin 2023 : lancement du serveur API basé sur Docker permettant l'inférence de LLM locaux à partir d'un point de terminaison HTTP compatible OpenAI.

Contribuer

GPT4All accueille les contributions, l'implication et les discussions de la communauté open source ! Veuillez consulter CONTRIBUTING.md et suivre les problèmes, les rapports de bogues et les modèles de démarques PR.

Vérifiez les discordes du projet, avec les propriétaires de projet ou via les problèmes/PR existants pour éviter le travail en double. Veuillez vous assurer de marquer tout ce qui précède avec les identifiants de projet pertinents, sinon votre contribution pourrait potentiellement être perdue. Exemples de balises : backend , bindings , python-bindings , documentation , etc.

Citation

Si vous utilisez ce référentiel, ces modèles ou ces données dans un projet en aval, pensez à les citer avec :

 @misc{gpt4all,
  author = {Yuvanesh Anand and Zach Nussbaum and Brandon Duderstadt and Benjamin Schmidt and Andriy Mulyar},
  title = {GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/nomic-ai/gpt4all}},
}