infinigpt matrix
1.0.0
InfiniGPT est un chatbot OpenAI pour le protocole de chat Matrix. Il a une excellente invite qui lui permet de jouer un rôle comme presque tout ce à quoi vous pouvez penser. Vous pouvez définir la personnalité par défaut de votre choix. Il peut être modifié à tout moment et chaque utilisateur dispose de son propre historique de discussion avec le paramètre de personnalité qu'il a choisi. Les utilisateurs peuvent interagir les uns avec les autres pour collaborer s'ils le souhaitent, mais sinon, les conversations sont séparées, par canal et par utilisateur.
Également disponible pour IRC sur infinigpt-irc
Maintenant avec le support Ollama et le changement de modèle.
pip3 install matrix-nio openai
Obtenez une clé API OpenAI, définissez-la comme variable d'environnement comme OPENAI_API_KEY. Il existe un endroit pour définir la variable d'environnement dans le code si vous souhaitez l'utiliser à la place.
Ajoutez les modèles Ollama souhaités à la liste des modèles dans config.json, si vous en utilisez. Vous devrez d'abord installer et vous familiariser avec Ollama, vous assurer que vous pouvez exécuter des LLM locaux, etc. Si vous ne pouvez pas, ne vous inquiétez pas, vous pouvez simplement omettre ces modèles de la configuration.
Vous pouvez l'installer et le mettre à jour avec cette commande :
curl https://ollama.ai/install.sh | sh
Une fois tout configuré, vous devrez télécharger les modèles que vous souhaitez utiliser. Vous pouvez jouer avec ceux disponibles et voir ce qui vous convient le mieux. Ajoutez-les au fichier config.json. Si vous souhaitez utiliser ceux que j'ai inclus, exécutez simplement ollama pull modelname pour chacun.
Créez un compte Matrix pour votre bot. Vous aurez besoin du serveur, du nom d'utilisateur et du mot de passe.
Ajoutez-les au fichier config.json.
python3 infinigpt.py
Message .ai ou nom du bot : message Utilisation de base. La personnalité est prédéfinie par l'opérateur du bot.
Message utilisateur .x Cela vous permet de parler à l'historique de discussion d'un autre utilisateur. user est le nom d'affichage de l'utilisateur dont vous souhaitez utiliser l'historique
.persona personalité Change la personnalité. Cela peut être un personnage, un type de personnalité, un objet, une idée. N'utilisez pas d'invite personnalisée ici.
.custom prompt Permet d'utiliser une invite système personnalisée au lieu de celle intégrée
.reset Réinitialiser la personnalité prédéfinie
.stock Supprimer la personnalité et réinitialiser les paramètres GPT standard
.model Liste des grands modèles de langage disponibles
.model modelname Changer de modèle
.model reset Réinitialiser le modèle
.help Afficher le menu d'aide intégré
