InfiniGPT ist ein OpenAI-Chatbot für das Matrix-Chat-Protokoll. Es verfügt über eine großartige Eingabeaufforderung, die es ermöglicht, Rollenspiele wie fast alles zu spielen, was man sich vorstellen kann. Sie können jede gewünschte Standardpersönlichkeit festlegen. Es kann jederzeit geändert werden und jeder Benutzer hat seinen eigenen separaten Chatverlauf mit der von ihm gewählten Persönlichkeitseinstellung. Benutzer können zur Zusammenarbeit mit den Chatverläufen der anderen interagieren, wenn sie möchten. Ansonsten werden die Konversationen jedoch nach Kanal und Benutzer getrennt.
Auch für IRC unter infinigpt-irc verfügbar
Jetzt mit Ollama-Unterstützung und Modellwechsel.
pip3 install matrix-nio openai
Holen Sie sich einen OpenAI-API-Schlüssel und legen Sie ihn als Umgebungsvariable als OPENAI_API_KEY fest. Es gibt eine Stelle im Code, an der Sie die Umgebungsvariable festlegen können, wenn Sie diese stattdessen verwenden möchten.
Fügen Sie die gewünschten Ollama-Modelle zur Modellliste in config.json hinzu, falls verwendet. Sie müssen zunächst Ollama installieren und sich damit vertraut machen, sicherstellen, dass Sie lokale LLMs usw. ausführen können. Wenn dies nicht möglich ist, machen Sie sich keine Sorgen, Sie können diese Modelle einfach aus der Konfiguration weglassen.
Sie können es mit diesem Befehl installieren und aktualisieren:
curl https://ollama.ai/install.sh | sh
Sobald alles eingerichtet ist, müssen Sie die Modelle herunterladen, die Sie verwenden möchten. Sie können mit den verfügbaren experimentieren und sehen, was für Sie am besten funktioniert. Fügen Sie diese zur Datei config.json hinzu. Wenn Sie die von mir eingefügten verwenden möchten, führen Sie einfach ollama pull modelname für jeden aus.
Richten Sie ein Matrix-Konto für Ihren Bot ein. Sie benötigen den Server, den Benutzernamen und das Passwort.
Fügen Sie diese zur Datei config.json hinzu.
python3 infinigpt.py
.ai -Nachricht oder Botname: Nachricht Grundlegende Verwendung. Die Persönlichkeit wird vom Bot-Betreiber voreingestellt.
.x- Benutzernachricht Damit können Sie mit dem Chatverlauf eines anderen Benutzers sprechen. Benutzer ist der Anzeigename des Benutzers, dessen Verlauf Sie verwenden möchten
.persona Personality Ändert die Persönlichkeit. Es kann ein Charakter, ein Persönlichkeitstyp, ein Objekt oder eine Idee sein. Verwenden Sie hier keine benutzerdefinierte Eingabeaufforderung.
.custom prompt Ermöglicht die Verwendung einer benutzerdefinierten Systemeingabeaufforderung anstelle der integrierten
.reset Zurücksetzen auf voreingestellte Persönlichkeit
.stock Persönlichkeit entfernen und auf Standard-GPT-Einstellungen zurücksetzen
.model Liste der verfügbaren großen Sprachmodelle
.model Modellname Modell ändern
.model reset Modell zurücksetzen
.help Zeigt das integrierte Hilfemenü an