Anscheinend benutzen die Leute das immer noch. Ich weiß das zu schätzen, also werde ich wieder damit beginnen, das Haupt-Repo zu verbessern. Ich habe ein paar Änderungen hinzugefügt.
Max. Token zu Env hinzugefügt, für Kobold beträgt der Max. 512, also überschreite diesen Wert nicht, sonst bekommst du eine Fehlermeldung
Es gibt jetzt Stop-Token-Unterstützung. Aktualisieren Sie Ihre .envs basierend auf der neuen Beispielumgebung. Listen Sie einfach Wörter auf, die der Bot nicht sagen soll, geteilt durch ,
Der Bot sagt jetzt Ihren Anzeigenamen und nicht Ihren Benutzernamen
Ich habe den Endpunkt und den Konversationsverlauf geändert, um Langchain zu verwenden, und werde bald Oobabooga-Unterstützung hinzufügen. Ich muss nur eine Zeile hinzufügen, um zu erkennen, welche API Sie als Endpunkt angegeben haben. (HINZUGEFÜGT)
- Weitere folgen in Kürze.
Dieser Discord-Bot nutzt LLMs und Charakterkarten für gelegentliches Chatten. Der Bot unterstützt JSON-Dateien und Tavernenkarten und bietet die Option, das Bild und den Namen des Bots automatisch zu aktualisieren.
Bitte beachten Sie, dass Discord die Umbenennung von Bots nur zweimal pro Stunde zulässt.
https://github.com/oobabooga/text-generation-webui#one-click-installers
Nachdem Sie es installiert haben, möchten Sie es mit dem Parameter --api ausführen oder es in der Web-Benutzeroberfläche auswählen. Anschließend können Sie den .env-Endpunkt auf http://127.0.0.1:5000/ festlegen, vorausgesetzt, Sie führen ihn lokal aus.
Derzeit sind diese Befehle vor allem für Entwickler nützlich. Wenn Sie sie nicht sehen, erzwingen Sie ihre Anzeige mit dem Befehl /sync
.
Befehlsname | Slash-Befehl | Weitere Informationen |
---|---|---|
Befehle synchronisieren | /sync | Erzwingt, dass die Schrägstrichbefehle sofort angezeigt werden. |
Zahnrad neu laden | /reload | Lädt ein bestimmtes Zahnrad neu, anstatt alles neu zu starten. |
Letzte Nachricht neu generieren | /regenerate | Entfernt die letzte Nachricht und generiert eine neue. |
Windows 11:
Windows 10: