どうやら人々はまだこれを使用しているようです。感謝しているので、メイン リポジトリの改善を再び開始します。いくつかの変更を追加しました。
env に最大トークンを追加しました。kobold の場合、最大値は 512 なので、それを超えないでください。そうしないとエラーが発生します。
ストップトークンのサポートが追加されました。新しいサンプル環境に基づいて .env を更新します。ボットに言われたくない単語をリストして、 で割ってください。
ボットはユーザー名ではなく表示名を言うようになります
langchain を使用するようにエンドポイントと会話履歴を変更しました。すぐに oababooga サポートを追加します。エンドポイントとして配置した API を検出する行を追加するだけです。 (追加した)
- 詳細は近日公開予定です。
この Discord ボットは、カジュアルなチャットに LLM とキャラクター カードを利用しています。ボットは JSON ファイルと居酒屋カードをサポートしており、ボットの画像と名前を自動的に更新するオプションを提供します。
Discord ではボットの名前変更が 1 時間に 2 回のみ許可されていることに注意してください。
https://github.com/oababooga/text-generation-webui#one-click-installers
インストール後、--api パラメーターを指定して実行するか、WebUI で選択します。次に、ローカルで実行していると仮定して、.env エンドポイントを http://127.0.0.1:5000/ として設定できます。
現在、これらのコマンドは主に開発者にとって役立ちます。それらが表示されない場合は、 /sync
コマンドを使用して強制的に表示させます。
コマンド名 | スラッシュコマンド | 詳細情報 |
---|---|---|
同期コマンド | /sync | スラッシュ コマンドを強制的にすぐに表示します。 |
リロードコグ | /reload | すべてを再起動するのではなく、特定の歯車をリロードします。 |
最後のメッセージを再生成 | /regenerate | 最後のメッセージを削除し、別のメッセージを生成します。 |
Windows 11:
Windows 10: