infinigpt matrix

無限行列

InfiniGPT は、Matrix チャット プロトコル用の OpenAI チャットボットです。素晴らしいプロンプトがあり、考えられるほぼすべてのことをロールプレイすることができます。デフォルトの性格を任意に設定できます。これはいつでも変更でき、各ユーザーは選択した性格設定で独自の個別のチャット履歴を持ちます。ユーザーは希望に応じて、コラボレーションのためにお互いのチャット履歴を操作できますが、それ以外の場合、会話はチャネルごと、ユーザーごとに分離されます。

infinigpt-irc で IRC にも使用できます

Ollama のサポートとモデルの切り替えが可能になりました。

設定

 pip3 install matrix-nio openai 

OpenAI API キーを取得し、環境変数として OPENAI_API_KEY として設定します。代わりに環境変数を使用したい場合は、コード内に環境変数を設定する場所があります。

必要な Ollama モデルを config.json のモデル リストに追加します (使用している場合)。まず、Ollama をインストールしてよく理解し、ローカル LLM などを実行できることを確認する必要があります。実行できない場合でも、心配する必要はありません。構成からこれらのモデルを省略できます。

次のコマンドを使用してインストールおよび更新できます。

 curl https://ollama.ai/install.sh | sh

すべてのセットアップが完了したら、使用するモデルをダウンロードする必要があります。利用可能なものを試してみて、何が最適かを確認してください。これらを config.json ファイルに追加します。私が含めたものを使用したい場合は、それぞれに対して ollam pull modelname を実行してください。

ボット用の Matrix アカウントをセットアップします。サーバー、ユーザー名、パスワードが必要です。

これらを config.json ファイルに追加します。

 python3 infinigpt.py

使用

.aiメッセージまたはボット名: message基本的な使用法。性格はボット運用者によってあらかじめ設定されます。

.xユーザー メッセージこれにより、別のユーザーのチャット履歴と会話できるようになります。 user は、履歴を使用するユーザーの表示名です。

.persona性格性格を変更します。それは、キャラクター、性格タイプ、物体、アイデアなどです。ここではカスタム プロンプトを使用しないでください。

.customプロンプト組み込みプロンプトの代わりにカスタム システム プロンプトの使用を許可します。

.resetプリセットされた性格にリセットします

.stockパーソナリティを削除し、標準の GPT 設定にリセットします

.model利用可能な大規模言語モデルのリスト

.modelモデル名モデルの変更

.model リセットモデルをリセット

.help組み込みのヘルプ メニューを表示します。