InfiniGPT 是一個適用於 Matrix 聊天協議的 OpenAI 聊天機器人。它有一個很棒的提示,可以讓你扮演幾乎任何你能想到的角色。您可以設定任何您想要的預設個性。它可以隨時更改,每個用戶都有自己單獨的聊天歷史記錄和他們選擇的個性設定。如果使用者願意,可以與其他人的聊天歷史進行互動以進行協作,但除此之外,每個頻道、每個使用者的對話都是分開的。
也可用於 infinigpt-irc 上的 IRC
現在有了 Ollama 支援和模型切換。
pip3 install matrix-nio openai
取得 OpenAI API 金鑰,將其設定為環境變數 OPENAI_API_KEY。如果您想使用它,可以在程式碼中設定環境變數。
將所需的 Ollama 模型新增至 config.json 中的模型清單(如果使用)。你首先需要安裝並熟悉Ollama,確保你可以運行本地LLM等。
您可以使用以下命令安裝和更新它:
curl https://ollama.ai/install.sh | sh
全部設定完畢後,您需要下載要使用的模型。您可以使用可用的選項,看看哪種最適合您。將它們加入 config.json 檔案。如果您想使用我包含的那些,只需為每個運行 ollama pull modelname即可。
為您的機器人設定 Matrix 帳戶。您將需要伺服器、使用者名稱和密碼。
將它們加入 config.json 檔案。
python3 infinigpt.py
.ai訊息或機器人名稱:訊息基本用法。個性是由機器人操作員預設的。
.x用戶訊息這允許您與其他用戶的聊天歷史記錄進行交談。 user是您要使用其歷史記錄的使用者的顯示名稱
.persona個性改變個性。它可以是性格、個性類型、物品、想法。不要在此處使用自訂提示。
.custom提示字元允許使用自訂系統提示符而不是內建提示符
.reset重置為預設個性
.stock刪除個性並重設為標準 GPT 設定
.model列出可用的大語言模型
.model型號名稱更改型號
.model Reset重置模型
.help顯示內建幫助選單