InfiniGPT 是一个适用于 Matrix 聊天协议的 OpenAI 聊天机器人。它有一个很棒的提示,可以让你扮演几乎任何你能想到的角色。您可以设置任何您想要的默认个性。它可以随时更改,每个用户都有自己单独的聊天历史记录和他们选择的个性设置。如果用户愿意,可以与其他人的聊天历史进行交互以进行协作,但除此之外,每个频道、每个用户的对话都是分开的。
也可用于 infinigpt-irc 上的 IRC
现在有了 Ollama 支持和模型切换。
pip3 install matrix-nio openai
获取 OpenAI API 密钥,将其设置为环境变量 OPENAI_API_KEY。如果您想使用它,可以在代码中设置环境变量。
将所需的 Ollama 模型添加到 config.json 中的模型列表(如果使用)。你首先需要安装并熟悉Ollama,确保你可以运行本地LLM等。如果你不能,不用担心,你可以从配置中忽略这些模型。
您可以使用以下命令安装和更新它:
curl https://ollama.ai/install.sh | sh
全部设置完毕后,您需要下载要使用的模型。您可以使用可用的选项,看看哪种最适合您。将它们添加到 config.json 文件中。如果您想使用我包含的那些,只需为每个运行 ollama pull modelname即可。
为您的机器人设置一个 Matrix 帐户。您将需要服务器、用户名和密码。
将它们添加到 config.json 文件中。
python3 infinigpt.py
.ai消息或机器人名称:消息基本用法。个性是由机器人操作员预设的。
.x用户消息这允许您与其他用户的聊天历史记录进行交谈。 user是您要使用其历史记录的用户的显示名称
.persona个性改变个性。它可以是性格、个性类型、物体、想法。不要在此处使用自定义提示。
.custom提示符允许使用自定义系统提示符而不是内置提示符
.reset重置为预设个性
.stock删除个性并重置为标准 GPT 设置
.model列出可用的大语言模型
.model型号名称更改型号
.model Reset重置模型
.help显示内置帮助菜单