talkGPT4All

谈论GPT4All

基于 GPT4All 和 talkGPT 的语音聊天机器人。

视频演示。

请查看这篇博文（中文）中的更多详细信息。

如果您正在寻找旧版本的 talkGPT4All，请查看 dev/v1.0.0 分支。

安装

使用 pip 安装（推荐）

talkgpt4all 位于 PyPI 上，您可以使用简单的一个命令来安装它：

pip install talkgpt4all

从源代码安装

克隆代码：

git clone https://github.com/vra/talkGPT4All.git < ROOT >

在 python 虚拟环境中安装依赖项和 talkGPT4All：

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Linux 用户的额外依赖项

我们使用 pyttsx3 将文本转换为语音。请注意，在 Linux 上，您需要安装依赖项：

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

用法

打开终端并输入talkgpt4all开始：

talkgpt4all

使用不同的法学硕士

您可以使用--gpt-model-type <type>选择不同的LLM，所有可用的选择：

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

使用不同的 Whisper 模型

您可以使用--whisper-model-type <type>选择耳语模型类型，所有可用选项：

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

调整语音速率

您可以使用--voice-rate <rate>调整语音速率，默认速率为 165。越大，说话越快。

例如，

talkgpt4all --whisper-model-type large --voice-rate 150

路线图

• 增加llama.cpp源码构建，接口更加灵活。
• 更多 法学硕士
• 添加对聊天期间上下文信息的支持。
• 在 Linux、Mac Intel 和 WSL2 上测试代码。
• 添加对中文输入和输出的支持。
• 添加文档和变更日志

欢迎贡献！