talkGPT4All

разговорGPT4Все

Голосовой чат-бот на основе GPT4All и talkGPT.

Видео демо.

Пожалуйста, проверьте более подробную информацию в этом сообщении в блоге (на китайском языке).

Если вы ищете более старую версию talkGPT4All, перейдите в ветку dev/v1.0.0.

Установка

Установить с помощью pip (рекомендуется)

talkgpt4all находится на PyPI, вы можете установить его с помощью одной простой команды:

pip install talkgpt4all

Установить из исходного кода

Клонируйте код:

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Установите зависимости и talkGPT4All в виртуальной среде Python:

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Дополнительные зависимости для пользователей Linux

Мы используем pyttsx3 для преобразования текста в голос. Обратите внимание, что в Linux необходимо установить зависимости:

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Использование

Откройте терминал и введите talkgpt4all , чтобы начать:

talkgpt4all

Используйте разные LLM

Вы можете выбрать разные LLM, используя --gpt-model-type <type> , все доступные варианты:

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Используйте разные модели Whisper

Вы можете выбрать тип модели шепота, используя --whisper-model-type <type> , все доступные варианты:

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Настройка скорости голоса

Вы можете настроить скорость голоса, используя --voice-rate <rate> , скорость по умолчанию — 165. Чем больше, тем быстрее говорите.

например,

talkgpt4all --whisper-model-type large --voice-rate 150

Дорожная карта

• Добавьте сборку исходного кода для llama.cpp с более гибким интерфейсом.
• Больше LLM
• Добавьте поддержку контекстной информации во время чата.
• Тестовый код для Linux, Mac, Intel и WSL2.
• Добавьте поддержку китайского ввода и вывода.
• Добавить документы и журнал изменений

вклады приветствуются!