talkGPT4All

トークGPT4すべて

GPT4All と talkGPT をベースにした音声チャットボット。

ビデオデモ。

詳細については、このブログ投稿 (中国語) をご覧ください。

talkGPT4All の古いバージョンをお探しの場合は、dev/v1.0.0 ブランチにチェックアウトしてください。

インストール

pip を使用してインストールする (推奨)

talkgpt4all は PyPI 上にあり、簡単な 1 つのコマンドを使用してインストールできます。

pip install talkgpt4all

ソースコードからインストールする

コードのクローンを作成します。

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Python 仮想環境に依存関係と talkGPT4All をインストールします。

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Linux ユーザー向けの追加の依存関係

テキストを音声に変換するには pyttsx3 を使用します。 Linux では、依存関係をインストールする必要があることに注意してください。

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

使用法

ターミナルを開いてtalkgpt4allと入力して開始します。

talkgpt4all

異なる LLM を使用する

--gpt-model-type <type>を使用してさまざまな LLM を選択できます。利用可能な選択肢はすべて次のとおりです。

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

さまざまな Whisper モデルを使用する

--whisper-model-type <type>を使用してウィスパー モデル タイプを選択できます。利用可能な選択肢はすべて次のとおりです。

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

音声速度を調整する

--voice-rate <rate>を使用して音声レートを調整できます。デフォルトのレートは 165 です。大きいほど速く話します。

例えば、

talkgpt4all --whisper-model-type large --voice-rate 150

ロードマップ

• より柔軟なインターフェースを備えた llama.cpp のソース構築を追加します。
• その他の LLM
• チャット中のコンテキスト情報のサポートを追加します。
• Linux、Mac Intel、WSL2 でコードをテストします。
• 中国語の入力と出力のサポートを追加します。
• ドキュメントと変更ログを追加する

貢献は大歓迎です！