talkGPT4All

talkGPT4All

Um chatbot de voz baseado em GPT4All e talkGPT.

Demonstração em vídeo.

Por favor, verifique mais detalhes nesta postagem do blog (em chinês).

Se você estiver procurando pela versão mais antiga do talkGPT4All, faça check-out no branch dev/v1.0.0.

Instalação

Instalar usando pip (recomendado)

talkgpt4all está no PyPI, você pode instalá-lo usando um simples comando:

pip install talkgpt4all

Instalar a partir do código-fonte

Clone o código:

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Instale as dependências e talkGPT4All em um ambiente virtual python:

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Dependências extras para usuários Linux

Usamos pyttsx3 para converter texto em voz. Observe que no Linux ，Você precisa instalar dependências:

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Uso

Abra um terminal e digite talkgpt4all para começar:

talkgpt4all

Use diferentes LLMs

Você pode escolher diferentes LLMs usando --gpt-model-type <type> , todas as opções disponíveis:

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Use diferentes modelos de Whisper

Você pode escolher o tipo de modelo sussurro usando --whisper-model-type <type> , todas as opções disponíveis:

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Ajustar a taxa de voz

Você pode ajustar a taxa de voz usando --voice-rate <rate> , a taxa padrão é 165. Quanto maior for a fala, mais rápido.

por exemplo,

talkgpt4all --whisper-model-type large --voice-rate 150

Roteiro

• Adicione a construção de código-fonte para llama.cpp, com interface mais flexível.
• Mais LLMs
• Adicione suporte para informações contextuais durante o bate-papo.
• Teste o código em Linux, Mac Intel e WSL2.
• Adicione suporte para entrada e saída em chinês.
• Adicionar documentos e changelog

contribuições são bem-vindas!