talkGPT4All

bicaraGPT4Semua

Chatbot suara berdasarkan GPT4All dan talkGPT.

Demo video.

Silakan periksa detail lebih lanjut di postingan blog ini (dalam bahasa Mandarin).

Jika Anda mencari talkGPT4All versi lama, silakan checkout ke cabang dev/v1.0.0.

Instalasi

Instal menggunakan pip (Disarankan)

talkgpt4all ada di PyPI, Anda dapat menginstalnya menggunakan satu perintah sederhana:

pip install talkgpt4all

Instal dari kode sumber

Kloning kodenya:

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Instal dependensi dan talkGPT4All di lingkungan virtual python:

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Ketergantungan ekstra untuk pengguna Linux

Kami menggunakan pyttsx3 untuk mengubah teks menjadi suara. Harap dicatat bahwa di Linux, Anda perlu menginstal dependensi:

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Penggunaan

Buka terminal dan ketik talkgpt4all untuk memulai:

talkgpt4all

Gunakan LLM yang berbeda

Anda dapat memilih LLM yang berbeda menggunakan --gpt-model-type <type> , semua pilihan tersedia:

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Gunakan model Bisikan yang berbeda

Anda dapat memilih jenis model bisikan menggunakan --whisper-model-type <type> , semua pilihan tersedia:

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Sesuaikan kecepatan suara

Anda dapat menyetel kecepatan suara menggunakan --voice-rate <rate> , kecepatan defaultnya adalah 165. semakin besar maka semakin cepat bicaranya.

misalnya,

talkgpt4all --whisper-model-type large --voice-rate 150

Peta jalan

• Tambahkan pembuatan sumber untuk llama.cpp, dengan antarmuka yang lebih fleksibel.
• Lebih banyak LLM
• Tambahkan dukungan untuk informasi kontekstual selama mengobrol.
• Uji kode di Linux, Mac Intel dan WSL2.
• Tambahkan dukungan untuk input dan output berbahasa Mandarin.
• Tambahkan Dokumen dan Changelog

kontribusi disambut!