talkGPT4All

이야기GPT4All

GPT4All과 talkGPT를 기반으로 한 음성 챗봇입니다.

비디오 데모.

자세한 내용은 이 블로그 게시물(중국어)에서 확인하세요.

talkGPT4All의 이전 버전을 찾고 계시다면 dev/v1.0.0 브랜치를 확인해 주세요.

설치

pip를 사용하여 설치(권장)

talkgpt4all은 PyPI에 있으므로 간단한 명령 하나를 사용하여 설치할 수 있습니다.

pip install talkgpt4all

소스 코드에서 설치

코드를 복제합니다.

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Python 가상 환경에 종속성을 설치하고 talkGPT4All을 설치합니다.

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Linux 사용자를 위한 추가 종속성

우리는 텍스트를 음성으로 변환하기 위해 pyttsx3을 사용합니다. Linux에서는 종속성을 설치해야 합니다.

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

용법

터미널을 열고 talkgpt4all 입력하여 시작하세요.

talkgpt4all

다른 LLM 사용

--gpt-model-type <type> 사용하여 다양한 LLM을 선택할 수 있으며 사용 가능한 모든 선택 사항은 다음과 같습니다.

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

다양한 Whisper 모델 사용

--whisper-model-type <type> 사용하여 속삭임 모델 유형을 선택할 수 있습니다. 사용 가능한 모든 항목은 다음과 같습니다.

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

음성 속도 조정

--voice-rate <rate> 사용하여 음성 속도를 조정할 수 있습니다. 기본 속도는 165입니다. 크기가 클수록 더 빠르게 말합니다.

예:

talkgpt4all --whisper-model-type large --voice-rate 150

로드맵

• 더욱 유연한 인터페이스로 llama.cpp용 소스 빌딩을 추가합니다.
• 더 많은 LLM
• 채팅 중 상황별 정보에 대한 지원을 추가합니다.
• Linux, Mac Intel 및 WSL2에서 코드를 테스트합니다.
• 중국어 입력 및 출력에 대한 지원을 추가합니다.
• 문서 및 변경 로그 추가

기여를 환영합니다!