ASRInferenceEngine

ASR 모델용 추론 서버

개요

이는 애플리케이션과 클라우드 기반 AI 서비스 간의 인터페이스 역할을 하는 FastAPI 기반 서버입니다. 이는 세 가지 주요 작업에 중점을 둡니다.

1. 음성을 텍스트로 변환(녹화)
2. 텍스트를 음성으로 변환
3. 음성을 음성으로 변환(위 두 가지의 조합)

현재는 이러한 서비스에 OpenAI의 API를 사용하지만 향후 다른 공급자를 추가할 수 있도록 설계되었습니다.

특징

1. 전사(음성-텍스트)

   • 비동기식 파일 업로드 및 전사
   • WebSocket을 통한 스트리밍 전사

2. 텍스트 음성 변환

   • 다양한 음성 옵션을 사용하여 텍스트를 음성으로 변환

3. 음성 대 음성

   • 음성 입력을 텍스트로 변환한 후 다시 음성으로 변환
   • WebSocket을 통한 파일 업로드 및 스트리밍 모두 지원

프로젝트 구조

 .
├── cloud_providers/
│   ├── base.py
│   └── openai_api_handler.py
├── server/
│   ├── main.py
│   ├── routers/
│   │   ├── transcribe.py
│   │   ├── tts.py
│   │   └── speech_to_speech.py
│   └── utils/
│       └── logger.py
|
└── requirements.txt
└── README.md

설정 및 설치

1. 저장소 복제

2. 가상 환경을 생성합니다:

   python -m venv venv
   source venv/bin/activate

3. 종속성을 설치합니다.

    pip install -r requirements
   

4. 환경 변수를 설정합니다.

    export OPENAI_API_KEY=your_openai_api_key
   

서버 시작

서버를 시작하려면 프로젝트 디렉터리로 이동하여 다음을 실행합니다.

 python server/main.py

그러면 일반적으로 http://localhost:8000 에서 FastAPI 서버가 시작됩니다.

• API 확인 API docs 에 대한 자세한 내용은

벌채 반출

애플리케이션은 다양한 구성 요소에 대한 별도의 로그 파일과 함께 로깅을 위해 회전 파일 처리기를 사용합니다.

• logs/main.log : 기본 애플리케이션 로그
• logs/transcription.log : 전사 관련 로그
• logs/tts.log : 텍스트 음성 변환 로그
• logs/speech_to_speech.log : 음성 대 음성 로그

오류 처리

애플리케이션에는 API 오류 및 WebSocket 연결 끊김을 포함한 다양한 시나리오에 대한 오류 처리가 포함되어 있습니다. 오류가 기록되고 적절한 HTTP 예외가 발생합니다.

확장성

이 프로젝트는 확장성을 염두에 두고 설계되었습니다. base.py 의 CloudProviderBase 추상 기본 클래스를 사용하면 OpenAI 이외의 추가 클라우드 공급자를 쉽게 통합할 수 있습니다.

보안 고려 사항

• OpenAI API 키가 안전하게 유지되고 코드 또는 버전 제어에 노출되지 않는지 확인하세요.
• 서버는 현재 CORS 설정의 모든 원본을 허용합니다. 프로덕션 환경에서는 이를 허용된 특정 원본으로 제한해야 합니다.

향후 개선 사항

1. 추가 클라우드 제공업체(예: Google Cloud, Azure)에 대한 지원 추가
2. AI 모델에 대한 더 많은 구성 옵션 추가
3. 오류 처리 개선 및 더 자세한 오류 메시지 제공

기여

기여를 환영합니다! 언제든지 Pull Request를 제출해 주세요.

특허

[여기서 라이센스를 지정하세요]