ASRInferenceEngine

ASR 模型的推理服务器

概述

这是一个基于 FastAPI 的服务器，充当应用程序和基于云的 AI 服务之间的接口。它侧重于三个主要任务：

1. 将语音转换为文本（转录）
2. 将文本转换为语音
3. 将语音转换为语音（以上两者的组合）

目前，它使用 OpenAI 的 API 来提供这些服务，但它的设计是为了让我们将来可以添加其他提供商。

特征

1. 转录（语音转文本）

   • 异步文件上传和转录
   • 通过 WebSocket 进行流式转录

2. 文字转语音

   • 使用各种语音选项将文本转换为语音

3. 语音对语音

   • 将语音输入转换为文本，然后再转换回语音
   • 支持通过 WebSocket 上传文件和流式传输

项目结构

 .
├── cloud_providers/
│   ├── base.py
│   └── openai_api_handler.py
├── server/
│   ├── main.py
│   ├── routers/
│   │   ├── transcribe.py
│   │   ├── tts.py
│   │   └── speech_to_speech.py
│   └── utils/
│       └── logger.py
|
└── requirements.txt
└── README.md

设置和安装

1. 克隆存储库

2. 创建虚拟环境：

   python -m venv venv
   source venv/bin/activate

3. 安装依赖项：

    pip install -r requirements
   

4. 设置环境变量：

    export OPENAI_API_KEY=your_openai_api_key
   

启动服务器

要启动服务器，请导航到项目目录并运行：

 python server/main.py

这将启动 FastAPI 服务器，通常位于http://localhost:8000 。

• 有关 API 的更多详细信息，请查看API docs

记录

该应用程序使用旋转文件处理程序进行日志记录，并为不同的组件提供单独的日志文件：

• logs/main.log : 主应用程序日志
• logs/transcription.log ：特定于转录的日志
• logs/tts.log ：文本转语音日志
• logs/speech_to_speech.log ：语音转语音日志

错误处理

该应用程序包括针对各种场景的错误处理，包括 API 错误和 WebSocket 断开连接。记录错误并引发适当的 HTTP 异常。

可扩展性

该项目的设计考虑到了可扩展性。 base.py中的CloudProviderBase抽象基类允许轻松集成 OpenAI 之外的其他云提供商。

安全考虑

• 确保您的 OpenAI API 密钥安全且不会在代码或版本控制中暴露。
• 服务器当前允许 CORS 设置中的所有来源。在生产环境中，您应该将其限制为特定允许的来源。

未来的改进

1. 添加对其他云提供商（例如 Google Cloud、Azure）的支持
2. 为AI模型添加更多配置选项
3. 改进错误处理并提供更详细的错误消息

贡献

欢迎贡献！请随时提交 Pull 请求。

执照

[在此处指定您的许可证]