ASRInferenceEngine

Servidor de inferencia para modelos ASR

Descripción general

Este es un servidor basado en FastAPI que actúa como una interfaz entre su aplicación y los servicios de inteligencia artificial basados ​​en la nube. Se centra en tres tareas principales:

1. Convertir voz a texto (transcripción)
2. Convertir texto a voz
3. Convertir voz en voz (una combinación de los dos anteriores)

Actualmente, utiliza la API de OpenAI para estos servicios, pero está diseñado para que podamos agregar otros proveedores en el futuro.

Características

1. Transcripción (voz a texto)

   • Carga y transcripción de archivos asincrónica
   • Transcripción en streaming a través de WebSocket

2. Texto a voz

   • Convierta texto a voz con varias opciones de voz

3. Habla a voz

   • Convierta la entrada de voz en texto y luego nuevamente en voz
   • Soporte para carga y transmisión de archivos a través de WebSocket

Estructura del proyecto

 .
├── cloud_providers/
│   ├── base.py
│   └── openai_api_handler.py
├── server/
│   ├── main.py
│   ├── routers/
│   │   ├── transcribe.py
│   │   ├── tts.py
│   │   └── speech_to_speech.py
│   └── utils/
│       └── logger.py
|
└── requirements.txt
└── README.md

Configuración e instalación

1. Clonar el repositorio

2. Crea un entorno virtual:

   python -m venv venv
   source venv/bin/activate

3. Instalar dependencias:

    pip install -r requirements
   

4. Configurar variables de entorno:

    export OPENAI_API_KEY=your_openai_api_key
   

Iniciando el servidor

Para iniciar el servidor, navegue hasta el directorio del proyecto y ejecute:

 python server/main.py

Esto iniciará el servidor FastAPI, normalmente en http://localhost:8000 .

• Para obtener más detalles sobre la API, consulte API docs

Explotación florestal

La aplicación utiliza controladores de archivos rotativos para el registro, con archivos de registro separados para diferentes componentes:

• logs/main.log : registros de la aplicación principal
• logs/transcription.log : registros específicos de transcripción
• logs/tts.log : registros de texto a voz
• logs/speech_to_speech.log : registros de voz a voz

Manejo de errores

La aplicación incluye manejo de errores para varios escenarios, incluidos errores de API y desconexiones de WebSocket. Los errores se registran y se generan las excepciones HTTP apropiadas.

Extensibilidad

El proyecto está diseñado teniendo en cuenta la extensibilidad. La clase base abstracta CloudProviderBase en base.py permite una fácil integración de proveedores de nube adicionales más allá de OpenAI.

Consideraciones de seguridad

• Asegúrese de que su clave API de OpenAI se mantenga segura y no esté expuesta en el código o el control de versiones.
• Actualmente, el servidor permite todos los orígenes en la configuración de CORS. En un entorno de producción, debe restringir esto a orígenes permitidos específicos.

Mejoras futuras

1. Agregue soporte para proveedores de nube adicionales (por ejemplo, Google Cloud, Azure)
2. Agregue más opciones de configuración para los modelos de IA
3. Mejore el manejo de errores y proporcione mensajes de error más detallados

Contribuyendo

¡Las contribuciones son bienvenidas! No dude en enviar una solicitud de extracción.

Licencia

[Especifique su licencia aquí]