ASRInferenceEngine

Serveur d'inférence pour les modèles ASR

Aperçu

Il s'agit d'un serveur basé sur FastAPI qui agit comme une interface entre votre application et les services d'IA basés sur le cloud. Il se concentre sur trois tâches principales :

1. Conversion de la parole en texte (transcription)
2. Conversion de texte en parole
3. Conversion de la parole en parole (une combinaison des deux ci-dessus)

Actuellement, il utilise l'API d'OpenAI pour ces services, mais il est conçu pour que nous puissions ajouter d'autres fournisseurs à l'avenir.

Caractéristiques

1. Transcription (parole-texte)

   • Téléchargement et transcription de fichiers asynchrones
   • Transcription en streaming via WebSocket

2. Synthèse vocale

   • Convertissez du texte en parole avec diverses options vocales

3. Parole-à-parole

   • Convertir la saisie vocale en texte, puis revenir en parole
   • Prise en charge du téléchargement de fichiers et du streaming via WebSocket

Structure du projet

 .
├── cloud_providers/
│   ├── base.py
│   └── openai_api_handler.py
├── server/
│   ├── main.py
│   ├── routers/
│   │   ├── transcribe.py
│   │   ├── tts.py
│   │   └── speech_to_speech.py
│   └── utils/
│       └── logger.py
|
└── requirements.txt
└── README.md

Configuration et installation

1. Cloner le référentiel

2. Créez un environnement virtuel :

   python -m venv venv
   source venv/bin/activate

3. Installer les dépendances :

    pip install -r requirements
   

4. Configurez les variables d'environnement :

    export OPENAI_API_KEY=your_openai_api_key
   

Démarrage du serveur

Pour démarrer le serveur, accédez au répertoire du projet et exécutez :

 python server/main.py

Cela démarrera le serveur FastAPI, généralement sur http://localhost:8000 .

• Pour plus de détails sur la documentation de l'API, consultez API docs

Enregistrement

L'application utilise des gestionnaires de fichiers rotatifs pour la journalisation, avec des fichiers journaux distincts pour différents composants :

• logs/main.log : Journaux principaux des applications
• logs/transcription.log : journaux spécifiques à la transcription
• logs/tts.log : journaux de synthèse vocale
• logs/speech_to_speech.log : journaux de synthèse vocale

Gestion des erreurs

L'application inclut la gestion des erreurs pour divers scénarios, notamment les erreurs d'API et les déconnexions WebSocket. Les erreurs sont enregistrées et les exceptions HTTP appropriées sont générées.

Extensibilité

Le projet est conçu dans un souci d’extensibilité. La classe de base abstraite CloudProviderBase dans base.py permet une intégration facile de fournisseurs de cloud supplémentaires au-delà d'OpenAI.

Considérations de sécurité

• Assurez-vous que votre clé API OpenAI reste sécurisée et n'est pas exposée dans le code ou le contrôle de version.
• Le serveur autorise actuellement toutes les origines dans les paramètres CORS. Dans un environnement de production, vous devez limiter cela à des origines autorisées spécifiques.

Améliorations futures

1. Ajouter la prise en charge de fournisseurs de cloud supplémentaires (par exemple, Google Cloud, Azure)
2. Ajouter plus d'options de configuration pour les modèles IA
3. Améliorer la gestion des erreurs et fournir des messages d'erreur plus détaillés

Contribuer

Les contributions sont les bienvenues ! N'hésitez pas à soumettre une Pull Request.

Licence

[Précisez votre licence ici]