ASRInferenceEngine

Server Inferensi untuk model ASR

Ringkasan

Ini adalah server berbasis FastAPI yang bertindak sebagai antarmuka antara aplikasi Anda dan layanan AI berbasis cloud. Ini berfokus pada tiga tugas utama:

1. Mengubah ucapan menjadi teks (transkripsi)
2. Mengubah teks menjadi ucapan
3. Mengubah ucapan menjadi ucapan (kombinasi dari dua hal di atas)

Saat ini, ia menggunakan API OpenAI untuk layanan ini, namun dirancang agar kami dapat menambahkan penyedia lain di masa mendatang.

Fitur

1. Transkripsi (Ucapan-ke-Teks)

   • Unggahan dan transkripsi file asinkron
   • Streaming transkripsi melalui WebSocket

2. Teks-ke-Ucapan

   • Ubah teks menjadi ucapan dengan berbagai opsi suara

3. Pidato-ke-Pidato

   • Ubah masukan ucapan menjadi teks lalu kembali menjadi ucapan
   • Dukungan untuk pengunggahan file dan streaming melalui WebSocket

Struktur Proyek

 .
├── cloud_providers/
│   ├── base.py
│   └── openai_api_handler.py
├── server/
│   ├── main.py
│   ├── routers/
│   │   ├── transcribe.py
│   │   ├── tts.py
│   │   └── speech_to_speech.py
│   └── utils/
│       └── logger.py
|
└── requirements.txt
└── README.md

Pengaturan dan Instalasi

1. Kloning repositori

2. Buat lingkungan virtual:

   python -m venv venv
   source venv/bin/activate

3. Instal dependensi:

    pip install -r requirements
   

4. Siapkan variabel lingkungan:

    export OPENAI_API_KEY=your_openai_api_key
   

Memulai Server

Untuk memulai server, navigasikan ke direktori proyek dan jalankan:

 python server/main.py

Ini akan memulai server FastAPI, biasanya di http://localhost:8000 .

• Untuk detail lebih lanjut tentang API, periksa API docs

Pencatatan

Aplikasi ini menggunakan penangan file berputar untuk logging, dengan file log terpisah untuk komponen berbeda:

• logs/main.log : Log aplikasi utama
• logs/transcription.log : Log khusus transkripsi
• logs/tts.log : Log teks-ke-ucapan
• logs/speech_to_speech.log : Log ucapan-ke-ucapan

Penanganan Kesalahan

Aplikasi ini mencakup penanganan kesalahan untuk berbagai skenario, termasuk kesalahan API dan pemutusan WebSocket. Kesalahan dicatat dan pengecualian HTTP yang sesuai dimunculkan.

Kemungkinan diperpanjang

Proyek ini dirancang dengan mempertimbangkan ekstensibilitas. Kelas dasar abstrak CloudProviderBase di base.py memungkinkan integrasi yang mudah dari penyedia cloud tambahan di luar OpenAI.

Pertimbangan Keamanan

• Pastikan kunci API OpenAI Anda tetap aman dan tidak terekspos dalam kode atau kontrol versi.
• Server saat ini mengizinkan semua asal dalam pengaturan CORS. Dalam lingkungan produksi, Anda harus membatasi ini pada asal tertentu yang diperbolehkan.

Perbaikan di Masa Depan

1. Tambahkan dukungan untuk penyedia cloud tambahan (misalnya, Google Cloud, Azure)
2. Tambahkan lebih banyak opsi konfigurasi untuk model AI
3. Tingkatkan penanganan kesalahan dan berikan pesan kesalahan yang lebih rinci

Berkontribusi

Kontribusi dipersilahkan! Silakan kirimkan Permintaan Tarik.

Lisensi

[Tentukan lisensi Anda di sini]