ai worker

pekerja ai

Peringatan

Jaringan AI sedang dalam tahap Beta dan meskipun siap diproduksi, namun masih dalam tahap pengembangan. Silakan laporkan masalah apa pun yang Anda temui ke Livepeer Discord.

Repositori ini menampung pekerja dan pelari AI untuk memproses permintaan inferensi pada subnet Livepeer AI.

Ringkasan

Repositori pekerja AI meliputi:

• Runner : Pelari AI, aplikasi Python dalam container, memproses permintaan inferensi pada Pipeline dan model Livepeer AI, menyediakan REST API untuk interaksi model.

• Pekerja : Pekerja AI mengizinkan cabang ai-video dari go-livepeer untuk berinteraksi dengan pelari AI. Ini mencakup pengikatan API golang, pekerja untuk permintaan inferensi perutean, dan manajer Docker untuk wadah pelari AI.

Pelari

Kode pelari AI ada di direktori pelari. Untuk lebih jelasnya, lihat pelari AI README.

Pekerja

Kode pekerja AI ada di direktori pekerja. Ini termasuk:

• Golang API Bindings : Dihasilkan dari spesifikasi OpenAPI pelari AI menggunakan make codegen .

• Pekerja : Mendengarkan permintaan inferensi dari subnet Livepeer AI dan mengarahkannya ke pelari AI.

• Docker Manager : Mengelola container runner AI.

Membangun

Pekerja dan pelari AI dirancang untuk bekerja dengan cabang go-livepeer ai-video. Anda dapat menjalankan keduanya secara independen untuk pengujian. Untuk membangun pekerja AI secara lokal dan menjalankan contoh, ikuti langkah-langkah berikut:

1. Ikuti instruksi README di direktori runner untuk mengunduh model checkpoint dan membangun image runner.

2. Hasilkan binding Go untuk spesifikasi OpenAPI runner dengan make codegen .

3. Jalankan contoh apa pun di direktori cmd/examples , misalnya go run cmd/examples/text-to-image/main.go <RUNS> <PROMPT> .

Dokumentasi pengembangan

Untuk mengetahui lebih lanjut tentang pengembangan dan debugging pelari AI, lihat dokumentasi pengembangan.