ai worker

人工智慧工人

警告

人工智慧網路正處於測試階段，雖然已準備好投入生產，但仍處於開發階段。請將您遇到的任何問題回報給 Livepeer Discord。

此儲存庫託管 AI 工作器和運行器，用於處理 Livepeer AI 子網路上的推理請求。

概述

AI 工作者儲存庫包括：

• Runner ：AI 運行器是一個容器化的 Python 應用程序，處理 Livepeer AI 管道和模型上的推理請求，為模型交互提供 REST API。

• Worker ：AI Worker 允許 go-livepeer 的 ai-video 分支與 AI runner 進行互動。它包括 golang API 綁定、用於路由推理請求的工作器以及用於 AI 運行器容器的 Docker 管理器。

跑者

AI運行器的程式碼位於運行器目錄中。有關更多詳細信息，請參閱 AI 運行器自述文件。

勞工

AI Worker的程式碼位於worker目錄中。它包括：

• Golang API 綁定：使用make codegen根據 AI 運行器的 OpenAPI 規格產生。

• Worker ：偵聽 Livepeer AI 子網路的推理請求並將其路由到 AI 運行器。

• Docker Manager ：管理 AI 運行器容器。

建造

AI Worker 和 runner 旨在與 go-livepeer 的 ai-video 分支配合使用。您可以獨立執行兩者進行測試。若要在本機建置 AI Worker 並執行範例，請依照下列步驟操作：

1. 依照執行程式目錄中的 README 說明下載模型檢查點並建立執行程式映像。

2. 使用make codegen為運行器 OpenAPI 規範產生 Go 綁定。

3. 執行cmd/examples目錄中的任何範例，例如go run cmd/examples/text-to-image/main.go <RUNS> <PROMPT> 。

開發文件

有關開發和調試 AI 運行器的更多信息，請參閱開發文件。