ai worker

人工智能工人

警告

人工智能网络正处于测试阶段，虽然已准备好投入生产，但仍处于开发阶段。请将您遇到的任何问题报告给 Livepeer Discord。

该存储库托管 AI 工作器和运行器，用于处理 Livepeer AI 子网上的推理请求。

概述

AI 工作者存储库包括：

• Runner ：AI 运行器是一个容器化的 Python 应用程序，处理 Livepeer AI 管道和模型上的推理请求，为模型交互提供 REST API。

• Worker ：AI Worker 允许 go-livepeer 的 ai-video 分支与 AI runner 进行交互。它包括 golang API 绑定、用于路由推理请求的工作器以及用于 AI 运行器容器的 Docker 管理器。

跑步者

AI运行器的代码位于运行器目录中。有关更多详细信息，请参阅 AI 运行器自述文件。

工人

AI Worker的代码位于worker目录中。它包括：

• Golang API 绑定：使用make codegen根据 AI 运行器的 OpenAPI 规范生成。

• Worker ：侦听来自 Livepeer AI 子网的推理请求并将其路由到 AI 运行器。

• Docker Manager ：管理 AI 运行器容器。

建造

AI Worker 和 runner 旨在与 go-livepeer 的 ai-video 分支配合使用。您可以独立运行两者进行测试。要在本地构建 AI Worker 并运行示例，请按照以下步骤操作：

1. 按照运行程序目录中的 README 说明下载模型检查点并构建运行程序映像。

2. 使用make codegen为运行器 OpenAPI 规范生成 Go 绑定。

3. 运行cmd/examples目录中的任何示例，例如go run cmd/examples/text-to-image/main.go <RUNS> <PROMPT> 。

开发文档

有关开发和调试 AI 运行器的更多信息，请参阅开发文档。