ai worker

ИИ-работник

Предупреждение

Сеть искусственного интеллекта находится на стадии бета-тестирования и, хотя она готова к производству, она все еще находится в стадии разработки. Пожалуйста, сообщайте о любых проблемах, с которыми вы сталкиваетесь, в Livepeer Discord.

В этом репозитории размещается исполнитель AI и исполнитель для обработки запросов на вывод в подсети Livepeer AI.

Обзор

Репозиторий AI-работников включает в себя:

• Runner : AI Runner, контейнерное приложение Python, обрабатывает запросы вывода на конвейерах и моделях Livepeer AI, предоставляя REST API для взаимодействия с моделями.

• Worker : AI-работник позволяет ветке ai-video go-livepeer взаимодействовать с AI-раннером. Он включает в себя привязки API golang, рабочий процесс для маршрутизации запросов вывода и менеджер Docker для контейнеров запуска AI.

бегун

Код AI-раннера находится в каталоге runner. Для получения более подробной информации см. README AI runner.

Рабочий

Код AI-работника находится в рабочем каталоге. Он включает в себя:

• Привязки Golang API : создаются на основе спецификации OpenAPI AI-раннера с использованием make codegen .

• Worker : прослушивает запросы вывода из подсети Livepeer AI и направляет их AI-раннеру.

• Docker Manager : управляет контейнерами AI-раннеров.

Строить

AI-работник и бегун предназначены для работы с веткой ai-video программы go-livepeer. Вы можете запустить оба варианта независимо для тестирования. Чтобы собрать AI-работника локально и запустить примеры, выполните следующие действия:

1. Следуйте инструкциям README в каталоге бегуна, чтобы загрузить контрольные точки модели и построить образ бегуна.

2. Сгенерируйте привязки Go для спецификации OpenAPI бегуна с помощью make codegen .

3. Запустите любые примеры в каталоге cmd/examples , например, go run cmd/examples/text-to-image/main.go <RUNS> <PROMPT> .

Разработочная документация

Дополнительную информацию о разработке и отладке средства AI Runner см. в документации по разработке.