Jetson-примеры

В этом репозитории представлены примеры запуска моделей и приложений искусственного интеллекта на устройствах NVIDIA Jetson с помощью одной команды.

Этот репозиторий основан на работе контейнеров jetson, ultralytics и других замечательных проектов.

Функции

Простое развертывание: развертывайте самые современные модели искусственного интеллекта на устройствах Jetson в одну линию.
Универсальные примеры: поддерживает генерацию текста, генерацию изображений, компьютерное зрение и т. д.
⚡ Оптимизировано для Jetson: использует оборудование Nvidia Jetson для повышения производительности.

Установить

Чтобы установить пакет, запустите:

pip3 install jetson-examples

Примечания:
Проверьте здесь дополнительные способы установки
Чтобы обновиться до последней версии, используйте: pip3 install jetson-examples --upgrade .

Быстрый старт

Чтобы запустить и пообщаться с LLaVA, выполните:

reComputer run llava

Пример списка

Вот несколько примеров, которые можно запустить:

Пример	Тип	Модель/Размер данных	Размер изображения Docker	Команда
? Ультралитики-йоло	Компьютерное зрение		15,4 ГБ	`reComputer run ultralytics-yolo`
? Глубокая прямая трансляция	Смена лица	0,5 ГБ	20 ГБ	`reComputer run deep-live-cam`
? лама-фабрика	Finetune LLM		13,5 ГБ	`reComputer run llama-factory`
? Удобный интерфейс	Компьютерное зрение		20 ГБ	`reComputer run comfyui`
Глубина-Что-нибудь-V2	Компьютерное зрение		15 ГБ	`reComputer run depth-anything-v2`
Глубина-что угодно	Компьютерное зрение		12,9 ГБ	`reComputer run depth-anything`
Йолов10	Компьютерное зрение	7,2 млн.	5,74 ГБ	`reComputer run yolov10`
Лама3	Текст (LLM)	4,9 ГБ	10,5 ГБ	`reComputer run llama3`
Оллама	Сервер вывода	*	10,5 ГБ	`reComputer run ollama`
ЛЛаВА	Текст + Видение (VLM)	13 ГБ	14,4 ГБ	`reComputer run llava`
Живая ЛЛаВА	Текст + Видение (VLM)	13 ГБ	20,3 ГБ	`reComputer run live-llava`
Стабильная диффузия-webui	Генерация изображений	3,97 г	7,3 ГБ	`reComputer run stable-diffusion-webui`
Наносова	Vision Transformers(ВиТ)	613 МБ	15,1 ГБ	`reComputer run nanoowl`
Нанодб	База данных векторов	76 ГБ	7,0 ГБ	`reComputer run nanodb`
Шепот	Аудио	1,5 ГБ	6,0 ГБ	`reComputer run whisper`
Yolov8-rail-инспекция	Компьютерное зрение	6М	13,8 ГБ	`reComputer run yolov8-rail-inspection`
TensorFlow MoveNet Гром	Компьютерное зрение		7,7 ГБ	`reComputer run MoveNet-Thunder`
Парлер-ТТС мини: экспрессо	Аудио		6,9 ГБ	`reComputer run parler-tts`

Примечание. У вас должно быть достаточно места для запуска примера, например LLaVA , всего не менее 27.4GB

Больше примеров можно найти на сайте example.md.

Приглашаем авторов Присоединяйтесь к нам!

Как работать с нами?

Хотите добавить свой пример? Ознакомьтесь с руководством по разработке.

Мы приветствуем вклад в улучшение примеров jetson! Если у вас есть пример, которым вы хотели бы поделиться, отправьте запрос на включение. Спасибо всем нашим участникам!

Этот открытый конкурс указан в нашем проекте для участников. Если вы впервые присоединяетесь к нам, нажмите здесь, чтобы узнать, как работает проект. Мы следуем шагам:

Задания: Мы предлагаем различные задания по улучшению содержания вики, каждое из которых имеет подробное описание.
Отправка: участники могут отправлять свой контент с помощью запроса на включение после выполнения заданий.
Обзор: Специалисты по сопровождению объединят отправленные материалы и запишут их вклад.

В знак признательности авторы получают денежный бонус в размере 250 долларов США.

По любым вопросам или дополнительной информации обращайтесь через страницу вопросов GitHub или по адресу [email protected].