[2024-сентябрь] Выпущен выпуск 10.0. Обновлены SDK, Edgeai-tidl-tools и Edgeai-tensorlab.
Более подробная информация содержится в примечаниях к выпуску.
Также см. примечания к выпуску SDK, примечания к выпуску Edgeai-tidl-tools и примечания к выпуску Edgeai-tensorlab.
Наши целевые страницы документации следующие:
https://www.ti.com/edgeai: Страница технологий, на которой кратко описаны программные и аппаратные продукты TI Edge AI.
https://github.com/TexasInstruments/edgeai: целевая страница для разработчиков, позволяющая понять общее предложение программного обеспечения и инструментов.
Наши репозитории были реструктурированы . Пожалуйста, перейдите к таблицам ниже, чтобы понять, как теперь упакованы некоторые репозитории внутри Edgeai-tensorlab.
Встроенный вывод моделей глубокого обучения довольно сложен из-за высоких требований к вычислительным ресурсам. Комплексный программный продукт TI Edge AI помогает оптимизировать и ускорить обработку встроенных устройств TI. Он поддерживает гетерогенное выполнение DNN в микропроцессорах на базе Cortex-A, процессоре C7x DSP последнего поколения от TI и ускорителе DNN (MMA).
Решение Edge AI от TI упрощает весь жизненный цикл продукта по разработке и развертыванию DNN, предоставляя богатый набор инструментов и оптимизированных библиотек.
На рисунке ниже представлен общий обзор соответствующих инструментов:
В таблице ниже представлено подробное объяснение каждого из инструментов:
Категория | Инструмент/Ссылка | Цель | НЕТ |
---|---|---|---|
Инструменты вывода (и компиляции) | Edgeai-Tidl-инструменты | Ознакомиться с компиляцией модели и процессом вывода. - Квантование после тренировки - Тестирование задержки на готовых примерах моделей (10+) - Скомпилировать пользовательскую/индивидуальную модель для развертывания. - Вывод скомпилированных моделей на X86_PC или TI SOC с использованием ввода и вывода файловой базы. - Docker для простой настройки среды разработки. | - Не поддерживает сравнительный анализ точности моделей с использованием TIDL со стандартными наборами данных, например, сравнительный анализ точности с использованием набора данных MS COCO для моделей обнаружения объектов. Пожалуйста, обратитесь к Edgeai-benchmark для того же. - Не поддерживает разработку сквозных конвейеров на основе камеры, дисплея и вывода. Для такого использования обратитесь к Edge AI SDK. |
Инструмент выбора модели | Edge AI Studio: инструмент выбора модели | Изучите статистику производительности таких моделей, как FPS, задержка, точность и пропускная способность DDR. Найдите модель, которая лучше всего соответствует вашим целям по производительности и точности процессора TI, на сайте TI Model Zoo. | |
Интегрированная среда для обучения и компиляции | Edge AI Studio: анализатор моделей | Среда на основе браузера, позволяющая оценивать модели с помощью фермы TI EVM. - Разрешить оценку модели без настройки программного и аппаратного обеспечения на стороне пользователя. - Пользователь может зарезервировать EVM из фермы TI EVM и выполнить оценку модели с помощью блокнота Jupyter. - Инструмент выбора модели : для обеспечения подходящей архитектуры модели для устройств TI. | - Не поддерживает разработку сквозных конвейеров на основе камеры, дисплея и вывода. Для такого использования обратитесь к Edge AI SDK. |
то же самое | Edge AI Studio: Составитель моделей | Интегрированная среда на основе графического пользовательского интерфейса для сбора, аннотирования, обучения и компиляции наборов данных с возможностью подключения к плате разработки TI. - Приносите/сохраняйте свои собственные данные, комментируйте, выбирайте модель, проводите обучение и создавайте артефакты для развертывания в SDK. - Предварительный просмотр в реальном времени для быстрой обратной связи | - Не поддерживает рабочий процесс «Принеси свою собственную модель». |
Комплект разработки программного обеспечения Edge AI | Устройства и SDK | SDK для разработки комплексного конвейера искусственного интеллекта с камерой, выводом и отображением - Различное время выполнения вывода: TFLiteRT, ONNXRT, NEO AI DLR, TIDL-RT. - Фреймворк: openVX, gstreamer. - Драйверы устройств: камера, дисплей, сеть. - ОС: Linux, RTOS - Могут ли другие программные модули: кодеки, OpenCV,… |
Категория | Инструмент/Ссылка | Цель | НЕТ |
---|---|---|---|
Модельный зоопарк, обучение моделей, компиляция/тестирование и сопутствующие инструменты | Edgeai-Tensorlab | Предоставить программное обеспечение для обучения моделей, сбор предварительно обученных моделей, а также сценарии документирования и компиляции/тестирования. Включает Edgeai-Modelzoo, Edgeai-Benchmark, Edgeai-ModelOptimization, Edgeai-Modelmaker, Edgeai-Torchvision, Edgeai-mmdetection и подобные репозитории. |
Используйте свою собственную модель (BYOM) для рабочего процесса:
Обучите рабочий процесс собственной модели (TYOM):
Рабочий процесс с использованием собственных данных (BYOD):
Техническую документацию можно найти в документации каждого репозитория. Здесь у нас есть коллекция технических отчетов и руководств, которые дают общий обзор по различным темам.
Технические отчеты Edge AI в Edgeai-tensorlab
Прочтите некоторые из наших технических публикаций
Система отслеживания проблем для Edge AI Studio указана на ее целевой странице.
Трекер проблем для TIDL : включите тег TIDL (при создании новой проблемы в нижней части страницы есть место для ввода тегов).
Трекер проблем для Edge AI SDK. Включите тег EDGEAI (при создании новой проблемы в нижней части страницы появляется место для ввода тегов).
Трекер проблем для ModelZoo, Model Benchmark и программного обеспечения для обучения глубоким нейронным сетям: включите тег MODELZOO (при создании новой задачи в нижней части страницы есть место для ввода тегов).
Дополнительную информацию о лицензии, по которой доступен этот целевой репозиторий, см. в файле ЛИЦЕНЗИИ. Файл ЛИЦЕНЗИИ каждого репозитория находится внутри этого репозитория.