edge ai

ИИ на грани

Кураторский список оборудования, программного обеспечения, платформ и других ресурсов для искусственного интеллекта на периферии. Вдохновлен Awesome-Dataviz.

Содержание

• Аппаратное обеспечение
• Программное обеспечение
• Рамки
• Содействие
• Лицензия

Аппаратное обеспечение

• OpenMV — камера, работающая с MicroPython на ARM Cortex M6/M7 и обладающая отличной поддержкой алгоритмов компьютерного зрения. Теперь с поддержкой Tensorflow Lite.
• JeVois — модуль камеры с поддержкой TensorFlow.
• Edge TPU — специально созданный Google ASIC, предназначенный для выполнения логических выводов на периферии.
• Movidius — семейство SoC от Intel, разработанное специально для маломощных устройств компьютерного зрения и приложений нейронных сетей.
  • UP AI Edge — линейка продуктов на базе графических процессоров Intel Movidius (включая Myriad 2 и Myriad X) и FPGA Intel Cyclone.
  • DepthAI — встроенная платформа для объединения глубины и искусственного интеллекта, построенная на основе Myriad X.
• NVIDIA Jetson — высокопроизводительная встроенная модульная система для глубокого обучения, компьютерного зрения, вычислений на графических процессорах и графики в средах с ограниченным доступом к сети.
  • Джетсон ТХ1
  • Джетсон ТХ2
  • Джетсон Нано
• Радио с искусственным интеллектом — трансивер (AIR-T) — высокопроизводительный SDR, легко интегрируемый с современным оборудованием глубокого обучения.
• Kendryte K210 — двухъядерный чип RISC-V с ускорением сверточной нейронной сети с использованием 64 KLU (Kendryte Arithmetic Logic Unit).
  • Sipeed M1 — модуль на основе Kendryte K210 добавляет возможность подключения к Wi-Fi и внешнюю флэш-память.
  • M5StickV — камера AIoT (AI+IoT) на базе Kendryte K210
  • UNIT-V — AI-камера на базе Kendryte K210 (младшая модель M5StickV)
• Kendryte K510 — трехъядерный процессор RISC-V с тактовой частотой AI-ускорителей.
• GreenWaves GAP8 — чип на базе RISC-V с аппаратным ускорением для сверточных операций.
• GreenWaves GAP9 — чип на базе RISC-V, в первую очередь ориентированный на обработку звука с использованием искусственного интеллекта.
• Ultra96 — встроенная платформа разработки с FPGA Xilinx UltraScale+ MPSoC.
• Apollo3 Blue — плата разработки SparkFun Edge на базе процессора Cortex M4 от Ambiq Micro.
• Google Coral — Платформа аппаратных компонентов и программных инструментов для локальных продуктов искусственного интеллекта на базе сопроцессора Google Edge TPU.
  • Доски разработчиков
  • USB-ускорители
  • Модули PCIe/M.2
• Gyrfalcon Technology Lighspeeur — семейство чипов, оптимизированных для периферийных вычислений.
• ARM microNPU — процессоры, предназначенные для ускорения вывода машинного обучения (первый из них — Ethos-U55).
• Espressif ESP32-S3 — SoC, аналогичный известному ESP32 с поддержкой AI-ускорения (среди множества других интересных отличий).
• Maxim MAX78000 — SoC на базе Cortex-M4, включающий ускоритель CNN.
• Beagleboard BeagleV — плата Linux с открытым исходным кодом на базе RISC-V, которая включает в себя механизм нейронной сети.
• Syntiant TinyML — комплект для разработки на основе процессора нейронных решений Syntiant NDP101 и SAMD21 Cortex-M0+.
• STM32N6 — Arm Cortex-M55, работающий на частоте 800 МГц и встроенный нейронный процессор (NPU).

Программное обеспечение

• TensorFlow Lite — легкое решение для мобильных и встроенных устройств, которое позволяет делать выводы машинного обучения на устройстве с низкой задержкой и небольшим размером двоичного файла.
• TensorFlow Lite для микроконтроллеров — порт TF Lite для микроконтроллеров и других устройств с всего лишь килобайтами памяти. Родился в результате слияния с uTensor.
• Встроенная библиотека обучения (ELL) — библиотека Microsoft для развертывания интеллектуальных моделей машинного обучения на платформах с ограниченными ресурсами и небольших одноплатных компьютерах.
• uTensor — библиотека вывода AI, основанная на mbed (RTOS для чипсетов ARM) и TensorFlow.
• CMSIS NN — набор эффективных ядер нейронных сетей, разработанных для максимизации производительности и минимизации использования памяти нейронными сетями на процессорных ядрах Cortex-M.
• Вычислительная библиотека ARM — набор оптимизированных функций для обработки изображений, компьютерного зрения и машинного обучения.
• Qualcomm Neural Processing SDK для искусственного интеллекта — библиотеки для разработчиков запускают модели NN на мобильных платформах Snapdragon, используя преимущества ЦП, графического процессора и/или DSP.
• ST X-CUBE-AI — набор инструментов для создания NN, оптимизированный для микроконтроллеров STM32.
• ST NanoEdgeAIStudio — инструмент, создающий модель для загрузки в микроконтроллер STM32.
• Нейронная сеть на микроконтроллере (NNoM) — библиотека нейронных сетей высокого уровня, специально предназначенная для микроконтроллеров. Поддержка CMSIS-NN.
• nncase — открытый стек компилятора глубокого обучения для искусственного интеллекта Kendryte K210.
• deepC — компилятор глубокого обучения и платформа вывода, ориентированная на встроенную платформу.
• uTVM — MicroTVM — инструмент с открытым исходным кодом для оптимизации тензорных программ.
• Edge Impulse — интерактивная платформа для создания моделей, которые могут работать на микроконтроллерах. Они также довольно активно обсуждают в социальных сетях последние новости о EdgeAI/TinyML.
• Qeexo AutoML — интерактивная платформа для создания моделей искусственного интеллекта, ориентированных на микроконтроллеры.
• mlpack — библиотека быстрого машинного обучения C++, предназначенная только для заголовков, которая ориентирована на упрощенное развертывание. Он имеет широкий спектр алгоритмов машинного обучения с возможностью реализации обучения на устройстве на MPU.
• AIfES — независимая от платформы и автономная программная платформа искусственного интеллекта, оптимизированная для встраиваемых систем.
• onnx2c — компилятор ONNX для C, ориентированный на «Tiny ML».

Другие интересные ресурсы

• Сравнительный анализ периферийных вычислений (май 2019 г.)
• Аппаратный тест для периферийного искусственного интеллекта на кубсатах - Open Source Cubesat Workshop 2018
• Почему машинное обучение на периферии?
• Учебное пособие. Глубокое обучение с низким энергопотреблением на камере OpenMV
• TinyML: машинное обучение с помощью TensorFlow на Arduino и микроконтроллерах со сверхнизким энергопотреблением — книга О'Рейли, написанная Питом Уорденом и Дэниелом Ситунаяке.
• tinyML Summit — ежегодная конференция и ежемесячная встреча, проводимая в Калифорнии, США. Доклады и слайды обычно доступны на веб-сайте.
• Документы и проекты TinyML — подборка самых последних статей и проектов в области TinyML/EdgeAI.
• MinUn — точный вывод машинного обучения на микроконтроллерах.

Содействие

• Пожалуйста, сначала проверьте наличие дубликатов.
• Описания должны быть краткими, простыми и объективными.
• Пожалуйста, сделайте индивидуальную фиксацию для каждого предложения.
• При необходимости добавьте новую категорию.

Спасибо за ваши предложения!

Лицензия

Насколько это возможно по закону, Хаби Креспо отказался от всех авторских и смежных или смежных прав на это произведение.