edge ai

边缘人工智能

边缘人工智能的硬件、软件、框架和其他资源的精选列表。受到 Awesome-dataviz 的启发。

内容

• 硬件
• 软件
• 框架
• 贡献
• 执照

硬件

• OpenMV - 一款在 ARM Cortex M6/M7 上与 MicroPython 一起运行的相机，并且对计算机视觉算法有很好的支持。现在也支持 Tensorflow Lite。
• JeVois - 支持 TensorFlow 的相机模块。
• Edge TPU - Google 专门构建的 ASIC，旨在在边缘运行推理。
• Movidius - 英特尔的 SoC 系列专为低功耗设备上计算机视觉和神经网络应用而设计。
  • UP AI Edge - 基于英特尔 Movidius VPU（包括 Myriad 2 和 Myriad X）和英特尔 Cyclone FPGA 的产品线。
  • DepthAI - 一个结合深度和人工智能的嵌入式平台，围绕 Myriad X 构建
• NVIDIA Jetson - 高性能嵌入式模块系统，可在网络受限环境中解锁深度学习、计算机视觉、GPU 计算和图形。
  • 杰森TX1
  • 杰森TX2
  • 杰特森纳米
• 人工智能无线电 - 收发器 (AIR-T) - 高性能 SDR 与最先进的深度学习硬件无缝集成。
• Kendryte K210 - 双核 RISC-V 芯片，使用 64 个 KLU（Kendryte 算术逻辑单元）进行卷积神经网络加速。
  • Sipeed M1 - 该模块基于 Kendryte K210，增加了 WiFi 连接和外部闪存。
  • M5StickV - 由 Kendryte K210 提供支持的 AIoT(AI+IoT) 相机
  • UNIT-V - 由 Kendryte K210（低端 M5StickV）提供支持的 AI 相机
• Kendryte K510 - 采用 AI 加速器计时的三核 RISC-V 处理器。
• GreenWaves GAP8 - 基于 RISC-V 的芯片，具有卷积运算的硬件加速功能。
• GreenWaves GAP9 - 基于 RISC-V 的芯片主要专注于以 AI 为中心的音频处理。
• Ultra96 - 采用 Xilinx UltraScale+ MPSoC FPGA 的嵌入式开发平台。
• Apollo3 Blue - SparkFun Edge 开发板，由 Ambiq Micro 的 Cortex M4 提供支持。
• Google Coral - 基于 Google Edge TPU 协处理器的本地人工智能产品的硬件组件和软件工具平台。
  • 开发板
  • USB加速器
  • PCIe / M.2 模块
• Gyrfalcon Technology Lighspeeur - 针对边缘计算优化的芯片系列。
• ARM microNPU - 旨在加速 ML 推理的处理器（Ethos-U55 是第一个处理器）。
• Espressif ESP32-S3 - SoC 类似于著名的 ESP32，支持 AI 加速（还有许多其他有趣的差异）。
• Maxim MAX78000 - 基于 Cortex-M4 的 SoC，包含 CNN 加速器。
• Beagleboard BeagleV - 基于 RISC-V 的开源 Linux 板，包含神经网络引擎。
• Syntiant TinyML - 基于 Syntiant NDP101 神经决策处理器和 SAMD21 Cortex-M0+ 的开发套件。
• STM32N6 - 以 800MHz 运行的 Arm Cortex-M55，嵌入神经处理单元 (NPU)。

软件

• TensorFlow Lite - 适用于移动和嵌入式设备的轻量级解决方案，可实现低延迟和小二进制大小的设备上机器学习推理。
• TensorFlow Lite for Microcontrollers - TF Lite 的端口，适用于微控制器和其他只有千字节内存的设备。诞生于与 uTensor 的合并。
• 嵌入式学习库 (ELL) - Microsoft 的库，用于将智能机器学习模型部署到资源受限的平台和小型单板计算机上。
• uTensor - 基于 mbed（用于 ARM 芯片组的 RTOS）和 TensorFlow 的 AI 推理库。
• CMSIS NN - 一组高效的神经网络内核，旨在最大限度地提高 Cortex-M 处理器内核上神经网络的性能并最​​大限度地减少内存占用。
• ARM 计算库 - 用于图像处理、计算机视觉和机器学习的优化函数集。
• Qualcomm AI 神经处理 SDK - 为开发人员提供的库，可利用 CPU、GPU 和/或 DSP 在 Snapdragon 移动平台上运行 NN 模型。
• ST X-CUBE-AI - 用于生成针对 STM32 MCU 优化的 NN 的工具包。
• ST NanoEdgeAIStudio - 生成要加载到 STM32 MCU 中的模型的工具。
• 微控制器上的神经网络 (NNoM) - 专门用于微控制器的更高级别的基于层的神经网络库。支持 CMSIS-NN。
• nncase - 适用于 Kendryte K210 AI 加速器的开放深度学习编译器堆栈。
• deepC - 针对嵌入式平台的深度学习编译器和推理框架。
• uTVM - MicroTVM是一个用于优化张量程序的开源工具。
• Edge Impulse - 用于生成可在微控制器中运行的模型的交互式平台。他们在社交网络上也非常活跃，谈论 EdgeAI/TinyML 的最新新闻。
• Qeexo AutoML - 用于生成针对微控制器的 AI 模型的交互式平台。
• mlpack - 仅 C++ 标头的快速机器学习库，专注于轻量级部署。它具有多种机器学习算法，可以在 MPU 上实现设备上学习。
• AIfES - 针对嵌入式系统优化的独立于平台的独立人工智能软件框架。
• onnx2c - 针对“Tiny ML”的 ONNX 到 C 编译器。

其他有趣的资源

• 边缘计算基准测试（2019 年 5 月）
• 立方体卫星边缘人工智能的硬件基准 - 开源立方体卫星研讨会 2018
• 为什么要在边缘进行机器学习？
• 教程：OpenMV 摄像头上的低功耗深度学习
• TinyML：在 Arduino 和超低功耗微控制器上使用 TensorFlow 进行机器学习 - 由 Pete Warden 和 Daniel Situnayake 撰写的 O'Reilly 书籍。
• tinyML Summit - 在美国加利福尼亚州举行的年度会议和月度聚会。演讲和幻灯片通常可以从网站上获得。
• TinyML 论文和项目 - TinyML/EdgeAI 领域最新论文和项目的汇编。
• MinUn - 微控制器上的准确 ML 推理。

贡献

• 请先检查是否有重复项。
• 保持描述简短、简单且公正。
• 请对每项建议做出单独的承诺。
• 如果需要，添加新类别。

感谢您的建议！

执照

在法律允许的范围内，Xabi Crespo 放弃了本作品的所有版权以及相关或邻接权。