edge ai

邊緣人工智慧

邊緣人工智慧的硬體、軟體、框架和其他資源的精選清單。受到 Awesome-dataviz 的啟發。

內容

• 硬體
• 軟體
• 框架
• 貢獻
• 執照

硬體

• OpenMV - 一款在 ARM Cortex M6/M7 上與 MicroPython 一起運行的相機，並且對電腦視覺演算法有很好的支援。現在也支援 Tensorflow Lite。
• JeVois - 支援 TensorFlow 的相機模組。
• Edge TPU - Google 專門建立的 ASIC，旨在在邊緣運行推理。
• Movidius - 英特爾的 SoC 系列專為低功耗設備上電腦視覺和神經網路應用而設計。
  • UP AI Edge - 基於英特爾 Movidius VPU（包括 Myriad 2 和 Myriad X）和英特爾 Cyclone FPGA 的產品線。
  • DepthAI - 一個結合深度和人工智慧的嵌入式平台，圍繞著 Myriad X 構建
• NVIDIA Jetson - 高效能嵌入式模組系統，可在網路受限環境中解鎖深度學習、電腦視覺、GPU 運算和圖形。
  • 傑森TX1
  • 傑森TX2
  • 傑特森納米
• 人工智慧無線電 - 收發器 (AIR-T) - 高效能 SDR 與最先進的深度學習硬體無縫整合。
• Kendryte K210 - 雙核心 RISC-V 晶片，使用 64 個 KLU（Kendryte 算術邏輯單元）進行卷積神經網路加速。
  • Sipeed M1 - 此模組基於 Kendryte K210，增加了 WiFi 連接和外部快閃記憶體。
  • M5StickV - 由 Kendryte K210 提供支援的 AIoT(AI+IoT) 相機
  • UNIT-V - 由 Kendryte K210（低階 M5StickV）提供支援的 AI 相機
• Kendryte K510 - 採用 AI 加速器計時的三核心 RISC-V 處理器。
• GreenWaves GAP8 - 基於 RISC-V 的晶片，具有捲積運算的硬體加速功能。
• GreenWaves GAP9 - 基於 RISC-V 的晶片主要專注於以 AI 為中心的音訊處理。
• Ultra96 - 採用 Xilinx UltraScale+ MPSoC FPGA 的嵌入式開發平台。
• Apollo3 Blue - SparkFun Edge 開發板，由 Ambiq Micro 的 Cortex M4 提供支援。
• Google Coral - 基於 Google Edge TPU 協處理器的本地人工智慧產品的硬體元件和軟體工具平台。
  • 開發板
  • USB加速器
  • PCIe / M.2 模組
• Gyrfalcon Technology Lighspeeur - 針對邊緣運算最佳化的晶片系列。
• ARM microNPU - 設計用於加速 ML 推理的處理器（Ethos-U55 是第一個處理器）。
• Espressif ESP32-S3 - SoC 類似於著名的 ESP32，支援 AI 加速（還有許多其他有趣的差異）。
• Maxim MAX78000 - 基於 Cortex-M4 的 SoC，包含 CNN 加速器。
• Beagleboard BeagleV - 基於 RISC-V 的開源 Linux 板，包含神經網路引擎。
• Syntiant TinyML - 基於 Syntiant NDP101 神經決策處理器和 SAMD21 Cortex-M0+ 的開發套件。
• STM32N6 - 以 800MHz 運作的 Arm Cortex-M55，嵌入神經處理單元 (NPU)。

軟體

• TensorFlow Lite - 適用於行動和嵌入式裝置的輕量級解決方案，可實現低延遲和小二進位大小的裝置上機器學習推理。
• TensorFlow Lite for Microcontrollers - TF Lite 的端口，適用於微控制器和其他只有千位元組記憶體的裝置。誕生於與 uTensor 的合併。
• 嵌入式學習庫 (ELL) - Microsoft 的庫，用於將智慧機器學習模型部署到資源受限的平台和小型單板電腦上。
• uTensor - 基於 mbed（用於 ARM 晶片組的 RTOS）和 TensorFlow 的 AI 推理庫。
• CMSIS NN - 一組高效的神經網路內核，旨在最大限度地提高 Cortex-M 處理器內核上神經網路的性能並最大限度地減少記憶體佔用。
• ARM 運算庫 - 用於影像處理、電腦視覺和機器學習的最佳化函數集。
• Qualcomm AI 神經處理 SDK - 為開發人員提供的程式庫，可利用 CPU、GPU 和/或 DSP 在 Snapdragon 行動平台上運行 NN 模型。
• ST X-CUBE-AI - 用於產生針對 STM32 MCU 最佳化的 NN 的工具包。
• ST NanoEdgeAIStudio - 產生要載入到 STM32 MCU 中的模型的工具。
• 微控制器上的神經網路 (NNoM) - 專門用於微控制器的更高層級的基於層的神經網路庫。支援 CMSIS-NN。
• nncase - 適用於 Kendryte K210 AI 加速器的開放式深度學習編譯器堆疊。
• deepC - 針對嵌入式平台的深度學習編譯器和推理架構。
• uTVM - MicroTVM是一個用於最佳化張量程式的開源工具。
• Edge Impulse - 用於產生可在微控制器中運行的模型的互動式平台。他們在社群網路上也非常活躍，談論 EdgeAI/TinyML 的最新新聞。
• Qeexo AutoML - 用於產生針對微控制器的 AI 模型的互動式平台。
• mlpack - 僅 C++ 標頭的快速機器學習函式庫，專注於輕量級部署。它具有多種機器學習演算法，可以在 MPU 上實現設備上學習。
• AIfES - 針對嵌入式系統最佳化的獨立於平台的獨立人工智慧軟體框架。
• onnx2c - 針對「Tiny ML」的 ONNX 到 C 編譯器。

其他有趣的資源

• 邊緣運算基準測試（2019 年 5 月）
• 立方體衛星邊緣人工智慧的硬體基準 - 開源立方體衛星研討會 2018
• 為什麼要在邊緣進行機器學習？
• 教學：OpenMV 相機上的低功耗深度學習
• TinyML：在 Arduino 和超低功耗微控制器上使用 TensorFlow 進行機器學習 - 由 Pete Warden 和 Daniel Situnayake 撰寫的 O'Reilly 書籍。
• tinyML Summit - 在美國加州舉行的年度會議和每月聚會。演講和幻燈片通常可以從網站上獲得。
• TinyML 論文和專案 - TinyML/EdgeAI 領域最新論文和專案的彙編。
• MinUn - 微控制器上的準確 ML 推理。

貢獻

• 請先檢查是否有重複項。
• 保持描述簡短、簡單且公正。
• 請對每項建議做出單獨的承諾。
• 如果需要，請新增類別。

感謝您的建議！

執照

在法律允許的範圍內，Xabi Crespo 放棄了本作品的所有版權以及相關或鄰接權。