엣지에 있는 AI
엣지의 인공 지능을 위한 하드웨어, 소프트웨어, 프레임워크 및 기타 리소스의 선별된 목록입니다. awesome-dataviz에서 영감을 얻었습니다.
내용물
하드웨어
- OpenMV - ARM Cortex M6/M7에서 MicroPython과 함께 실행되고 컴퓨터 비전 알고리즘을 훌륭하게 지원하는 카메라입니다. 이제 Tensorflow Lite도 지원됩니다.
- JeVois - TensorFlow 지원 카메라 모듈입니다.
- Edge TPU - 에지에서 추론을 실행하도록 설계된 Google의 특수 제작 ASIC입니다.
- Movidius - 저전력 온디바이스 컴퓨터 비전 및 신경망 애플리케이션을 위해 특별히 설계된 Intel의 SoC 제품군입니다.
- UP AI Edge - Intel Movidius VPU(Myriad 2 및 Myriad X 포함) 및 Intel Cyclone FPGA 기반 제품 라인입니다.
- DepthAI - Myriad X를 기반으로 구축된 Depth와 AI를 결합하기 위한 임베디드 플랫폼
- NVIDIA Jetson - 네트워크가 제한된 환경에서 딥 러닝, 컴퓨터 비전, GPU 컴퓨팅 및 그래픽을 활용하는 고성능 임베디드 시스템 온 모듈입니다.
- AIR-T(인공 지능 무선 송수신기) - 최첨단 딥 러닝 하드웨어와 완벽하게 통합된 고성능 SDR입니다.
- Kendryte K210 - 64개 KLU(Kendryte 산술 논리 장치)를 사용하는 컨벌루션 신경망 가속 기능을 갖춘 듀얼 코어, RISC-V 칩입니다.
- Sipeed M1 - Kendryte K210을 기반으로 하는 이 모듈은 WiFi 연결과 외부 플래시 메모리를 추가합니다.
- M5StickV - Kendryte K210이 탑재된 AIoT(AI+IoT) 카메라
- UNIT-V - Kendryte K210(하급형 M5StickV)으로 구동되는 AI 카메라
- Kendryte K510 - AI 가속기로 클럭킹된 트라이코어 RISC-V 프로세서.
- GreenWaves GAP8 - 컨벌루션 작업을 위한 하드웨어 가속 기능을 갖춘 RISC-V 기반 칩입니다.
- GreenWaves GAP9 - 주로 AI 중심 오디오 처리에 초점을 맞춘 RISC-V 기반 칩입니다.
- Ultra96 - Xilinx UltraScale+ MPSoC FPGA를 갖춘 임베디드 개발 플랫폼입니다.
- Apollo3 Blue - Ambiq Micro의 Cortex M4로 구동되는 SparkFun Edge 개발 보드입니다.
- Google Coral - Google Edge TPU 보조 프로세서를 기반으로 하는 로컬 AI 제품용 하드웨어 구성 요소 및 소프트웨어 도구 플랫폼입니다.
- 개발 보드
- USB 가속기
- PCIe / M.2 모듈
- Gyrfalcon Technology Lighspeeur - 엣지 컴퓨팅에 최적화된 칩 제품군입니다.
- ARM microNPU - ML 추론을 가속화하도록 설계된 프로세서(Ethos-U55의 첫 번째 프로세서).
- Espressif ESP32-S3 - AI 가속을 지원하는 잘 알려진 ESP32와 유사한 SoC입니다(다른 많은 흥미로운 차이점 중에서).
- Maxim MAX78000 - CNN 가속기를 포함하는 Cortex-M4 기반 SoC입니다.
- Beagleboard BeagleV - 신경망 엔진을 포함하는 오픈 소스 RISC-V 기반 Linux 보드입니다.
- Syntiant TinyML - Syntiant NDP101 신경 결정 프로세서 및 SAMD21 Cortex-M0+를 기반으로 하는 개발 키트입니다.
- STM32N6 - NPU(신경 처리 장치)가 내장되어 800MHz에서 실행되는 Arm Cortex-M55입니다.
소프트웨어
- TensorFlow Lite - 짧은 대기 시간과 작은 바이너리 크기로 기기 내 기계 학습 추론을 가능하게 하는 모바일 및 임베디드 기기용 경량 솔루션입니다.
- 마이크로컨트롤러용 TensorFlow Lite - 메모리가 킬로바이트에 불과한 마이크로컨트롤러 및 기타 장치용 TF Lite 포트입니다. uTensor와의 합병으로 탄생했습니다.
- ELL(Embedded Learning Library) - 리소스가 제한된 플랫폼과 소형 단일 보드 컴퓨터에 지능형 기계 학습 모델을 배포하기 위한 Microsoft 라이브러리입니다.
- uTensor - mbed(ARM 칩셋용 RTOS) 및 TensorFlow를 기반으로 하는 AI 추론 라이브러리입니다.
- CMSIS NN - Cortex-M 프로세서 코어에서 신경망의 메모리 공간을 최소화하고 성능을 최대화하기 위해 개발된 효율적인 신경망 커널 모음입니다.
- ARM 컴퓨팅 라이브러리 - 이미지 처리, 컴퓨터 비전 및 기계 학습에 최적화된 기능 세트입니다.
- AI용 Qualcomm 신경 처리 SDK - 개발자용 라이브러리는 CPU, GPU 및/또는 DSP를 활용하여 Snapdragon 모바일 플랫폼에서 NN 모델을 실행합니다.
- ST X-CUBE-AI - STM32 MCU에 최적화된 NN 생성용 툴킷입니다.
- ST NanoEdgeAIStudio - STM32 MCU에 로드할 모델을 생성하는 도구입니다.
- NNoM(Neural Network on Microcontroller) - 특히 마이크로컨트롤러를 위한 상위 수준 계층 기반 신경망 라이브러리입니다. CMSIS-NN을 지원합니다.
- nncase - Kendryte K210 AI 가속기용 오픈 딥 러닝 컴파일러 스택입니다.
- deepC - 임베디드 플랫폼을 대상으로 하는 딥 러닝 컴파일러 및 추론 프레임워크입니다.
- uTVM - MicroTVM 은 텐서 프로그램을 최적화하는 오픈 소스 도구입니다.
- Edge Impulse - 마이크로컨트롤러에서 실행할 수 있는 모델을 생성하는 대화형 플랫폼입니다. 그들은 또한 EdgeAI/TinyML에 대한 최근 뉴스에 대해 이야기하는 소셜 네트워크에서 활발히 활동하고 있습니다.
- Qeexo AutoML - 마이크로컨트롤러를 대상으로 하는 AI 모델을 생성하는 대화형 플랫폼입니다.
- mlpack - 경량 배포에 초점을 맞춘 C++ 헤더 전용 고속 기계 학습 라이브러리입니다. MPU에서 온디바이스 학습을 실현할 수 있는 다양한 기계 학습 알고리즘을 갖추고 있습니다.
- AIfES - 임베디드 시스템에 최적화된 플랫폼 독립적인 독립형 AI 소프트웨어 프레임워크입니다.
- onnx2c - "Tiny ML"을 대상으로 하는 ONNX-C 컴파일러입니다.
기타 흥미로운 자료
- 엣지 컴퓨팅 벤치마킹(2019년 5월)
- Cubesat의 엣지 AI에 대한 하드웨어 벤치마크 - 오픈 소스 Cubesat Workshop 2018
- Edge에서 머신러닝을 수행하는 이유는 무엇입니까?
- 튜토리얼: OpenMV Cam의 저전력 딥 러닝
- TinyML: Arduino 및 초저전력 마이크로 컨트롤러에서 TensorFlow를 사용한 기계 학습 - Pete Warden, Daniel Situnayake가 쓴 O'Reilly 책입니다.
- tinyML Summit - 미국 캘리포니아에서 열리는 연례 컨퍼런스 및 월간 모임입니다. 강연과 슬라이드는 일반적으로 웹사이트에서 이용 가능합니다.
- TinyML 논문 및 프로젝트 - TinyML/EdgeAI 분야의 최신 논문 및 프로젝트를 편집한 것입니다.
- MinUn - 마이크로컨트롤러에 대한 정확한 ML 추론.
기여
- 중복 여부를 먼저 확인해주세요.
- 설명은 짧고 단순하며 편견 없이 작성하세요.
- 각 제안에 대해 개별적으로 커밋해 주세요.
- 필요한 경우 새 카테고리를 추가하세요.
귀하의 제안에 감사드립니다!
특허
법률에 따라 가능한 한도 내에서 Xabi Crespo는 이 저작물에 대한 모든 저작권 및 관련 권리 또는 저작인접권을 포기했습니다.
