[2024-9월] 10.0 릴리즈가 완료되었습니다. SDK, edgeai-tidl-tools 및 edgeai-tensorlab이 업데이트되었습니다.
자세한 내용은 릴리스 노트에 나와 있습니다.
SDK 릴리스 노트, edgeai-tidl-tools 릴리스 노트 및 edgeai-tensorlab 릴리스 노트도 참조하세요.
당사의 문서 랜딩 페이지는 다음과 같습니다.
https://www.ti.com/edgeai : TI의 엣지 AI 소프트웨어/하드웨어 제품을 요약한 기술 페이지
https://github.com/TexasInstruments/edgeai : 개발자가 전반적인 소프트웨어 및 도구 제공을 이해할 수 있는 랜딩 페이지
리포지토리가 재구성되었습니다 . 여러 리포지토리가 현재 edgeai-tensorlab 내에 어떻게 패키징되어 있는지 이해하려면 아래 표를 탐색하세요.
딥 러닝 모델의 임베디드 추론은 높은 컴퓨팅 요구 사항으로 인해 매우 어렵습니다. TI의 Edge AI 종합 소프트웨어 제품은 TI의 임베디드 장치에 대한 추론을 최적화하고 가속화하는 데 도움이 됩니다. 이는 Cortex-A 기반 MPU, TI의 최신 세대 C7x DSP 및 DNN 가속기(MMA) 전반에 걸쳐 DNN의 이기종 실행을 지원합니다.
TI의 Edge AI 솔루션은 풍부한 도구 세트와 최적화된 라이브러리를 제공하여 DNN 개발 및 배포의 전체 제품 수명 주기를 단순화합니다.
아래 그림은 관련 도구에 대한 높은 수준의 요약을 제공합니다.
아래 표에는 각 도구에 대한 자세한 설명이 나와 있습니다.
범주 | 도구/링크 | 목적 | 그렇지 않다 |
---|---|---|---|
추론(및 컴파일) 도구 | edgeai-tidl-도구 | 모델 컴파일 및 추론 흐름에 익숙해지려면 - 훈련 후 양자화 - 즉시 사용 가능한 예시 모델(10개 이상)을 사용한 벤치마크 대기 시간 - 배포를 위한 사용자/커스텀 모델 컴파일 - 파일 기반 입력 및 출력을 사용하여 X86_PC 또는 TI SOC에서 컴파일된 모델 추론 - 손쉬운 개발 환경 구축을 위한 Docker | - 표준 데이터 세트와 함께 TIDL을 사용하는 모델의 정확도 벤치마킹을 지원하지 않습니다(예: 객체 감지 모델에 MS COCO 데이터 세트를 사용한 정확도 벤치마킹). 이에 대해서는 edgeai-benchmark를 참조하십시오. - 카메라, 디스플레이, 추론 기반 엔드투엔드 파이프라인 개발을 지원하지 않습니다. 해당 사용법은 Edge AI SDK를 참조하세요. |
모델 선택 도구 | Edge AI Studio: 모델 선택 도구 | FPS, 지연 시간, 정확도 및 DDR 대역폭과 같은 모델의 성능 통계를 이해합니다. TI Model Zoo에서 TI 프로세서에 대한 성능 및 정확도 목표를 가장 잘 충족하는 모델을 찾아보세요. | |
교육 및 컴파일을 위한 통합 환경 | Edge AI Studio: 모델 분석기 | TI EVM 팜으로 모델을 평가할 수 있는 브라우저 기반 환경 - 사용자 측에서 소프트웨어/하드웨어 설정 없이 모델 평가를 허용합니다. - 사용자는 TI EVM 팜에서 EVM을 예약하고 jupyter 노트북을 사용하여 모델 평가를 수행할 수 있습니다. - 모델 선택 도구 : TI 장치에 적합한 모델 아키텍처를 제공합니다. | - 카메라, 디스플레이, 추론 기반 엔드투엔드 파이프라인 개발을 지원하지 않습니다. 해당 사용법은 Edge AI SDK를 참조하세요. |
같게 | Edge AI Studio: 모델 작곡가 | TI 개발 보드에 연결하여 데이터 세트 캡처, 주석, 교육, 컴파일을 위한 GUI 기반 통합 환경 - 자신의 데이터를 가져오거나 캡처하고, 주석을 달고, 모델을 선택하고, 교육을 수행하고 SDK에 배포할 아티팩트를 생성합니다. - 빠른 피드백을 위한 실시간 미리보기 | - 자체 모델 가져오기 워크플로를 지원하지 않습니다. |
Edge AI 소프트웨어 개발 키트 | 장치 및 SDK | 카메라, 추론, 디스플레이를 갖춘 엔드투엔드 AI 파이프라인을 개발하기 위한 SDK - 다양한 추론 런타임: TFLiteRT, ONNXRT, NEO AI DLR, TIDL-RT - 프레임워크: openVX, gstreamer - 장치 드라이버: 카메라, 디스플레이, 네트워킹 - OS: 리눅스, RTOS - 기타 소프트웨어 모듈: 코덱, OpenCV,… |
범주 | 도구/링크 | 목적 | 그렇지 않다 |
---|---|---|---|
Model Zoo, 모델 교육, 컴파일/벤치마크 및 관련 도구 | edgeai-tensorlab | 모델 교육 소프트웨어, 사전 교육된 모델 모음, 문서화 및 컴파일/벤치마크 스크립트를 제공합니다. edgeai-modelzoo, edgeai-benchmark, edgeai-modeloptimization, edgeai-modelmaker, edgeai-torchvision, edgeai-mmDetection 및 해당 리포지토리가 포함됩니다. |
자체 모델 가져오기(BYOM) 워크플로:
자체 모델 학습(TYOM) 워크플로:
자체 데이터 가져오기(BYOD) 워크플로:
기술 문서는 각 저장소의 문서에서 찾을 수 있습니다. 여기에는 다양한 주제에 대한 높은 수준의 개요를 제공하는 기술 보고서 및 튜토리얼 모음이 있습니다.
edgeai-tensorlab의 Edge AI 기술 보고서
당사의 기술 간행물을 읽어보세요.
Edge AI Studio의 이슈 트래커는 랜딩 페이지에 나열되어 있습니다.
TIDL용 이슈 트래커 : TIDL 태그를 포함하세요(새 이슈를 생성할 때 페이지 하단에 태그를 입력할 수 있는 공간이 있습니다).
Edge AI SDK용 이슈 트래커 EDGEAI 태그를 포함하세요(새 이슈를 생성하면 페이지 하단에 태그를 입력할 수 있는 공간이 있습니다).
ModelZoo, 모델 벤치마크 및 심층 신경망 교육 소프트웨어용 이슈 트래커: MODELZOO 태그를 포함하세요(새 이슈를 생성할 때 페이지 하단에 태그를 입력할 수 있는 공간이 있습니다).
이 랜딩 저장소를 사용할 수 있는 라이센스에 대한 자세한 내용은 LICENSE 파일을 참조하십시오. 각 저장소의 LICENSE 파일은 해당 저장소 안에 있습니다.