Treinamento de modelo Edge AI, quantização, compilação/benchmark e Model Zoo
Mais detalhes e informações sobre versões anteriores estão disponíveis nas Notas de Versão
É importante usar o branch git correto (correspondente à versão do SDK) se você for usar os modelos compilados em um dispositivo/EVM.
Nossas landing pages de documentação são as seguintes:
| Categoria | Ferramenta Link | Propósito | NÃO É |
|---|---|---|---|
| Coleção Zoo Modelo / Modelos | edgeai-modelzoo | fornece coleção de modelos pré-treinados | |
| Compilação de modelos e benchmarking | benchmark edgeai | Wrapper sobre edgeai-tidl-tools para fácil compilação de modelos e benchmarking de velocidade/precisão - Traga seu próprio modelo e compile, compare e gere artefatos para implantação no SDK com câmera, inferência e exibição (usando edgeai-gst-apps) - Compreende o pipeline de inferência, incluindo carregamento, pré-processamento e pós-processamento do conjunto de dados - Benchmarking de precisão e latência com grandes conjuntos de dados - Quantização pós-treinamento - Docker para fácil configuração do ambiente de desenvolvimento | |
| Ferramentas de treinamento de modelo | otimização de modelo edgeai | Ferramentas de otimização de modelos para treinamento aprimorado de modelos, ferramentas para treinar modelos compatíveis com TIDL. - Cirurgia de modelo : modifica modelos com perda mínima de precisão e os torna adequados para dispositivos TI (substitui operadores não suportados) - QAT : Treinamento consciente de quantização para melhorar a precisão com quantização de ponto fixo - Poda/esparsidade de modelo: induz esparsidade durante o treinamento – aplicável apenas para dispositivos específicos – isso está em desenvolvimento. | - Não suporta Tensorflow |
| Treinamento e código de modelo | edgeai-torchvision detecção edgeai-mm edgeai-mmdetection3d transformadores edgeai-hf edgeai-mmpose edgeai-yolox | Repositórios de treinamento para diversas tarefas - Fornece extensões de repositórios de treinamento populares (como mmdetection, torchvision) com versão lite de modelos | - Não suporta Tensorflow |
| Desenvolvimento de modelo ponta a ponta - conjuntos de dados, treinamento e compilação | modelador edgeai | Amigável para iniciantes , linha de comando, ambiente integrado para treinamento e compilação - Traga seus próprios dados, selecione um modelo, realize treinamento e gere artefatos para implantação no SDK - Ferramenta de back-end para Model Composer (disponibilidade antecipada de recursos em comparação com Model Composer) | - Não oferece suporte ao fluxo de trabalho Traga seu próprio modelo |
| Conjuntos de dados de exemplo, usados no edgeai-modelmaker | conjuntos de dados edgeai | Conjuntos de dados de exemplo |
A documentação técnica pode ser encontrada na documentação de cada repositório. Aqui temos uma coleção de relatórios técnicos e tutoriais que fornecem uma visão geral de alto nível sobre vários tópicos - consulte Edge AI Tech Reports .
