[2024-setembro] O lançamento 10.0 foi concluído. SDKs, edgeai-tidl-tools e edgeai-tensorlab foram atualizados.
Mais detalhes estão nas Notas de Lançamento.
Consulte também as notas de lançamento dos SDKs, notas de lançamento do edgeai-tidl-tools e notas de lançamento do edgeai-tensorlab
Nossas landing pages de documentação são as seguintes:
https://www.ti.com/edgeai: página de tecnologia que resume os produtos de software/hardware de IA de ponta da TI
https://github.com/TexasInstruments/edgeai: página inicial para desenvolvedores entenderem a oferta geral de software e ferramentas
Nossos repositórios foram reestruturados : Navegue até as tabelas abaixo para entender como vários repositórios estão agora empacotados dentro do edgeai-tensorlab
A inferência incorporada de modelos de Deep Learning é bastante desafiadora - devido aos altos requisitos de computação. O produto de software abrangente Edge AI da TI ajuda a otimizar e acelerar a inferência nos dispositivos incorporados da TI. Ele suporta execução heterogênea de DNNs em MPUs baseados em córtex-A, DSP C7x de última geração da TI e acelerador DNN (MMA).
A solução Edge AI da TI simplifica todo o ciclo de vida do produto de desenvolvimento e implantação de DNN, fornecendo um rico conjunto de ferramentas e bibliotecas otimizadas.
A figura abaixo fornece um resumo de alto nível das ferramentas relevantes:
A tabela abaixo fornece uma explicação detalhada de cada uma das ferramentas:
Categoria | Ferramenta/Link | Propósito | NÃO É |
---|---|---|---|
Ferramentas de inferência (e compilação) | ferramentas edgeai-tidl | Para se familiarizar com a compilação de modelos e fluxo de inferência - Quantização pós-treinamento - Latência de referência com modelos de exemplo prontos para uso (10+) - Compilar modelo de usuário/personalizado para implantação - Inferência de modelos compilados em X86_PC ou TI SOC usando entrada e saída de base de arquivo - Docker para fácil configuração do ambiente de desenvolvimento | - Não suporta benchmarking de precisão de modelos usando TIDL com conjuntos de dados padrão, por exemplo - benchmarking de precisão usando conjunto de dados MS COCO para modelos de detecção de objetos. Consulte o edgeai-benchmark para o mesmo. - Não oferece suporte ao desenvolvimento de pipeline ponta a ponta baseado em câmera, exibição e inferência. Consulte o Edge AI SDK para tal uso |
Ferramenta de seleção de modelo | Edge AI Studio: ferramenta de seleção de modelo | Entenda as estatísticas de desempenho de modelos como FPS, latência, precisão e largura de banda DDR. Encontre o modelo que melhor atende às suas metas de desempenho e precisão no TI Processor da TI Model Zoo. | |
Ambiente integrado para treinamento e compilação | Edge AI Studio: analisador de modelo | Ambiente baseado em navegador para permitir avaliação de modelo com farm TI EVM - Permitir avaliação de modelo sem configuração de software/hardware no usuário final - O usuário pode reservar EVM do farm TI EVM e realizar avaliação de modelo usando Jupyter Notebook - Ferramenta de seleção de modelo : para fornecer arquiteturas de modelo adequadas para dispositivos TI | - Não oferece suporte ao desenvolvimento de pipeline ponta a ponta baseado em câmera, exibição e inferência. Consulte o Edge AI SDK para tal uso |
idem | Edge AI Studio: compositor de modelo | Ambiente integrado baseado em GUI para captura de conjunto de dados, anotação, treinamento e compilação com conectividade à placa de desenvolvimento de TI - Traga/capture seus próprios dados, anote, selecione um modelo, realize treinamento e gere artefatos para implantação no SDK - Visualização ao vivo para feedback rápido | - Não oferece suporte ao fluxo de trabalho Traga seu próprio modelo |
Kit de desenvolvimento de software Edge AI | Dispositivos e SDKs | SDK para desenvolver pipeline de IA ponta a ponta com câmera, inferência e exibição - Diferentes tempos de execução de inferência: TFLiteRT, ONNXRT, NEO AI DLR, TIDL-RT - Estrutura: openVX, gstreamer - Drivers de dispositivo: câmera, monitor, rede - SO: Linux, RTOS - Podem outros módulos de software: codecs, OpenCV,… |
Categoria | Ferramenta/Link | Propósito | NÃO É |
---|---|---|---|
Model Zoo, treinamento de modelo, compilação/benchmark e ferramentas associadas | edgeai-tensorlab | Fornecer software de treinamento de modelos, coleção de modelos pré-treinados e scripts de documentação e compilação/benchmark. Inclui edgeai-modelzoo, edgeai-benchmark, edgeai-modeloptimization, edgeai-modelmaker, edgeai-torchvision, edgeai-mmdetection e outros repositórios. |
Fluxo de trabalho Traga seu próprio modelo (BYOM):
Fluxo de trabalho de treinamento do seu próprio modelo (TYOM):
Fluxo de trabalho Traga seus próprios dados (BYOD):
A documentação técnica pode ser encontrada na documentação de cada repositório. Aqui temos uma coleção de relatórios técnicos e tutoriais que fornecem uma visão geral de alto nível sobre vários tópicos.
Relatórios técnicos do Edge AI em edgeai-tensorlab
Leia algumas de nossas publicações técnicas
O rastreador de problemas do Edge AI Studio está listado em sua página inicial.
Rastreador de problemas para TIDL : inclua a tag TIDL (conforme você cria um novo problema, há um espaço para inserir tags, na parte inferior da página).
Rastreador de problemas para Edge AI SDK Inclua a tag EDGEAI (conforme você cria um novo problema, há um espaço para inserir tags, na parte inferior da página).
Rastreador de problemas para ModelZoo, Model Benchmark e software de treinamento de rede neural profunda: inclua a tag MODELZOO (conforme você cria um novo problema, há um espaço para inserir tags, na parte inferior da página).
Consulte o arquivo LICENSE para obter mais informações sobre a licença sob a qual este repositório de destino é disponibilizado. O arquivo LICENSE de cada repositório está dentro desse repositório.