ComputeLibrary

Anúncio do Aviso de descontinuação 24.01: as otimizações específicas do formato de dados NCHW serão gradualmente removidas da base de código em versões futuras. A implicação disto é que se espera que o usuário traduza os modelos NCHW em NHWC para se beneficiar das otimizações.

Biblioteca de computação

A Compute Library é uma coleção de funções de aprendizado de máquina de baixo nível otimizadas para arquiteturas de GPUs Arm® Cortex®-A, Arm® Neoverse® e Arm® Mali™.

A biblioteca oferece desempenho superior a outras alternativas de código aberto e suporte imediato para novas tecnologias Arm®, por exemplo, SVE2.

Principais recursos:

• Software de código aberto disponível sob uma licença permissiva do MIT
• Mais de 100 funções de aprendizado de máquina para CPU e GPU
• Vários algoritmos de convolução (GeMM, Winograd, FFT, direto e indireto-GeMM)
• Suporte para vários tipos de dados: FP32, FP16, INT8, UINT8, BFLOAT16
• Otimização de microarquitetura para primitivas de ML importantes
• Opções de construção altamente configuráveis, permitindo binários leves
• Técnicas avançadas de otimização, como fusão de kernel, ativação matemática rápida e utilização de textura
• Ajuste específico de dispositivo e carga de trabalho usando sintonizador OpenCL e heurística otimizada GeMM

Repositório	Link
Liberar	https://github.com/arm-software/ComputeLibrary
Desenvolvimento	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

Documentação

Nota: A documentação inclui a API de referência, changelogs, guia de construção, guia de contribuição, errata, etc.

Binários pré-construídos

Todos os binários podem ser baixados aqui ou nas tabelas abaixo.

Plataforma	Sistema operacional	Arquivo de lançamento (Download)
Framboesa Pi 4	Linux® 32 bits
Framboesa Pi 4	Linux® 64 bits
Odroid N2	Linux® 64 bits
HiKey960	Linux® 64 bits

Arquitetura	Sistema operacional	Arquivo de lançamento (Download)
armv7	Linux®
arm64-v8a	Android™
arm64-v8a	Linux®

Consulte o link a seguir para mais binários pré-construídos:

Os binários pré-construídos são gerados com os seguintes sinalizadores relacionados a segurança/boas práticas de codificação:

-Wall, -Wextra, -Wformat=2, -Winit-self, -Wstrict-overflow=2, -Wswitch-default, -Woverloaded-virtual, -Wformat-security, -Wctor-dtor-privacy, -Wsign-promo, -Weffc++, -pedante, -fstack-protector-strong

Arquiteturas/Tecnologias Suportadas

• CPUs Arm®:

  • Família de processadores Arm® Cortex®-A usando tecnologia Arm® Neon™
  • Família de processadores Arm® Neoverse®
  • Família de processadores Arm® Cortex®-R com arquitetura Armv8-R AArch64 usando tecnologia Arm® Neon™
  • Processador Arm® Cortex®-X1 usando tecnologia Arm® Neon™

• GPUs Arm® Mali™:

  • Família de processadores Arm® Mali™-G
  • Família de processadores Arm® Mali™-T

• x86

Sistemas Suportados

• Android™
• Metal puro
• Linux®
• OpenBSD®
• macOS®
• Tizen®

Recursos

• Tutorial: Executando AlexNet no Raspberry Pi com Compute Library
• Palestra de Gian Marco sobre análise de desempenho para otimização de software de inferência de aprendizado profundo integrado
• Palestra de Gian Marco sobre otimização de CNNs com algoritmos Winograd no EVS
• Palestra de Gian Marco sobre o uso de SGEMM e FFTs para acelerar o aprendizado profundo

Construções experimentais

Compilações importantes do Bazel e CMake são compilações experimentais apenas de CPU. Consulte a documentação para obter mais detalhes.

Como contribuir

Contribuições para a Biblioteca de Computação são mais que bem-vindas. Se você estiver interessado em contribuir, dê uma olhada em nossas diretrizes de como contribuir.

Certificado de Origem do Desenvolvedor (DCO)

Antes que a Biblioteca Computacional aceite sua contribuição, você precisa certificar sua origem e nos dar sua permissão. Para gerenciar este processo usamos o Developer Certificate of Origin (DCO) V1.1 (https://developercertificate.org/)

Para indicar que você concorda com os termos do DCO, você “assina” sua contribuição adicionando uma linha com seu nome e endereço de e-mail a cada mensagem de commit do git:

Signed-off-by: John Doe <[email protected]>

Você deve usar seu nome verdadeiro, não serão aceitos pseudônimos ou contribuições anônimas.

Lista de discussão pública

Para discussão técnica, o projeto ComputeLibrary tem uma lista de discussão pública: [email protected] A lista está aberta a qualquer pessoa dentro ou fora da Arm para se inscrever. Para se inscrever, visite o seguinte site: https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

Licença e Contribuições

O software é fornecido sob licença do MIT. As contribuições para este projeto são aceitas sob a mesma licença.

Outros projetos

Este projeto contém código de outros projetos listados abaixo. O texto da licença original está incluído nesses arquivos de origem.

• A biblioteca de cabeçalho OpenCL é licenciada sob Licença Apache, Versão 2.0, que é uma licença permissiva compatível com a licença MIT.

• A meia biblioteca está licenciada sob licença do MIT.

• A biblioteca libnpy está licenciada sob licença do MIT.

• A biblioteca de imagens stb está licenciada sob licença MIT ou está em domínio público. É usado por este projeto sob os termos da licença do MIT.

Marcas registradas e direitos autorais

Android é uma marca registrada da Google LLC.

Arm, Cortex, Mali e Neon são marcas registradas ou marcas comerciais da Arm Limited (ou de suas subsidiárias) nos EUA e/ou em outros lugares.

Bazel é uma marca comercial da Google LLC., registrada nos EUA e em outros países.

CMake é uma marca comercial da Kitware, Inc., registrada nos EUA e em outros países.

Linux® é marca registrada de Linus Torvalds nos EUA e em outros países.

Mac e macOS são marcas comerciais da Apple Inc., registradas nos EUA e em outros países.

Tizen é uma marca registrada da Linux Foundation.

Windows® é uma marca comercial do grupo de empresas Microsoft.