ComputeLibrary

Aviso de obsolescencia Anuncio 24.01: Las optimizaciones específicas del formato de datos NCHW se eliminarán gradualmente del código base en futuras versiones. La implicación de esto es que se espera que el usuario traduzca los modelos NCHW a NHWC para beneficiarse de las optimizaciones.

Biblioteca informática

Compute Library es una colección de funciones de aprendizaje automático de bajo nivel optimizadas para las arquitecturas de GPU Arm® Cortex®-A, Arm® Neoverse® y Arm® Mali™.

La biblioteca proporciona un rendimiento superior a otras alternativas de código abierto y soporte inmediato para nuevas tecnologías Arm®, por ejemplo, SVE2.

Características clave:

• Software de código abierto disponible bajo una licencia MIT permisiva
• Más de 100 funciones de aprendizaje automático para CPU y GPU
• Múltiples algoritmos de convolución (GeMM, Winograd, FFT, Directo e indirecto-GeMM)
• Soporte para múltiples tipos de datos: FP32, FP16, INT8, UINT8, BFLOAT16
• Optimización de microarquitectura para primitivas clave de ML
• Opciones de compilación altamente configurables que permiten binarios livianos
• Técnicas de optimización avanzadas como fusión de kernel, habilitación matemática rápida y utilización de texturas.
• Ajuste específico del dispositivo y de la carga de trabajo mediante el sintonizador OpenCL y heurística optimizada GeMM

Repositorio	Enlace
Liberar	https://github.com/arm-software/ComputeLibrary
Desarrollo	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

Documentación

Nota: La documentación incluye la API de referencia, registros de cambios, guía de compilación, guía de contribución, erratas, etc.

Binarios prediseñados

Todos los binarios se pueden descargar desde aquí o desde las tablas siguientes.

Plataforma	Sistema operativo	Archivo de lanzamiento (Descargar)
Frambuesa Pi 4	Linux® de 32 bits
Frambuesa Pi 4	Linux® de 64 bits
Odroid N2	Linux® de 64 bits
HolaKey960	Linux® de 64 bits

Arquitectura	Sistema operativo	Archivo de lanzamiento (Descargar)
armv7	Linux®
arm64-v8a	Android™
arm64-v8a	Linux®

Consulte el siguiente enlace para obtener más archivos binarios prediseñados:

Los archivos binarios precompilados se generan con las siguientes marcas relacionadas con seguridad/buenas prácticas de codificación:

-Wall, -Wextra, -Wformat=2, -Winit-self, -Wstrict-overflow=2, -Wswitch-default, -Woverloaded-virtual, -Wformat-security, -Wctor-dtor-privacy, -Wsign-promo, -Weffc++, -pedante, -fstack-protector-fuerte

Arquitecturas/tecnologías soportadas

• CPU Arm®:

  • Familia de procesadores Arm® Cortex®-A que utilizan la tecnología Arm® Neon™
  • Familia de procesadores Arm® Neoverse®
  • Familia de procesadores Arm® Cortex®-R con arquitectura Armv8-R AArch64 que utiliza tecnología Arm® Neon™
  • Procesador Arm® Cortex®-X1 que utiliza tecnología Arm® Neon™

• GPU Arm® Mali™:

  • Familia de procesadores Arm® Mali™-G
  • Familia de procesadores Arm® Mali™-T

• x86

Sistemas compatibles

• Android™
• metal desnudo
• Linux®
• OpenBSD®
• macOS®
• Tizen™

Recursos

• Tutorial: Ejecución de AlexNet en Raspberry Pi con Compute Library
• Charla de Gian Marco sobre análisis de rendimiento para optimizar el software de inferencia de aprendizaje profundo integrado
• Charla de Gian Marco sobre la optimización de las CNN con algoritmos de Winograd en el EVS
• Charla de Gian Marco sobre el uso de SGEMM y FFT para acelerar el aprendizaje profundo

Construcciones experimentales

Importante Las compilaciones de Bazel y CMake son compilaciones experimentales de CPU únicamente; consulte la documentación para obtener más detalles.

Como contribuir

Las contribuciones a la Compute Library son más que bienvenidas. Si está interesado en contribuir, consulte nuestras pautas sobre cómo contribuir.

Certificado de origen de desarrollador (DCO)

Antes de que Compute Library acepte su contribución, debe certificar su origen y darnos su permiso. Para gestionar este proceso utilizamos el Certificado de origen de desarrollador (DCO) V1.1 (https://developercertificate.org/)

Para indicar que acepta los términos del DCO, "cierra sesión" en su contribución agregando una línea con su nombre y dirección de correo electrónico a cada mensaje de confirmación de git:

Signed-off-by: John Doe <[email protected]>

Debes utilizar tu nombre real, no se aceptan seudónimos ni contribuciones anónimas.

Lista de correo pública

Para discusiones técnicas, el proyecto ComputeLibrary tiene una lista de correo pública: [email protected] La lista está abierta a cualquier persona dentro o fuera de Arm para suscribirse. Para suscribirse, visite el siguiente sitio web: https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

Licencia y Contribuciones

El software se proporciona bajo licencia MIT. Se aceptan contribuciones a este proyecto bajo la misma licencia.

Otros proyectos

Este proyecto contiene código de otros proyectos que se enumeran a continuación. El texto de la licencia original se incluye en esos archivos fuente.

• La biblioteca de encabezados OpenCL tiene la licencia Apache, versión 2.0, que es una licencia permisiva compatible con la licencia MIT.

• La media biblioteca tiene licencia del MIT.

• La biblioteca libnpy tiene una licencia MIT.

• La biblioteca de imágenes stb tiene licencia MIT o es de dominio público. Este proyecto lo utiliza bajo los términos de la licencia MIT.

Marcas comerciales y derechos de autor

Android es una marca comercial de Google LLC.

Arm, Cortex, Mali y Neon son marcas comerciales registradas o marcas comerciales de Arm Limited (o sus subsidiarias) en los EE. UU. y/o en otros lugares.

Bazel es una marca comercial de Google LLC., registrada en EE. UU. y otros países.

CMake es una marca comercial de Kitware, Inc., registrada en EE. UU. y otros países.

Linux® es la marca registrada de Linus Torvalds en EE. UU. y otros países.

Mac y macOS son marcas comerciales de Apple Inc., registradas en EE. UU. y otros países.

Tizen es una marca registrada de The Linux Foundation.

Windows® es una marca comercial del grupo de empresas Microsoft.