ComputeLibrary

Annonce de l'avis de dépréciation 24.01 : les optimisations spécifiques au format de données NCHW seront progressivement supprimées de la base de code dans les versions futures. L'implication de ceci est que l'utilisateur doit traduire les modèles NCHW en NHWC afin de bénéficier des optimisations.

Bibliothèque de calcul

La bibliothèque de calcul est un ensemble de fonctions d'apprentissage automatique de bas niveau optimisées pour les architectures GPU Arm® Cortex®-A, Arm® Neoverse® et Arm® Mali™.

La bibliothèque offre des performances supérieures à d'autres alternatives open source et une prise en charge immédiate des nouvelles technologies Arm®, par exemple SVE2.

Principales caractéristiques :

• Logiciel open source disponible sous licence permissive MIT
• Plus de 100 fonctions d'apprentissage automatique pour CPU et GPU
• Algorithmes de convolution multiples (GeMM, Winograd, FFT, Direct et indirect-GeMM)
• Prise en charge de plusieurs types de données : FP32, FP16, INT8, UINT8, BFLOAT16
• Optimisation de la micro-architecture pour les primitives clés de ML
• Options de construction hautement configurables permettant des binaires légers
• Techniques d'optimisation avancées telles que la fusion du noyau, l'activation mathématique rapide et l'utilisation des textures
• Réglage spécifique à l'appareil et à la charge de travail à l'aide du tuner OpenCL et de l'heuristique optimisée GeMM

Dépôt	Lien
Libérer	https://github.com/arm-software/ComputeLibrary
Développement	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

Documentation

Remarque : La documentation comprend l'API de référence, les journaux des modifications, le guide de construction, le guide de contribution, les errata, etc.

Binaires pré-construits

Tous les binaires peuvent être téléchargés à partir d'ici ou à partir des tableaux ci-dessous.

Plate-forme	Système opérateur	Archive des versions (Télécharger)
Framboise Pi 4	Linux® 32 bits
Framboise Pi 4	Linux® 64 bits
Odroïde N2	Linux® 64 bits
HiKey960	Linux® 64 bits

Architecture	Système opérateur	Archive des versions (Télécharger)
armv7	Linux®
arm64-v8a	Android™
arm64-v8a	Linux®

Veuillez vous référer au lien suivant pour plus de binaires prédéfinis :

Les binaires de pré-construction sont générés avec les indicateurs suivants liés à la sécurité/aux bonnes pratiques de codage :

-Wall, -Wextra, -Wformat=2, -Winit-self, -Wstrict-overflow=2, -Wswitch-default, -Woverloaded-virtual, -Wformat-security, -Wctor-dtor-privacy, -Wsign-promo, -Weffc++, -pedantic, -fstack-protector-strong

Architectures/technologies prises en charge

• Processeurs Arm® :

  • Arm® Cortex®-Une famille de processeurs utilisant la technologie Arm® Neon™
  • Famille de processeurs Arm® Neoverse®
  • Famille de processeurs Arm® Cortex®-R avec architecture Armv8-R AArch64 utilisant la technologie Arm® Neon™
  • Processeur Arm® Cortex®-X1 utilisant la technologie Arm® Neon™

• GPU Arm® Mali™ :

  • Famille de processeurs Arm® Mali™-G
  • Famille de processeurs Arm® Mali™-T

• x86

Systèmes pris en charge

• Android™
• Métal nu
• Linux®
• OpenBSD®
• macOS®
• Tizen™

Ressources

• Tutoriel : Exécuter AlexNet sur Raspberry Pi avec Compute Library
• Conférence de Gian Marco sur l'analyse des performances pour l'optimisation des logiciels d'inférence de Deep Learning embarqués
• Conférence de Gian Marco sur l'optimisation des CNN avec les algorithmes Winograd à l'EVS
• Présentation de Gian Marco sur l'utilisation de SGEMM et des FFT pour accélérer le Deep Learning

Constructions expérimentales

Important Les versions Bazel et CMake sont des versions expérimentales du processeur uniquement, veuillez consulter la documentation pour plus de détails.

Comment contribuer

Les contributions à la bibliothèque de calcul sont plus que bienvenues. Si vous souhaitez contribuer, veuillez consulter nos directives sur la manière de contribuer.

Certificat d'origine du développeur (DCO)

Avant que Compute Library n'accepte votre contribution, vous devez certifier son origine et nous donner votre autorisation. Pour gérer ce processus, nous utilisons le Developer Certificate of Origin (DCO) V1.1 (https://developercertificate.org/)

Pour indiquer que vous acceptez les termes du DCO, vous « signez » votre contribution en ajoutant une ligne avec votre nom et votre adresse e-mail à chaque message git commit :

Signed-off-by: John Doe <[email protected]>

Vous devez utiliser votre vrai nom, aucun pseudonyme ni contribution anonyme n'est accepté.

Liste de diffusion publique

Pour les discussions techniques, le projet ComputeLibrary dispose d'une liste de diffusion publique : [email protected]. La liste est ouverte à toute personne à l'intérieur ou à l'extérieur d'Arm pour s'auto-abonner. Pour vous abonner, veuillez visiter le site Web suivant : https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

Licence et cotisations

Le logiciel est fourni sous licence MIT. Les contributions à ce projet sont acceptées sous la même licence.

Autres projets

Ce projet contient du code provenant d'autres projets répertoriés ci-dessous. Le texte de licence original est inclus dans ces fichiers sources.

• La bibliothèque d'en-tête OpenCL est sous licence Apache, version 2.0, qui est une licence permissive compatible avec la licence MIT.

• La demi-bibliothèque est sous licence MIT.

• La bibliothèque libnpy est sous licence MIT.

• La bibliothèque d'images stb est soit sous licence MIT, soit dans le domaine public. Il est utilisé par ce projet sous les termes de la licence MIT.

Marques déposées et droits d'auteur

Android est une marque commerciale de Google LLC.

Arm, Cortex, Mali et Neon sont des marques déposées ou des marques commerciales d'Arm Limited (ou de ses filiales) aux États-Unis et/ou ailleurs.

Bazel est une marque commerciale de Google LLC., déposée aux États-Unis et dans d'autres pays.

CMake est une marque commerciale de Kitware, Inc., déposée aux États-Unis et dans d'autres pays.

Linux® est la marque déposée de Linus Torvalds aux États-Unis et dans d'autres pays.

Mac et macOS sont des marques commerciales d'Apple Inc., déposées aux États-Unis et dans d'autres pays.

Tizen est une marque déposée de The Linux Foundation.

Windows® est une marque commerciale du groupe de sociétés Microsoft.