Téléchargement d'exemples de code AMX TMUL - Exemples de code AMX TMUL Téléchargement du code source

Exemples de codes AMX TMUL

Autre code source

Télécharger

ARRÊT DU PROJET

Ce projet ne sera plus maintenu par Intel.
Intel a cessé le développement et les contributions, y compris, mais sans s'y limiter, la maintenance, les corrections de bogues, les nouvelles versions ou les mises à jour de ce projet.
Intel n'accepte plus les correctifs pour ce projet.
Si vous avez un besoin continu d'utiliser ce projet, si vous êtes intéressé à le développer de manière indépendante ou si vous souhaitez maintenir des correctifs pour la communauté des logiciels open source, veuillez créer votre propre fork de ce projet.

AMX-TMUL-Code-Samples-Intel

Échantillon de code montrant la fonctionnalité Intel® Advanced Matrix Extensions (Intel® AMX) sur les processeurs Intel® Xeon® Scalable Max Series et les processeurs Intel® Xeon® Scalable de 4e génération.

Intel® AMX introduit désormais de nouvelles extensions à l'architecture de jeu d'instructions (ISA) x86 pour fonctionner sur les matrices et qui peuvent accélérer la multiplication matricielle dans les charges de travail d'IA. Il se compose de deux éléments :

Un ensemble de registres bidimensionnels (tuiles), qui peuvent contenir en mémoire des sous-matrices de matrices plus grandes.
Un accélérateur appelé Tile Matrix Multiply (TMUL) qui contient des instructions qui opèrent sur les tuiles.

Cet exemple de code illustre le test des nouvelles instructions à l'aide de fonctions intrinsèques.

Une présentation du code pour cet exemple est disponible à l'adresse : https://www.intel.com/content/www/us/en/developer/articles/code-sample/advanced-matrix-extensions-intrinsics-functions.html

But

L'échantillon de code multipliera les matrices A et B de taille 16 x 64 contenant des valeurs INT8 et accumulera le résultat dans une matrice C 16 x 16 contenant des valeurs INT32.

Cet exemple de code est simplifié pour mettre en évidence l'utilisation des nouvelles instructions Intel(R) AMX. Il montre l'utilisation d'instructions pour configurer les tuiles, charger les données de la mémoire dans les tuiles, effectuer une multiplication matricielle sur les données des tuiles et copier le résultat des tuiles vers la mémoire. Il ne doit pas être utilisé comme base pour le code de production. Uniquement à des fins de démonstration.