AMX TMUL Code Samples

EINSTELLUNG DES PROJEKTS

Dieses Projekt wird von Intel nicht mehr gepflegt.
Intel hat die Entwicklung und Beiträge zu diesem Projekt eingestellt, einschließlich, aber nicht beschränkt auf Wartung, Fehlerbehebungen, neue Versionen oder Updates.
Intel akzeptiert keine Patches mehr für dieses Projekt.
Wenn Sie dieses Projekt dauerhaft nutzen müssen, daran interessiert sind, es unabhängig weiterzuentwickeln, oder Patches für die Open-Source-Software-Community pflegen möchten, erstellen Sie bitte Ihren eigenen Zweig dieses Projekts.

AMX-TMUL-Code-Beispiele-Intel

Codebeispiel, das die Funktionalität von Intel® Advanced Matrix Extensions (Intel® AMX) auf skalierbaren Intel® Xeon® Prozessoren der Max-Serie und skalierbaren Intel® Xeon® Prozessoren der 4. Generation zeigt.

Intel® AMX führt jetzt neue Erweiterungen der x86 Instruction Set Architecture (ISA) ein, um mit Matrizen zu arbeiten und die Matrixmultiplikation in KI-Workloads zu beschleunigen. Es besteht aus zwei Komponenten:

1. Ein Satz zweidimensionaler Register (Kacheln), die Untermatrizen größerer Matrizen im Speicher halten können.
2. Ein Beschleuniger namens Tile Matrix Multiply (TMUL), der Anweisungen enthält, die mit Kacheln arbeiten.

Dieses Codebeispiel veranschaulicht das Testen der neuen Anweisungen mithilfe intrinsischer Funktionen.

Eine Code-Anleitung für dieses Beispiel finden Sie unter: https://www.intel.com/content/www/us/en/developer/articles/code-sample/advanced-matrix-extensions-intrinsics-functions.html

Zweck

Das Codebeispiel multipliziert die Matrizen A und B der Größe 16 x 64 mit INT8-Werten und akkumuliert das Ergebnis zu einer 16 x 16-Matrix C mit INT32-Werten.

Dieses Codebeispiel wurde vereinfacht, um die Verwendung neuer Intel(R) AMX-Anweisungen hervorzuheben. Es zeigt die Verwendung von Anweisungen zum Konfigurieren der Kacheln, zum Laden von Daten aus dem Speicher in Kacheln, zum Durchführen einer Matrixmultiplikation an Kacheldaten und zum Kopieren des Ergebnisses von Kacheln in den Speicher. Es sollte nicht als Grundlage für Produktionscode verwendet werden. Nur zu Demonstrationszwecken.

Lizenz

Dieses Codebeispiel ist unter der MIT-Lizenz lizenziert.

Erstellen der ausführbaren test-amxtile Datei

Auf einem Linux*-System

Führen Sie die folgenden Schritte aus:

1. Erstellen Sie das Programm.

    cd src/ 
    make 
   

2. Führen Sie das Programm aus

    ./test-amxtile  
   

3. Bereinigen Sie das Programm

    make clean