tensil

Zug

Ablauf der Tensil-Toolchain

Tutorials

Ausführliche End-to-End-Anleitungen finden Sie in unseren Tutorials.

• Erfahren Sie, wie Sie Tensil und TF-Lite kombinieren, um YOLO auf Ultra96 auszuführen
• Lernen Sie Tensil mit ResNet und PYNQ Z1
• Lernen Sie Tensil mit ResNet und Ultra96
• Erfahren Sie, wie Sie mit Tensil und Arty A7 einen sprachgesteuerten Roboter bauen – Teil I
• Erfahren Sie, wie Sie mit Tensil und Arty A7 einen sprachgesteuerten Roboter bauen – Teil II
• Tensil dazu bringen, ResNet mit 300 FPS auf ZCU104 auszuführen

Dokumentation

Referenzdokumente finden Sie auf unserer Website.

Aufstellen

1. Tensil Docker-Container ziehen und laufen lassen (siehe unten);
2. Laden Sie Xilinx Vitis oder Vivado herunter und installieren Sie es;
3. Laden Sie Xilinx PYNQ für Ihre FPGA-Entwicklungsplattform herunter und installieren Sie es.
4. Kopieren Sie den Tensil PYNQ-Treiber drivers/tcu_pynq nach /home/xilinx/tcu_pynq auf Ihrer FPGA-Entwicklungsplattform.

Docker-Container ziehen und ausführen

 docker pull tensilai/tensil
docker run -u $(id -u ${USER}):$(id -g ${USER}) -v $(pwd):/work -w /work -it tensilai/tensil bash

Kompilieren Sie ein AI/ML-Modell

Kompilieren Sie ein AI/ML-Modell (ResNet20 v2 CIFAR) für eine bestimmte TCU-Architektur und FPGA-Entwicklungsplattform, in diesem Beispiel PYNQ Z1.

Von ONNX

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.onnx -o "Identity:0" -s true

Aus eingefrorenem TensorFlow-Diagramm

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.pb -o "Identity" -s true

Andere ML-Frameworks werden durch die Konvertierung in ONNX unterstützt

• TensorFlow und Tflite
• Pytorch
• Andere

Führen Sie den bitgenauen Tensil-Emulator aus

 tensil emulate -m resnet20v2_cifar_onnx_pynqz1.tmodel -i /demo/models/data/resnet_input_1x32x32x8.csv

Machen Sie Verilog RTL

Erstellen Sie Verilog RTL für eine bestimmte TCU-Architektur und FPGA-Entwicklungsplattform, in diesem Beispiel PYNQ Z1.

 tensil rtl -a /demo/arch/pynqz1.tarch -s true

Erstellen Sie ein Vivado-Design

Erstellen Sie ein Vivado-Design für eine bestimmte FPGA-Entwicklungsplattform. Detaillierte Schritte finden Sie in unserem PYNQ Z1-Tutorial. Wenn Sie nicht weiterkommen, können wir helfen! Bitte kontaktieren Sie uns unter [email protected] oder in Discord.

Führen Sie das AI/ML-Modell auf dem FPGA aus

Verwenden Sie PYNQ- und Jupyter-Notebooks, um das AI/ML-Modell auf FPGA auszuführen. (Siehe in notebooks .)

Für Betreuer

Zusätzliche Einrichtungsschritte

1. Laden Sie OpenJDK 11 von Azul herunter und installieren Sie es.
2. Laden Sie Verilator herunter und installieren Sie es;
3. Testmodelle herunterladen:

 wget https://github.com/tensil-ai/tensil-models/archive/main.tar.gz
tar xf main.tar.gz
mv tensil-models-main models
rm main.tar.gz

Führen Sie das RTL-Tool aus dem Quellcode aus

 ./mill rtl.run -a ./arch/pynqz1.tarch -s true

Führen Sie den Compiler aus dem Quellcode aus

 ./mill compiler.run -a ./arch/pynqz1.tarch -m ./models/resnet20v2_cifar.onnx -o "Identity:0" -s true

Führen Sie den Emulator aus dem Quellcode aus

 ./mill emulator.run -m resnet20v2_cifar_onnx_pynqz1.tmodel -i ./models/data/resnet_input_1x32x32x8.csv

Führen Sie die vollständige Testsuite aus

 ./mill __.test -l org.scalatest.tags.Slow

Um einen einzelnen RTL-Test beispielsweise im Accumulator-Modul auszuführen und auch eine VCD-Datei auszugeben, gehen Sie wie folgt vor:

 ./mill rtl.test.testOnly tensil.tcu.AccumulatorSpec -- -DwriteVcd=true -z "should accumulate values"

VCD-Dateien anzeigen

So zeigen Sie die zuletzt generierte VCD-Datei an:

 ./scripts/gtkwave/display-latest-vcd.py

So zeigen Sie eine bestimmte VCD-Datei an:

 ./scripts/gtkwave/display-vcd.sh <vcd_file>

Erstellen und pushen Sie das AWS ECS-Image für den Web-Compiler (Tensil Explorer)

 docker build -f docker/web/Dockerfile -t tensil-web-compiler .
aws ecr get-login-password | docker login --username AWS --password-stdin <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com
docker tag tensil-web-compiler <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler
docker push <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler

Holen Sie sich Hilfe

• Sag Hallo und stelle eine Frage auf unserem Discord
• Senden Sie uns eine E-Mail an [email protected]