tensil

Tensil

Flux de la chaîne d'outils de traction

Tutoriels

Pour des instructions détaillées de bout en bout, consultez nos didacticiels.

• Apprenez à combiner Tensil et TF-Lite pour exécuter YOLO sur Ultra96
• Apprenez Tensil avec ResNet et PYNQ Z1
• Apprenez Tensil avec ResNet et Ultra96
• Apprenez à construire un robot à commande vocale avec Tensil et Arty A7 - Partie I
• Apprenez à construire un robot à commande vocale avec Tensil et Arty A7 - Partie II
• Faire en sorte que Tensil exécute ResNet à 300 FPS sur ZCU104

Documentation

Pour la documentation de référence, consultez notre site Web.

Installation

1. Tirez et exécutez le conteneur Docker Tensil (voir ci-dessous);
2. Téléchargez et installez Xilinx Vitis ou Vivado ;
3. Téléchargez et installez Xilinx PYNQ pour votre plateforme de développement FPGA ;
4. Copiez Tensil PYNQ driver drivers/tcu_pynq dans /home/xilinx/tcu_pynq sur votre plateforme de développement FPGA.

Tirer et exécuter le conteneur Docker

 docker pull tensilai/tensil
docker run -u $(id -u ${USER}):$(id -g ${USER}) -v $(pwd):/work -w /work -it tensilai/tensil bash

Compiler le modèle AI/ML

Compilez le modèle AI/ML (ResNet20 v2 CIFAR) pour une architecture TCU spécifique et une plate-forme de développement FPGA, PYNQ Z1 dans cet exemple.

De ONNX

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.onnx -o "Identity:0" -s true

À partir d'un graphique TensorFlow gelé

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.pb -o "Identity" -s true

D'autres frameworks ML sont pris en charge par la conversion vers ONNX

• TensorFlow et Tflite
• Pytorche
• Autre

Exécuter un émulateur Tensil précis au bit

 tensil emulate -m resnet20v2_cifar_onnx_pynqz1.tmodel -i /demo/models/data/resnet_input_1x32x32x8.csv

Créer Verilog RTL

Créez Verilog RTL pour une architecture TCU spécifique et une plate-forme de développement FPGA, PYNQ Z1 dans cet exemple.

 tensil rtl -a /demo/arch/pynqz1.tarch -s true

Créer un design Vivado

Créez un design Vivado pour une plate-forme de développement FPGA spécifique. Nous incluons des étapes détaillées dans notre didacticiel PYNQ Z1. Si vous êtes bloqué, nous pouvons vous aider ! Veuillez nous contacter à [email protected] ou sur Discord.

Exécuter le modèle AI/ML sur FPGA

Utilisez les notebooks PYNQ et Jupyter pour exécuter le modèle AI/ML sur FPGA. (Voir dans notebooks .)

Pour les mainteneurs

Étapes de configuration supplémentaires

1. Téléchargez et installez OpenJDK 11 depuis Azul ;
2. Téléchargez et installez Verilator ;
3. Téléchargez les modèles de test :

 wget https://github.com/tensil-ai/tensil-models/archive/main.tar.gz
tar xf main.tar.gz
mv tensil-models-main models
rm main.tar.gz

Exécuter l'outil RTL à partir du code source

 ./mill rtl.run -a ./arch/pynqz1.tarch -s true

Exécuter le compilateur à partir du code source

 ./mill compiler.run -a ./arch/pynqz1.tarch -m ./models/resnet20v2_cifar.onnx -o "Identity:0" -s true

Exécuter l'émulateur à partir du code source

 ./mill emulator.run -m resnet20v2_cifar_onnx_pynqz1.tmodel -i ./models/data/resnet_input_1x32x32x8.csv

Exécuter la suite de tests complète

 ./mill __.test -l org.scalatest.tags.Slow

Pour exécuter un seul test RTL dans, par exemple, le module Accumulator, et également générer un fichier VCD, procédez :

 ./mill rtl.test.testOnly tensil.tcu.AccumulatorSpec -- -DwriteVcd=true -z "should accumulate values"

Afficher les fichiers VCD

Pour afficher le dernier fichier VCD généré :

 ./scripts/gtkwave/display-latest-vcd.py

Pour afficher un fichier VCD spécifique :

 ./scripts/gtkwave/display-vcd.sh <vcd_file>

Créer et diffuser une image AWS ECS pour le compilateur Web (Tensil Explorer)

 docker build -f docker/web/Dockerfile -t tensil-web-compiler .
aws ecr get-login-password | docker login --username AWS --password-stdin <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com
docker tag tensil-web-compiler <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler
docker push <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler

Obtenir de l'aide

• Dites bonjour et posez une question sur notre Discord
• Envoyez-nous un e-mail à [email protected]