tensil

張力

Tensil ツールチェーンのフロー

チュートリアル

エンドツーエンドの詳細な手順については、チュートリアルを確認してください。

• Tensil と TF-Lite を組み合わせて Ultra96 で YOLO を実行する方法を学びます。
• ResNet と PYNQ Z1 で Tensil を学ぶ
• ResNet と Ultra96 で Tensil を学ぶ
• Tensil と Arty A7 を使用して音声制御ロボットを構築する方法を学ぶ - パート I
• Tensil と Arty A7 を使用して音声制御ロボットを構築する方法を学ぶ - パート II
• Tensil を取得して ZCU104 で ResNet を 300 FPS で実行する

ドキュメント

参考資料については、当社の Web サイトをご覧ください。

設定

1. Tensil Docker コンテナーをプルして実行します (以下を参照)。
2. Xilinx Vitis または Vivado をダウンロードしてインストールします。
3. FPGA 開発プラットフォーム用にザイリンクス PYNQ をダウンロードしてインストールします。
4. Tensil PYNQ ドライバーdrivers/tcu_pynq FPGA 開発プラットフォームの/home/xilinx/tcu_pynqにコピーします。

Docker コンテナをプルして実行する

 docker pull tensilai/tensil
docker run -u $(id -u ${USER}):$(id -g ${USER}) -v $(pwd):/work -w /work -it tensilai/tensil bash

AI/ML モデルのコンパイル

特定の TCU アーキテクチャおよび FPGA 開発プラットフォーム (この例では PYNQ Z1) 用に AI/ML モデル (ResNet20 v2 CIFAR) をコンパイルします。

ONNXから

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.onnx -o "Identity:0" -s true

凍結された TensorFlow グラフから

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.pb -o "Identity" -s true

他の ML フレームワークは ONNX に変換することでサポートされます

• TensorFlow と Tflite
• ピトーチ
• 他の

ビット精度の Tensil エミュレータを実行する

 tensil emulate -m resnet20v2_cifar_onnx_pynqz1.tmodel -i /demo/models/data/resnet_input_1x32x32x8.csv

Verilog RTL を作成する

特定の TCU アーキテクチャおよび FPGA 開発プラットフォーム (この例では PYNQ Z1) 用の Verilog RTL を作成します。

 tensil rtl -a /demo/arch/pynqz1.tarch -s true

Vivado デザインの作成

特定の FPGA 開発プラットフォーム用の Vivado デザインを作成します。詳細な手順は PYNQ Z1 チュートリアルに記載されています。行き詰まったら、私たちがお手伝いします！ [email protected] または Discord までご連絡ください。

FPGA上でAI/MLモデルを実行

PYNQ および Jupyter ノートブックを使用して、FPGA 上で AI/ML モデルを実行します。 ( notebooksで参照してください。)

メンテナ向け

追加のセットアップ手順

1. Azul から OpenJDK 11 をダウンロードしてインストールします。
2. Verilator をダウンロードしてインストールします。
3. テスト モデルをダウンロードします。

 wget https://github.com/tensil-ai/tensil-models/archive/main.tar.gz
tar xf main.tar.gz
mv tensil-models-main models
rm main.tar.gz

ソースコードからRTLツールを実行する

 ./mill rtl.run -a ./arch/pynqz1.tarch -s true

ソースコードからコンパイラを実行する

 ./mill compiler.run -a ./arch/pynqz1.tarch -m ./models/resnet20v2_cifar.onnx -o "Identity:0" -s true

ソースコードからエミュレータを実行する

 ./mill emulator.run -m resnet20v2_cifar_onnx_pynqz1.tmodel -i ./models/data/resnet_input_1x32x32x8.csv

完全なテストスイートを実行する

 ./mill __.test -l org.scalatest.tags.Slow

たとえば、Accumulator モジュールで単一の RTL テストを実行し、VCD ファイルも出力するには、次の手順を実行します。

 ./mill rtl.test.testOnly tensil.tcu.AccumulatorSpec -- -DwriteVcd=true -z "should accumulate values"

VCD ファイルを表示する

生成された最新の VCD ファイルを表示するには:

 ./scripts/gtkwave/display-latest-vcd.py

特定の VCD ファイルを表示するには:

 ./scripts/gtkwave/display-vcd.sh <vcd_file>

Web コンパイラー (Tensil Explorer) 用の AWS ECS イメージをビルドしてプッシュする

 docker build -f docker/web/Dockerfile -t tensil-web-compiler .
aws ecr get-login-password | docker login --username AWS --password-stdin <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com
docker tag tensil-web-compiler <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler
docker push <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler

助けを求める

• Discord で挨拶して質問してください
• [email protected] までメールでお問い合わせください