tensil

Тенсил

Схема работы с инструментами Tensil

Учебники

Подробные пошаговые инструкции можно найти в наших руководствах.

• Узнайте, как объединить Tensil и TF-Lite для запуска YOLO на Ultra96.
• Изучите Tensil с помощью ResNet и PYNQ Z1
• Изучите Tensil с помощью ResNet и Ultra96
• Узнайте, как создать робота с голосовым управлением с помощью Tensil и Arty A7. Часть I.
• Узнайте, как создать робота с голосовым управлением с помощью Tensil и Arty A7. Часть II.
• Получение Tensil для запуска ResNet со скоростью 300 кадров в секунду на ZCU104

Документация

Справочную документацию смотрите на нашем сайте.

Настраивать

1. Извлеките и запустите док-контейнер Tensil (см. ниже);
2. Загрузите и установите Xilinx Vitis или Vivado;
3. Загрузите и установите Xilinx PYNQ для вашей платформы разработки FPGA;
4. Скопируйте drivers/tcu_pynq в /home/xilinx/tcu_pynq на вашей платформе разработки FPGA.

Извлеките и запустите докер-контейнер

 docker pull tensilai/tensil
docker run -u $(id -u ${USER}):$(id -g ${USER}) -v $(pwd):/work -w /work -it tensilai/tensil bash

Скомпилировать модель AI/ML

Скомпилируйте модель AI/ML (ResNet20 v2 CIFAR) для конкретной архитектуры TCU и платформы разработки FPGA, PYNQ Z1 в этом примере.

От ONNX

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.onnx -o "Identity:0" -s true

Из замороженного графика TensorFlow

 tensil compile -a /demo/arch/pynqz1.tarch -m /demo/models/resnet20v2_cifar.pb -o "Identity" -s true

Другие платформы машинного обучения поддерживаются путем преобразования в ONNX.

• TensorFlow и Tflite
• Пайторч
• Другой

Запустите эмулятор Tensil с побитовой точностью

 tensil emulate -m resnet20v2_cifar_onnx_pynqz1.tmodel -i /demo/models/data/resnet_input_1x32x32x8.csv

Сделать Verilog RTL

Создайте Verilog RTL для конкретной архитектуры TCU и платформы разработки FPGA, в этом примере PYNQ Z1.

 tensil rtl -a /demo/arch/pynqz1.tarch -s true

Создать дизайн Вивадо

Создайте дизайн Vivado для конкретной платформы разработки FPGA. Мы включили подробные инструкции в наше руководство по PYNQ Z1. Если вы застряли, мы можем помочь! Пожалуйста, свяжитесь с нами по адресу [email protected] или в Discord.

Запустите модель AI/ML на FPGA

Используйте блокноты PYNQ и Jupyter для запуска модели AI/ML на FPGA. (Смотрите в notebooks .)

Для сопровождающих

Дополнительные шаги по настройке

1. Загрузите и установите OpenJDK 11 из Azul;
2. Загрузите и установите Верилатор;
3. Скачать тестовые модели:

 wget https://github.com/tensil-ai/tensil-models/archive/main.tar.gz
tar xf main.tar.gz
mv tensil-models-main models
rm main.tar.gz

Запустите инструмент RTL из исходного кода

 ./mill rtl.run -a ./arch/pynqz1.tarch -s true

Запустить компилятор из исходного кода

 ./mill compiler.run -a ./arch/pynqz1.tarch -m ./models/resnet20v2_cifar.onnx -o "Identity:0" -s true

Запустите эмулятор из исходного кода

 ./mill emulator.run -m resnet20v2_cifar_onnx_pynqz1.tmodel -i ./models/data/resnet_input_1x32x32x8.csv

Запустить полный набор тестов

 ./mill __.test -l org.scalatest.tags.Slow

Чтобы запустить один тест RTL, например, в модуле «Аккумулятор», а также вывести файл VCD, выполните:

 ./mill rtl.test.testOnly tensil.tcu.AccumulatorSpec -- -DwriteVcd=true -z "should accumulate values"

Просмотр VCD-файлов

Чтобы просмотреть последний созданный файл VCD:

 ./scripts/gtkwave/display-latest-vcd.py

Чтобы просмотреть конкретный файл VCD:

 ./scripts/gtkwave/display-vcd.sh <vcd_file>

Создайте и отправьте образ AWS ECS для веб-компилятора (Tensil Explorer).

 docker build -f docker/web/Dockerfile -t tensil-web-compiler .
aws ecr get-login-password | docker login --username AWS --password-stdin <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com
docker tag tensil-web-compiler <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler
docker push <ACCOUNT ID>.dkr.ecr.<REGION>.amazonaws.com/tf2rtl-web-compiler

Получить помощь

• Поздоровайтесь и задайте вопрос в нашем Discord
• Напишите нам по адресу [email protected].