[2024-September] Rilis 10.0 telah selesai. SDK, edgeai-tidl-tools, dan edgeai-tensorlab telah diperbarui.
Rincian lebih lanjut ada di Catatan Rilis.
Lihat juga catatan rilis SDK, catatan rilis edgeai-tidl-tools, dan catatan rilis edgeai-tensorlab
Halaman arahan dokumentasi kami adalah sebagai berikut:
https://www.ti.com/edgeai : Halaman teknologi yang merangkum produk perangkat lunak/perangkat keras AI terdepan dari TI
https://github.com/TexasInstruments/edgeai : Halaman arahan bagi pengembang untuk memahami keseluruhan penawaran perangkat lunak dan alat
Repositori kami telah direstrukturisasi : Silakan navigasikan ke tabel di bawah ini untuk memahami bagaimana beberapa repositori sekarang dikemas di dalam edgeai-tensorlab
Inferensi tersemat pada model Pembelajaran Mendalam cukup menantang - karena persyaratan komputasi yang tinggi. Produk perangkat lunak TI Edge AI yang komprehensif membantu mengoptimalkan dan mempercepat inferensi pada perangkat tertanam TI. Ini mendukung eksekusi DNN yang heterogen di seluruh MPU berbasis korteks-A, DSP C7x generasi terbaru TI, dan akselerator DNN (MMA).
Solusi Edge AI dari TI menyederhanakan seluruh siklus hidup produk pengembangan dan penerapan DNN dengan menyediakan seperangkat alat yang kaya dan perpustakaan yang dioptimalkan.
Gambar di bawah ini memberikan ringkasan tingkat tinggi dari alat yang relevan:
Tabel di bawah ini memberikan penjelasan rinci tentang masing-masing alat:
Kategori | Alat/Tautan | Tujuan | TIDAK |
---|---|---|---|
Alat Inferensi (dan kompilasi). | edgeai-tidl-alat | Untuk mengenal kompilasi model dan alur inferensi - Kuantisasi pasca pelatihan - Latensi patokan dengan model contoh yang unik (10+) - Kompilasi model pengguna/kustom untuk penerapan - Inferensi model yang dikompilasi pada X86_PC atau TI SOC menggunakan input dan output basis file - Docker untuk pengaturan lingkungan pengembangan yang mudah | - Tidak mendukung benchmarking akurasi model menggunakan TIDL dengan dataset standar, misalnya - benchmarking akurasi menggunakan dataset MS COCO untuk model deteksi objek. Silakan merujuk ke edgeai-benchmark untuk hal yang sama. - Tidak mendukung pengembangan pipa end-to-end berbasis Kamera, Tampilan, dan inferensi. Silakan lihat Edge AI SDK untuk penggunaan tersebut |
Alat Pemilihan Model | Edge AI Studio: Alat Pemilihan Model | Memahami statistik kinerja model seperti FPS, Latensi, Akurasi & bandwidth DDR. Temukan model yang paling memenuhi sasaran performa dan akurasi Anda pada Prosesor TI dari TI Model Zoo. | |
Lingkungan terintegrasi untuk pelatihan dan kompilasi | Edge AI Studio: Penganalisis Model | Lingkungan berbasis browser untuk memungkinkan evaluasi model dengan TI EVM farm - Izinkan evaluasi model tanpa dan pengaturan perangkat lunak/perangkat keras di sisi pengguna - Pengguna dapat memesan EVM dari TI EVM farm dan melakukan evaluasi model menggunakan notebook jupyter - Alat pemilihan model : Untuk menyediakan arsitektur model yang sesuai untuk perangkat TI | - Tidak mendukung pengembangan pipa end-to-end berbasis Kamera, Tampilan, dan inferensi. Silakan lihat Edge AI SDK untuk penggunaan tersebut |
dito | Edge AI Studio: Komposer Model | Lingkungan terintegrasi berbasis GUI untuk pengambilan kumpulan data, anotasi, pelatihan, kompilasi dengan konektivitas ke papan pengembangan TI - Bawa/Tangkap data Anda sendiri, beri anotasi, pilih model, lakukan pelatihan, dan hasilkan artefak untuk diterapkan di SDK - Pratinjau langsung untuk umpan balik cepat | - Tidak mendukung alur kerja Bawa Model Anda Sendiri |
Kit Pengembangan Perangkat Lunak Edge AI | Perangkat & SDK | SDK untuk mengembangkan pipeline AI end-to-end dengan kamera, inferensi, dan tampilan - Waktu proses inferensi berbeda: TFLiteRT, ONNXRT, NEO AI DLR, TIDL-RT - Kerangka: openVX, gstreamer - Driver perangkat: Kamera, layar, jaringan - OS: Linux, RTOS - Semoga modul perangkat lunak lainnya: codec, OpenCV,… |
Kategori | Alat/Tautan | Tujuan | TIDAK |
---|---|---|---|
Kebun Binatang Model, Pelatihan model, kompilasi/benchmark & alat terkait | edgeai-tensorlab | Untuk menyediakan perangkat lunak pelatihan model, kumpulan model yang telah dilatih sebelumnya dan dokumentasi serta skrip kompilasi/benchmark. Termasuk edgeai-modelzoo, edgeai-benchmark, edgeai-modeloptimization, edgeai-modelmaker, edgeai-torchvision, edgeai-mmdetection dan repositori semacam itu. |
Bawalah alur kerja model Anda sendiri (BYOM):
Latih alur kerja model Anda sendiri (TYOM):
Alur kerja Bawa data Anda sendiri (BYOD):
Dokumentasi teknis dapat ditemukan di dokumentasi masing-masing repositori. Di sini kami memiliki kumpulan laporan teknis & tutorial yang memberikan gambaran tingkat tinggi tentang berbagai topik.
Laporan Teknologi Edge AI di edgeai-tensorlab
Baca beberapa publikasi Teknis kami
Pelacak masalah untuk Edge AI Studio tercantum di halaman arahannya.
Pelacak isu untuk TIDL : Harap sertakan tag TIDL (saat Anda membuat terbitan baru, ada ruang untuk memasukkan tag, di bagian bawah halaman).
Pelacak masalah untuk edge AI SDK Harap sertakan tag EDGEAI (saat Anda membuat terbitan baru, ada ruang untuk memasukkan tag, di bagian bawah halaman).
Pelacak isu untuk ModelZoo, Model Benchmark & Perangkat Lunak Pelatihan Deep Neural Network: Harap sertakan tag MODELZOO (saat Anda membuat terbitan baru, ada ruang untuk memasukkan tag, di bagian bawah halaman).
Silakan lihat file LISENSI untuk informasi lebih lanjut tentang lisensi yang menjadi dasar penyediaan repositori arahan ini. File LICENSE dari setiap repositori ada di dalam repositori itu.