ComputeLibrary

Pengumuman Penghentian Penghentian 24.01: Pengoptimalan khusus format data NCHW akan dihapus secara bertahap dari basis kode pada rilis mendatang. Implikasinya adalah pengguna diharapkan menerjemahkan model NCHW ke NHWC untuk mendapatkan manfaat dari optimasi.

Perpustakaan Komputasi

Compute Library adalah kumpulan fungsi pembelajaran mesin tingkat rendah yang dioptimalkan untuk arsitektur GPU Arm® Cortex®-A, Arm® Neoverse®, dan Arm® Mali™.

Perpustakaan ini memberikan kinerja yang unggul dibandingkan alternatif sumber terbuka lainnya dan dukungan langsung untuk teknologi Arm® baru, misalnya SVE2.

Fitur Utama:

• Perangkat lunak sumber terbuka tersedia di bawah lisensi MIT yang permisif
• Lebih dari 100 fungsi pembelajaran mesin untuk CPU dan GPU
• Algoritma konvolusi berganda (GeMM, Winograd, FFT, Direct dan tidak langsung-GeMM)
• Dukungan untuk berbagai tipe data: FP32, FP16, INT8, UINT8, BFLOAT16
• Pengoptimalan arsitektur mikro untuk primitif utama ML
• Opsi build yang sangat dapat dikonfigurasi memungkinkan biner ringan
• Teknik pengoptimalan tingkat lanjut seperti fusi kernel, pengaktifan matematika cepat, dan pemanfaatan tekstur
• Penyetelan spesifik perangkat dan beban kerja menggunakan tuner OpenCL dan heuristik yang dioptimalkan GeMM

Gudang	Link
Melepaskan	https://github.com/arm-software/ComputeLibrary
Perkembangan	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

Dokumentasi

Catatan: Dokumentasi mencakup API referensi, log perubahan, panduan build, panduan kontribusi, kesalahan, dll.

Biner yang sudah dibuat sebelumnya

Semua binari dapat diunduh dari sini atau dari tabel di bawah.

Platform	Sistem Operasi	Arsip rilis (Unduh)
Raspberi Pi 4	Linux® 32bit
Raspberi Pi 4	Linux® 64bit
Odroid N2	Linux® 64bit
HaiKey960	Linux® 64bit

Arsitektur	Sistem Operasi	Arsip rilis (Unduh)
lenganv7	Linux®
lengan64-v8a	Android™
lengan64-v8a	Linux®

Silakan merujuk ke tautan berikut untuk biner yang sudah dibuat sebelumnya:

Biner pra-pembangunan dibuat dengan tanda terkait keamanan/praktik pengkodean yang baik berikut ini:

-Dinding, -Wextra, -Wformat=2, -Winit-self, -Wstrict-overflow=2, -Wswitch-default, -Woverloaded-virtual, -Wformat-security, -Wctor-dtor-privacy, -Wsign-promo, -Weffc++, -pedantic, -fstack-protector-kuat

Arsitektur/Teknologi yang Didukung

• CPU Arm®:

  • Rangkaian prosesor Arm® Cortex®-A menggunakan teknologi Arm® Neon™
  • Rangkaian prosesor Arm® Neoverse®
  • Rangkaian prosesor Arm® Cortex®-R dengan arsitektur Armv8-R AArch64 menggunakan teknologi Arm® Neon™
  • Prosesor Arm® Cortex®-X1 menggunakan teknologi Arm® Neon™

• GPU Arm® Mali™:

  • Rangkaian prosesor Arm® Mali™-G
  • Rangkaian prosesor Arm® Mali™-T

• x86

Sistem yang Didukung

• Android™
• Logam Telanjang
• Linux®
• OpenBSD®
• macOS®
• Tizen™

Sumber daya

• Tutorial: Menjalankan AlexNet di Raspberry Pi dengan Compute Library
• Pembicaraan Gian Marco tentang Analisis Kinerja untuk Mengoptimalkan Perangkat Lunak Inferensi Pembelajaran Mendalam yang Tertanam
• Pembicaraan Gian Marco tentang mengoptimalkan CNN dengan algoritma Winograd di EVS
• Pembicaraan Gian Marco tentang penggunaan SGEMM dan FFT untuk Mempercepat Pembelajaran Mendalam

Pembuatan eksperimental

Build Bazel dan CMake yang penting hanyalah build eksperimental CPU, silakan lihat dokumentasi untuk detail selengkapnya.

Bagaimana cara berkontribusi

Kontribusi pada Compute Library sangat kami harapkan. Jika Anda tertarik untuk berkontribusi, silakan lihat panduan cara berkontribusi kami.

Surat Keterangan Asal Pengembang (DCO)

Sebelum Perpustakaan Komputasi menerima kontribusi Anda, Anda perlu menyatakan asal usulnya dan memberi kami izin. Untuk mengelola proses ini kami menggunakan Developer Certificate of Origin (DCO) V1.1 (https://developercertificate.org/)

Untuk menunjukkan bahwa Anda menyetujui ketentuan DCO, Anda "menandatangani" kontribusi Anda dengan menambahkan baris nama dan alamat email Anda ke setiap pesan git commit:

Signed-off-by: John Doe <[email protected]>

Anda harus menggunakan nama asli Anda, tidak ada nama samaran atau kontribusi anonim yang diterima.

Milis publik

Untuk diskusi teknis, proyek ComputeLibrary memiliki milis publik: [email protected] Daftar ini terbuka bagi siapa pun di dalam atau di luar Arm untuk berlangganan sendiri. Untuk berlangganan, silakan kunjungi situs web berikut: https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

Lisensi dan Kontribusi

Perangkat lunak ini disediakan di bawah lisensi MIT. Kontribusi untuk proyek ini diterima di bawah lisensi yang sama.

Proyek Lainnya

Proyek ini berisi kode dari proyek lain seperti yang tercantum di bawah. Teks lisensi asli disertakan dalam file sumber tersebut.

• Pustaka header OpenCL dilisensikan di bawah Lisensi Apache, Versi 2.0, yang merupakan lisensi permisif yang kompatibel dengan lisensi MIT.

• Setengah perpustakaan dilisensikan di bawah lisensi MIT.

• Perpustakaan libnpy dilisensikan di bawah lisensi MIT.

• Pustaka gambar stb dilisensikan di bawah lisensi MIT atau berada dalam Domain Publik. Ini digunakan oleh proyek ini berdasarkan ketentuan lisensi MIT.

Merek Dagang dan Hak Cipta

Android adalah merek dagang dari Google LLC.

Arm, Cortex, Mali dan Neon adalah merek dagang terdaftar atau merek dagang Arm Limited (atau anak perusahaannya) di AS dan/atau di tempat lain.

Bazel adalah merek dagang Google LLC., terdaftar di AS dan negara lain.

CMake adalah merek dagang Kitware, Inc., yang terdaftar di AS dan negara lain.

Linux® adalah merek dagang terdaftar Linus Torvalds di AS dan negara lain.

Mac dan macOS adalah merek dagang Apple Inc., yang terdaftar di AS dan negara lainnya.

Tizen adalah merek dagang terdaftar dari The Linux Foundation.

Windows® adalah merek dagang dari grup perusahaan Microsoft.