ComputeLibrary

Уведомление об устаревании версии 24.01: Оптимизация, специфичная для формата данных NCHW, будет постепенно удаляться из базы кода в будущих выпусках. Это означает, что пользователь должен преобразовать модели NCHW в NHWC, чтобы получить выгоду от оптимизации.

Вычислительная библиотека

Вычислительная библиотека — это набор функций низкоуровневого машинного обучения, оптимизированных для архитектур графических процессоров Arm® Cortex®-A, Arm® Neoverse® и Arm® Mali™.

Библиотека обеспечивает превосходную производительность по сравнению с другими альтернативами с открытым исходным кодом и немедленную поддержку новых технологий Arm®, например SVE2.

Ключевые особенности:

• Программное обеспечение с открытым исходным кодом, доступное по разрешительной лицензии MIT.
• Более 100 функций машинного обучения для процессора и графического процессора.
• Множественные алгоритмы свертки (GeMM, Винограда, БПФ, прямой и косвенный GeMM)
• Поддержка нескольких типов данных: FP32, FP16, INT8, UINT8, BFLOAT16.
• Оптимизация микроархитектуры для ключевых примитивов машинного обучения
• Широкие возможности настройки параметров сборки, позволяющие создавать легкие двоичные файлы.
• Передовые методы оптимизации, такие как объединение ядер, включение быстрой математики и использование текстур.
• Настройка с учетом особенностей устройства и рабочей нагрузки с использованием тюнера OpenCL и эвристики, оптимизированной для GeMM.

Репозиторий	Связь
Выпускать	https://github.com/arm-software/ComputeLibrary
Разработка	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

Документация

Примечание. Документация включает в себя справочный API, журналы изменений, руководство по сборке, руководство по участию, список ошибок и т. д.

Готовые двоичные файлы

Все двоичные файлы можно скачать здесь или из таблиц ниже.

Платформа	Операционная система	Архив релиза (Скачать)
Малиновый Пи 4	Линукс® 32 бит
Малиновый Пи 4	Линукс® 64бит
Одроид N2	Линукс® 64бит
HiKey960	Линукс® 64бит

Архитектура	Операционная система	Архив релиза (Скачать)
Armv7	Линукс®
рука64-v8a	Андроид™
рука64-v8a	Линукс®

Пожалуйста, обратитесь к следующей ссылке для получения дополнительных готовых двоичных файлов:

Предварительно созданные двоичные файлы генерируются со следующими флагами безопасности/надлежащей практики кодирования:

-Wall, -Wextra, -Wformat=2, -Winit-self, -Wstrict-overflow=2, -Wswitch-default, -Woverloaded-virtual, -Wformat-security, -Wctor-dtor-privacy, -Wsign-promo, -Weffc++, -pedantic, -fstack-protector-strong

Поддерживаемые архитектуры/технологии

• Процессоры Arm®:

  • Семейство процессоров Arm® Cortex®-A, использующее технологию Arm® Neon™
  • Семейство процессоров Arm® Neoverse®
  • Семейство процессоров Arm® Cortex®-R с архитектурой Armv8-R AArch64 и технологией Arm® Neon™
  • Процессор Arm® Cortex®-X1 с использованием технологии Arm® Neon™

• Графические процессоры Arm® Mali™:

  • Семейство процессоров Arm® Mali™-G
  • Семейство процессоров Arm® Mali™-T

• х86

Поддерживаемые системы

• Андроид™
• Голый металл
• Линукс®
• OpenBSD®
• macOS®
• Тизен™

Ресурсы

• Учебное пособие. Запуск AlexNet на Raspberry Pi с вычислительной библиотекой
• Доклад Джана Марко об анализе производительности для оптимизации встроенного программного обеспечения для вывода глубокого обучения
• Доклад Джана Марко об оптимизации CNN с помощью алгоритмов Винограда на EVS
• Доклад Джана Марко об использовании SGEMM и FFT для ускорения глубокого обучения

Экспериментальные сборки

Важно! Сборки Bazel и CMake — это экспериментальные сборки, предназначенные только для ЦП. Дополнительные сведения см. в документации.

Как внести свой вклад

Вклад в вычислительную библиотеку более чем приветствуется. Если вы заинтересованы в том, чтобы внести свой вклад, ознакомьтесь с нашими рекомендациями о том, как внести свой вклад.

Сертификат происхождения разработчика (DCO)

Прежде чем Вычислительная библиотека примет ваш вклад, вам необходимо подтвердить его происхождение и дать нам свое разрешение. Для управления этим процессом мы используем Сертификат происхождения разработчика (DCO) V1.1 (https://developercertificate.org/).

Чтобы указать, что вы согласны с условиями DCO, вы «подписываете» свой вклад, добавляя строку с вашим именем и адресом электронной почты в каждое сообщение о коммите git:

Signed-off-by: John Doe <[email protected]>

Вы должны использовать свое настоящее имя, псевдонимы или анонимные сообщения не принимаются.

Публичный список рассылки

Для технических обсуждений в проекте ComputeLibrary есть публичный список рассылки: [email protected]. Список открыт для самостоятельной подписки любому человеку внутри или за пределами Arm. Чтобы подписаться, посетите следующий веб-сайт: https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/.

Лицензия и взносы

Программное обеспечение предоставляется по лицензии MIT. Вклады в этот проект принимаются по той же лицензии.

Другие проекты

Этот проект содержит код из других проектов, перечисленных ниже. Исходный текст лицензии включен в эти исходные файлы.

• Библиотека заголовков OpenCL лицензируется по лицензии Apache версии 2.0, которая является разрешительной лицензией, совместимой с лицензией MIT.

• Половина библиотеки лицензирована по лицензии MIT.

• Библиотека libnpy лицензируется по лицензии MIT.

• Библиотека изображений stb либо лицензируется по лицензии MIT, либо находится в общественном достоянии. Он используется в этом проекте на условиях лицензии MIT.

Товарные знаки и авторские права

Android является торговой маркой Google LLC.

Arm, Cortex, Mali и Neon являются зарегистрированными товарными знаками или товарными знаками компании Arm Limited (или ее дочерних компаний) в США и/или других странах.

Bazel — торговая марка Google LLC., зарегистрированная в США и других странах.

CMake — торговая марка Kitware, Inc., зарегистрированная в США и других странах.

Linux® является зарегистрированной торговой маркой Линуса Торвальдса в США и других странах.

Mac и macOS являются товарными знаками Apple Inc., зарегистрированными в США и других странах.

Tizen является зарегистрированной торговой маркой The Linux Foundation.

Windows® является торговой маркой группы компаний Microsoft.