ComputeLibrary

弃用通知24.01 公告：NCHW 数据格式特定优化将在未来版本中逐渐从代码库中删除。这意味着用户需要将 NCHW 模型转换为 NHWC，以便从优化中受益。

计算库

计算库是针对 Arm® Cortex®-A、Arm® Neoverse® 和 Arm® Mali™ GPU 架构优化的低级机器学习函数的集合。

该库提供优于其他开源替代方案的性能，并立即支持新的 Arm® 技术，例如 SVE2。

主要特点：

• 开源软件可在 MIT 许可下使用
• 超过 100 个适用于 CPU 和 GPU 的机器学习函数
• 多种卷积算法（GeMM、Winograd、FFT、直接和间接-GeMM）
• 支持多种数据类型：FP32、FP16、INT8、UINT8、BFLOAT16
• 针对关键 ML 基元的微架构优化
• 高度可配置的构建选项支持轻量级二进制文件
• 先进的优化技术，例如内核融合、快速数学支持和纹理利用
• 使用 OpenCL 调谐器和 GeMM 优化启发式进行特定于设备和工作负载的调整

存储库	关联
发布	https://github.com/arm-software/ComputeLibrary
发展	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

文档

注意：该文档包括参考 API、变更日志、构建指南、贡献指南、勘误表等。

预构建的二进制文件

所有二进制文件都可以从此处或下表下载。

平台	操作系统	发布存档（下载）
树莓派4	Linux® 32 位
树莓派4	Linux® 64 位
奥德罗伊德N2	Linux® 64 位
海基960	Linux® 64 位

建筑学	操作系统	发布存档（下载）
ARMv7	Linux®
ARM64-V8A	安卓™
ARM64-V8A	Linux®

更多预构建的二进制文件请参考以下链接：

预构建二进制文件是使用以下安全/良好编码实践相关标志生成的：

-Wall、-Wextra、-Wformat=2、-Winit-self、-Wstrict-overflow=2、-Wswitch-default、-Woverloaded-virtual、-Wformat-security、-Wctor-dtor-privacy、-Wsign-promo、 -Weffc++、-迂腐、-fstack-protector-strong

支持的架构/技术

• Arm® CPU：

  • 采用 Arm® Neon™ 技术的 Arm® Cortex®-A 处理器系列
  • Arm® Neoverse® 处理器系列
  • Arm® Cortex®-R 处理器系列采用 Armv8-R AArch64 架构，采用 Arm® Neon™ 技术
  • 采用 Arm® Neon™ 技术的 Arm® Cortex®-X1 处理器

• Arm® Mali™ GPU：

  • Arm® Mali™-G 处理器系列
  • Arm® Mali™-T 处理器系列

• x86

支持的系统

• 安卓™
• 裸机
• Linux®
• OpenBSD®
• macOS®
• 蒂森™

资源

• 教程：使用计算库在 Raspberry Pi 上运行 AlexNet
• Gian Marco 关于优化嵌入式深度学习推理软件的性能分析的演讲
• Gian Marco 在 EVS 上关于使用 Winograd 算法优化 CNN 的演讲
• Gian Marco 关于使用 SGEMM 和 FFT 加速深度学习的演讲

实验构建

重要的Bazel 和 CMake 版本是仅实验性 CPU 版本，请参阅文档了解更多详细信息。

如何贡献

我们非常欢迎对计算库做出贡献。如果您有兴趣贡献，请查看我们的如何贡献指南。

开发商原产地证书 (DCO)

在计算库接受您的贡献之前，您需要证明其来源并给予我们您的许可。为了管理此流程，我们使用开发者原产地证书 (DCO) V1.1 (https://developercertificate.org/)

为了表明您同意 DCO 的条款，您可以通过在每条 git 提交消息中添加一行包含您的姓名和电子邮件地址的方式来“签署”您的贡献：

Signed-off-by: John Doe <[email protected]>

您必须使用真实姓名，不接受假名或匿名投稿。

公共邮件列表

对于技术讨论，ComputeLibrary 项目有一个公共邮件列表：[email protected] 该列表向 Arm 内部或外部的任何人开放，可以自行订阅。如需订阅，请访问以下网站：https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

许可和贡献

该软件根据 MIT 许可提供。对该项目的贡献是在同一许可证下接受的。

其他项目

该项目包含来自其他项目的代码，如下所列。原始许可证文本包含在这些源文件中。

• OpenCL 标头库根据 Apache 许可证 2.0 版获得许可，该许可证是与 MIT 许可证兼容的宽松许可证。

• 半库已获得 MIT 许可。

• libnpy 库根据 MIT 许可证获得许可。

• stb 图像库已获得 MIT 许可或属于公共领域。该项目根据 MIT 许可条款使用它。

商标和版权

Android 是 Google LLC 的商标。

Arm、Cortex、Mali 和 Neon 是 Arm Limited（或其子公司）在美国和/或其他地方的注册商标或商标。

Bazel 是 Google LLC. 在美国和其他国家/地区注册的商标。

CMake 是 Kitware, Inc. 在美国和其他国家/地区注册的商标。

Linux® 是 Linus Torvalds 在美国和其他国家的注册商标。

Mac 和 macOS 是 Apple Inc. 在美国和其他国家/地区注册的商标。

Tizen 是 Linux 基金会的注册商标。

Windows® 是 Microsoft 集团公司的商标。