ComputeLibrary

棄用通知24.01 公告：NCHW 資料格式特定優化將在未來版本中逐漸從程式碼庫中刪除。這意味著使用者需要將 NCHW 模型轉換為 NHWC，以便從最佳化中受益。

計算庫

計算庫是針對 Arm® Cortex®-A、Arm® Neoverse® 和 Arm® Mali™ GPU 架構最佳化的低階機器學習函數的集合。

該程式庫提供優於其他開源替代方案的效能，並立即支援新的 Arm® 技術，例如 SVE2。

主要特點：

• 開源軟體可在 MIT 許可下使用
• 超過 100 個適用於 CPU 和 GPU 的機器學習函數
• 多種卷積演算法（GeMM、Winograd、FFT、直接和間接-GeMM）
• 支援多種資料類型：FP32、FP16、INT8、UINT8、BFLOAT16
• 針對關鍵 ML 基元的微架構最佳化
• 高度可配置的建置選項支援輕量級二進位文件
• 先進的最佳化技術，例如內核融合、快速數學支援和紋理利用
• 使用 OpenCL 調諧器和 GeMM 最佳化啟發式進行特定設備和工作負載的調整

儲存庫	關聯
發布	https://github.com/arm-software/ComputeLibrary
發展	https://review.mlplatform.org/#/admin/projects/ml/ComputeLibrary

文件

注意：此文件包括參考 API、變更日誌、建置指南、貢獻指南、勘誤表等。

預先建置的二進位檔案

所有二進位檔案都可以從此處或下表下載。

平台	作業系統	發布存檔（下載）
樹莓派4	Linux® 32 位元
樹莓派4	Linux® 64 位元
奧德羅伊德N2	Linux® 64 位元
海基960	Linux® 64 位元

建築學	作業系統	發布存檔（下載）
ARMv7	Linux®
ARM64-V8A	安卓™
ARM64-V8A	Linux®

更多預先建置的二進位檔案請參考以下連結：

預先建構二進位檔案是使用以下安全/良好編碼實踐相關標誌產生的：

-Wall、-Wextra、-Wformat=2、-Winit-self、-Wstrict-overflow=2、-Wswitch-default、-Woverloaded-virtual、-Wformat-security、-Wctor-dtor-privacy、-Wsign-promo、 -Weffc++、-迂腐、-fstack-protector-strong

支援的架構/技術

• Arm® CPU：

  • 採用 Arm® Neon™ 技術的 Arm® Cortex®-A 處理器系列
  • Arm® Neoverse® 處理器系列
  • Arm® Cortex®-R 處理器系列採用 Armv8-R AArch64 架構，採用 Arm® Neon™ 技術
  • 採用 Arm® Neon™ 技術的 Arm® Cortex®-X1 處理器

• Arm® Mali™ GPU：

  • Arm® Mali™-G 處理器系列
  • Arm® Mali™-T 處理器系列

• x86

支援的系統

• 安卓™
• 裸機
• Linux®
• OpenBSD®
• macOS®
• 蒂森™

資源

• 教學：使用計算庫在 Raspberry Pi 上運行 AlexNet
• Gian Marco 關於優化嵌入式深度學習推理軟體的效能分析的演講
• Gian Marco 在 EVS 上使用 Winograd 演算法優化 CNN 的演講
• Gian Marco 關於使用 SGEMM 和 FFT 加速深度學習的演講

實驗構建

重要的Bazel 和 CMake 版本是僅實驗性 CPU 版本，請參閱文件以了解更多詳細資訊。

如何貢獻

我們非常歡迎對計算庫做出貢獻。如果您有興趣貢獻，請查看我們的如何貢獻指南。

開發商原產地證明書 (DCO)

在計算庫接受您的貢獻之前，您需要證明其來源並給予我們您的許可。為了管理此流程，我們使用開發者原產地憑證 (DCO) V1.1 (https://developercertificate.org/)

為了表明您同意 DCO 的條款，您可以透過在每個 git 提交訊息中添加一行包含您的姓名和電子郵件地址的方式來「簽署」您的貢獻：

Signed-off-by: John Doe <[email protected]>

您必須使用真實姓名，不接受假名或匿名投稿。

公共郵件列表

對於技術討論，ComputeLibrary 專案有一個公共郵件清單：[email protected] 此清單向 Arm 內部或外部的任何人開放，可以自行訂閱。如需訂閱，請造訪以下網站：https://lists.linaro.org/mailman3/lists/acl-dev.lists.linaro.org/

許可和貢獻

該軟體根據 MIT 許可提供。對該項目的貢獻是在同一許可證下接受的。

其他項目

此項目包含來自其他項目的程式碼，如下所列。原始許可證文字包含在這些來源文件中。

• OpenCL 標頭庫根據 Apache 授權 2.0 版獲得許可，該授權是與 MIT 授權相容的寬鬆授權。

• 半庫已獲得 MIT 許可。

• libnpy 函式庫根據 MIT 許可證獲得許可。

• stb 圖像庫已獲得 MIT 許可或屬於公共領域。該項目根據 MIT 許可條款使用它。

商標和版權

Android 是 Google LLC 的商標。

Arm、Cortex、Mali 和 Neon 是 Arm Limited（或其子公司）在美國和/或其他地方的註冊商標或商標。

Bazel 是 Google LLC. 在美國和其他國家註冊的商標。

CMake 是 Kitware, Inc. 在美國和其他國家註冊的商標。

Linux® 是 Linus Torvalds 在美國和其他國家的註冊商標。

Mac 和 macOS 是 Apple Inc. 在美國和其他國家註冊的商標。

Tizen 是 Linux 基金會的註冊商標。

Windows® 是 Microsoft 集團公司的商標。