ONNX Runtime 是一個跨平台推理和訓練機器學習加速器。
ONNX Runtime 推理可實現更快的客戶體驗並降低成本,支援 PyTorch 和 TensorFlow/Keras 等深度學習框架以及 scikit-learn、LightGBM、XGBoost 等經典機器學習庫的模型。作業系統,並透過在適用的情況下利用硬體加速器以及圖形優化和轉換來提供最佳效能。了解更多→
ONNX 執行時間訓練可透過對現有 PyTorch 訓練腳本新增一行程式碼,加快多節點 NVIDIA GPU 上變壓器模型的模型訓練時間。了解更多→
一般資訊:onnxruntime.ai
使用文件和教學:onnxruntime.ai/docs
YouTube 影片教學:youtube.com/@ONNXRuntime
即將發布的路線圖
配套範例儲存庫:
系統 | 推理 | 訓練 |
---|---|---|
視窗 | ||
Linux | ||
蘋果 | ||
安卓 | ||
iOS系統 | ||
網路 | ||
其他 |
此專案使用 BrowserStack 進行測試。
系統 | 推理 | 訓練 |
---|---|---|
Linux |
目前版本和過去的版本可以在這裡找到:https://github.com/microsoft/onnxruntime/releases。
有關即將發布的版本的詳細信息,包括發布日期、公告、功能以及提交功能請求的指南,請訪問發布路線圖:https://onnxruntime.ai/roadmap。
此專案的 Windows 發行版可能會收集使用資料並將其傳送給 Microsoft,以協助改善我們的產品和服務。請參閱隱私權聲明以了解更多詳情。
我們歡迎貢獻!請參閱貢獻指南。
對於功能請求或錯誤報告,請提交 GitHub 問題。
對於一般性討論或問題,請使用 GitHub 討論。
該專案採用了微軟開源行為準則。有關詳細信息,請參閱行為準則常見問題解答或聯繫 [email protected] 提出任何其他問題或意見。
該項目已獲得 MIT 許可證的許可。