ONNX Runtime 是一个跨平台推理和训练机器学习加速器。
ONNX Runtime 推理可以实现更快的客户体验并降低成本,支持 PyTorch 和 TensorFlow/Keras 等深度学习框架以及 scikit-learn、LightGBM、XGBoost 等经典机器学习库的模型。ONNX Runtime 兼容不同的硬件、驱动程序和操作系统,并通过在适用的情况下利用硬件加速器以及图形优化和转换来提供最佳性能。了解更多→
ONNX 运行时训练可以通过对现有 PyTorch 训练脚本添加一行代码,加快多节点 NVIDIA GPU 上变压器模型的模型训练时间。了解更多→
一般信息:onnxruntime.ai
使用文档和教程:onnxruntime.ai/docs
YouTube 视频教程:youtube.com/@ONNXRuntime
即将发布的路线图
配套示例存储库:
系统 | 推理 | 训练 |
---|---|---|
视窗 | ||
Linux | ||
苹果 | ||
安卓 | ||
iOS系统 | ||
网络 | ||
其他 |
该项目使用 BrowserStack 进行测试。
系统 | 推理 | 训练 |
---|---|---|
Linux |
当前版本和过去的版本可以在这里找到:https://github.com/microsoft/onnxruntime/releases。
有关即将发布的版本的详细信息,包括发布日期、公告、功能以及提交功能请求的指南,请访问发布路线图:https://onnxruntime.ai/roadmap。
该项目的 Windows 发行版可能会收集使用数据并将其发送给 Microsoft,以帮助改进我们的产品和服务。请参阅隐私声明了解更多详情。
我们欢迎贡献!请参阅贡献指南。
对于功能请求或错误报告,请提交 GitHub 问题。
对于一般性讨论或问题,请使用 GitHub 讨论。
该项目采用了微软开源行为准则。有关详细信息,请参阅行为准则常见问题解答或联系 [email protected] 提出任何其他问题或意见。
该项目已获得 MIT 许可证的许可。