ort

---

ort是 Rust 的（非官方）ONNX Runtime 1.20 包装器，基于现在不活动的onnxruntime-rs 。 ONNX 运行时可加速 CPU 和 GPU 上的 ML 推理和训练。

文档

• 指导
• API参考
• 示例
• 从 v1.x 迁移到 v2.0

？ ort

• 不和谐： #｜ ort -discussions
• GitHub 讨论
• 电子邮件

？使用ort项目

_{在此处打开 PR 以添加您的项目？}

• Twitter使用ort向数亿用户提供主页推荐。
• Bloop使用ort来增强其语义代码搜索功能。
• Edge-Transformers使用ort来加速边缘的 Transformer 模型推理。
• ort ex使用ort在 Elixir 中实现安全的 ONNX 运行时绑定。
• Supabase使用ort来消除其边缘函数的冷启动。
• Lantern使用ort在 Postgres 内提供嵌入模型推理。
• Magika使用ort进行内容类型检测。
• sbv2-api是使用ort的 Style-BERT-VITS2 文本转语音的快速实现。

？赞助ort