ort

---

ort — это (неофициальная) оболочка ONNX Runtime 1.20 для Rust, основанная на сейчас неактивном onnxruntime-rs . ONNX Runtime ускоряет вывод и обучение машинного обучения как на ЦП, так и на графическом процессоре.

Документация

• Гид
• Справочник по API
• Примеры
• Миграция с версии 1.x на версию 2.0

? ort

• Дискорд: #｜ ort -discussions
• Обсуждения на GitHub
• Электронная почта

? Проекты с использованием ort

_{Открыть PR, чтобы добавить сюда свой проект?}

• Twitter использует ort для предоставления рекомендаций по домашней странице сотням миллионов пользователей.
• Bloop использует ort для реализации своей функции поиска семантического кода.
• Edge-transformers использует ort для ускоренного вывода модели трансформатора на границе.
• ort ex использует ort для безопасных привязок среды выполнения ONNX в Elixir.
• Supabase использует ort для предотвращения холодного запуска своих пограничных функций.
• Lantern использует ort для обеспечения вывода модели внедрения внутри Postgres.
• Магика использует ort для определения типа контента.
• sbv2-api — это быстрая реализация преобразования текста в речь Style-BERT-VITS2 с использованием ort .

? Спонсор ort