ort

---

ort ist ein (inoffizieller) ONNX Runtime 1.20-Wrapper für Rust, der auf dem jetzt inaktiven onnxruntime-rs basiert. ONNX Runtime beschleunigt ML-Inferenz und -Training sowohl auf der CPU als auch auf der GPU.

Dokumentation

• Führung
• API-Referenz
• Beispiele
• Migration von v1.x auf v2.0

? ort

• Discord: #｜ ort -discussions
• GitHub-Diskussionen
• E-Mail

? Projekte mit ort

_{Öffnen Sie eine PR, um Ihr Projekt hier hinzuzufügen?}

• Twitter verwendet ort um Hunderten Millionen Nutzern Homepage-Empfehlungen bereitzustellen.
• Bloop nutzt ort um seine Suchfunktion für semantischen Code zu betreiben.
• Edge-Transformers verwenden ort für eine beschleunigte Transformatormodellinferenz am Rand.
• ort ex verwendet ort für sichere ONNX Runtime-Bindungen in Elixir.
• Supabase verwendet ort um Kaltstarts für ihre Edge-Funktionen zu entfernen.
• Lantern verwendet ort , um die Modellinferenz in Postgres einzubetten.
• Magika verwendet ort zur Erkennung von Inhaltstypen.
• sbv2-api ist eine schnelle Implementierung von Style-BERT-VITS2 Text-to-Speech mit ort .

? Sponsor ort