ort

---

ort é um wrapper ONNX Runtime 1.20 (não oficial) para Rust baseado no agora inativo onnxruntime-rs . ONNX Runtime acelera a inferência e o treinamento de ML em CPU e GPU.

Documentação

• Guia
• Referência da API
• Exemplos
• Migrando da v1.x para a v2.0

? ort

• Discord: #｜ ort -discussions
• Discussões do GitHub
• E-mail

? Projetos usando ort

_{Abra um PR para adicionar seu projeto aqui?}

• O Twitter usa ort para fornecer recomendações de páginas iniciais para centenas de milhões de usuários.
• Bloop usa ort para potencializar seu recurso de pesquisa de código semântico.
• edge-transformers usa ort para inferência acelerada de modelo de transformador na borda.
• ort ex usa ort para ligações seguras do ONNX Runtime no Elixir.
• Supabase usa ort para remover partidas a frio para suas funções de borda.
• Lantern usa ort para fornecer inferência de modelo de incorporação dentro do Postgres.
• Magika usa ort para detecção de tipo de conteúdo.
• sbv2-api é uma implementação rápida de conversão de texto em fala Style-BERT-VITS2 usando ort .

? ort