onnxruntime

ONNX Runtime ist ein plattformübergreifender Inferenz- und Trainingsbeschleuniger für maschinelles Lernen .

ONNX Runtime-Inferenz kann schnellere Kundenerlebnisse und niedrigere Kosten ermöglichen und unterstützt Modelle von Deep-Learning-Frameworks wie PyTorch und TensorFlow/Keras sowie klassischen Bibliotheken für maschinelles Lernen wie scikit-learn, LightGBM, XGBoost usw. ONNX Runtime ist mit verschiedenen kompatibel Hardware, Treiber und Betriebssysteme und bietet optimale Leistung durch die Nutzung von Hardwarebeschleunigern, wo erforderlich, sowie Diagrammoptimierungen und -transformationen. Erfahren Sie mehr →

Das ONNX Runtime-Training kann die Modelltrainingszeit auf NVIDIA-GPUs mit mehreren Knoten für Transformer-Modelle durch eine einzeilige Ergänzung für vorhandene PyTorch-Trainingsskripte beschleunigen. Erfahren Sie mehr →

Erste Schritte und Ressourcen

• Allgemeine Informationen : onnxruntime.ai

• Nutzungsdokumentation und Tutorials : onnxruntime.ai/docs

• YouTube-Video-Tutorials : youtube.com/@ONNXRuntime

• Nächste Veröffentlichungs-Roadmap

• Begleitbeispiel-Repositories :

  • ONNX-Laufzeitinferenz: microsoft/onnxruntime-inference-examples
  • ONNX-Laufzeittraining: microsoft/onnxruntime-training-examples

Status der integrierten Pipeline

System	Schlussfolgerung	Ausbildung
Windows
Linux
Mac
Android
iOS
Web
Andere

Dieses Projekt wurde mit BrowserStack getestet.

Status der Drittanbieter-Pipeline

System	Schlussfolgerung	Ausbildung
Linux

Veröffentlichungen

Die aktuelle Version und frühere Versionen finden Sie hier: https://github.com/microsoft/onnxruntime/releases.

Einzelheiten zur bevorstehenden Veröffentlichung, einschließlich Veröffentlichungsterminen, Ankündigungen, Funktionen und Anleitungen zum Einreichen von Funktionsanfragen, finden Sie in der Veröffentlichungs-Roadmap: https://onnxruntime.ai/roadmap.

Daten/Telemetrie

Windows-Distributionen dieses Projekts sammeln möglicherweise Nutzungsdaten und senden sie an Microsoft, um zur Verbesserung unserer Produkte und Dienste beizutragen. Weitere Einzelheiten finden Sie in der Datenschutzerklärung.

Beiträge und Feedback

Wir freuen uns über Beiträge! Bitte beachten Sie die Beitragsrichtlinien.

Für Funktionsanfragen oder Fehlerberichte reichen Sie bitte ein GitHub-Problem ein.

Für allgemeine Diskussionen oder Fragen nutzen Sie bitte GitHub-Diskussionen.

Verhaltenskodex

Dieses Projekt hat den Microsoft Open Source Verhaltenskodex übernommen. Weitere Informationen finden Sie in den FAQ zum Verhaltenskodex oder wenden Sie sich bei weiteren Fragen oder Kommentaren an [email protected].

Lizenz

Dieses Projekt ist unter der MIT-Lizenz lizenziert.