executorch
v0.4.0
يعد ExecuTorch حلاً شاملاً لتمكين إمكانات الاستدلال على الجهاز عبر الأجهزة المحمولة والأجهزة الطرفية بما في ذلك الأجهزة القابلة للارتداء والأجهزة المدمجة ووحدات التحكم الدقيقة. إنه جزء من نظام PyTorch Edge البيئي ويتيح النشر الفعال لنماذج PyTorch على الأجهزة المتطورة.
مقترحات القيمة الرئيسية لـ ExecuTorch هي:
للحصول على نظرة عامة فنية شاملة لبرنامج ExecuTorch والبرامج التعليمية خطوة بخطوة، يرجى زيارة موقع التوثيق الخاص بنا للحصول على أحدث إصدار (أو الفرع الرئيسي).
قم بالاطلاع على صفحة البدء للحصول على جولة سريعة.
اطلع على أمثلة Llama وLava والنماذج الأخرى التي تعمل على الأجهزة المتطورة باستخدام ExecuTorch.
[تحديث - 10/24] لقد أضفنا دعمًا لتشغيل نماذج Llama 3.2 Quantized 1B/3B عبر ExecuTorch.
نحن نرحب بأي تعليقات واقتراحات وتقارير الأخطاء من المجتمع لمساعدتنا في تحسين التكنولوجيا لدينا. الرجاء استخدام منتديات PyTorch للمناقشة وإبداء التعليقات حول ExecuTorch باستخدام فئة ExecuTorch ، ومستودع GitHub الخاص بنا للإبلاغ عن الأخطاء.
نوصي باستخدام أحدث علامة إصدار من صفحة الإصدارات عند التطوير.
راجع CONTRIBUTING.md للحصول على تفاصيل حول المشكلات والعلاقات العامة ونمط التعليمات البرمجية ووظائف CI وموضوعات التطوير الأخرى.
للتواصل معنا ومع أعضاء المجتمع الآخرين، ندعوك للانضمام إلى مجتمع PyTorch Slack عن طريق ملء هذا النموذج. بمجرد انضمامك، يمكنك:
#executorch-general للأسئلة العامة والمناقشة ودعم المجتمع.#executorch-contributors إذا كنت مهتمًا بالمساهمة بشكل مباشر في تطوير المشروع. executorch
├── backends # Backend delegate implementations.
├── build # Utilities for managing the build system.
├── codegen # Tooling to autogenerate bindings between kernels and the runtime.
├── configurations
├── docs # Static docs tooling.
├── examples # Examples of various user flows, such as model export, delegates, and runtime execution.
├── exir # Ahead-of-time library: model capture and lowering APIs.
| ├── _serialize # Serialize final export artifact.
| ├── backend # Backend delegate ahead of time APIs
| ├── capture # Program capture.
| ├── dialects # Op sets for various dialects in the export process.
| ├── emit # Conversion from ExportedProgram to ExecuTorch execution instructions.
| ├── operator # Operator node manipulation utilities.
| ├── passes # Built-in compiler passes.
| ├── program # Export artifacts.
| ├── serde # Graph module
serialization/deserialization.
| ├── verification # IR verification.
├── extension # Extensions built on top of the runtime.
| ├── android # ExecuTorch wrappers for Android apps.
| ├── apple # ExecuTorch wrappers for iOS apps.
| ├── aten_util # Converts to and from PyTorch ATen types.
| ├── data_loader # 1st party data loader implementations.
| ├── evalue_util # Helpers for working with EValue objects.
| ├── gguf_util # Tools to convert from the GGUF format.
| ├── kernel_util # Helpers for registering kernels.
| ├── memory_allocator # 1st party memory allocator implementations.
| ├── module # A simplified C++ wrapper for the runtime.
| ├── parallel # C++ threadpool integration.
| ├── pybindings # Python API for executorch runtime.
| ├── pytree # C++ and Python flattening and unflattening lib for pytrees.
| ├── runner_util # Helpers for writing C++ PTE-execution
tools.
| ├── testing_util # Helpers for writing C++ tests.
| ├── training # Experimental libraries for on-device training
├── kernels # 1st party kernel implementations.
| ├── aten
| ├── optimized
| ├── portable # Reference implementations of ATen operators.
| ├── prim_ops # Special ops used in executorch runtime for control flow and symbolic primitives.
| ├── quantized
├── profiler # Utilities for profiling runtime execution.
├── runtime # Core C++ runtime.
| ├── backend # Backend delegate runtime APIs.
| ├── core # Core structures used across all levels of the runtime.
| ├── executor # Model loading, initialization, and execution.
| ├── kernel # Kernel registration and management.
| ├── platform # Layer between architecture specific code and portable C++.
├── schema # ExecuTorch PTE file format flatbuffer
schemas.
├── scripts # Utility scripts for size management, dependency management, etc.
├── devtools # Model profiling, debugging, and introspection.
├── shim # Compatibility layer between OSS and Internal builds
├── test # Broad scoped end-to-end tests.
├── third-party # Third-party dependencies.
├── util # Various helpers and scripts.
ExecuTorch حاصل على ترخيص BSD، كما هو موجود في ملف الترخيص.
