ผู้ดำเนินการ
v0.4.0
ExecuTorch เป็นโซลูชันแบบ end-to-end สำหรับการเปิดใช้งานความสามารถในการอนุมานบนอุปกรณ์ผ่านมือถือและอุปกรณ์ Edge รวมถึงอุปกรณ์สวมใส่ อุปกรณ์ฝังตัว และไมโครคอนโทรลเลอร์ เป็นส่วนหนึ่งของระบบนิเวศ PyTorch Edge และช่วยให้ปรับใช้โมเดล PyTorch กับอุปกรณ์ Edge ได้อย่างมีประสิทธิภาพ
คุณค่าที่สำคัญของ ExecuteTorch คือ:
สำหรับภาพรวมทางเทคนิคที่ครอบคลุมของ ExecuTorch และบทช่วยสอนทีละขั้นตอน โปรดไปที่เว็บไซต์เอกสารประกอบของเราเพื่อดูรุ่นล่าสุด (หรือสาขาหลัก)
ตรวจสอบหน้าเริ่มต้นใช้งานเพื่อการหมุนอย่างรวดเร็ว
ดูตัวอย่างของ Llama, Llava และรุ่นอื่นๆ ที่ทำงานบนอุปกรณ์ Edge โดยใช้ ExecuTorch
[อัปเดต - 24/10] เราได้เพิ่มการรองรับสำหรับการรัน Llama 3.2 Quantized รุ่น 1B/3B ผ่าน ExecuTorch
เรายินดีรับข้อเสนอแนะ ข้อเสนอแนะ และรายงานข้อบกพร่องจากชุมชนเพื่อช่วยเราปรับปรุงเทคโนโลยีของเรา โปรดใช้ฟอรัม PyTorch สำหรับการสนทนาและข้อเสนอแนะเกี่ยวกับ ExecuTorch โดยใช้หมวดหมู่ ExecuTorch และพื้นที่เก็บข้อมูล GitHub ของเราสำหรับการรายงานจุดบกพร่อง
เราขอแนะนำให้ใช้แท็กรุ่นล่าสุดจากหน้าเผยแพร่เมื่อพัฒนา
ดู CONTRIBUTING.md สำหรับรายละเอียดเกี่ยวกับปัญหา การประชาสัมพันธ์ รูปแบบโค้ด งาน CI และหัวข้อการพัฒนาอื่นๆ
เพื่อเชื่อมต่อกับเราและสมาชิกชุมชนอื่น ๆ เราขอเชิญคุณเข้าร่วมชุมชน PyTorch Slack โดยกรอกแบบฟอร์มนี้ เมื่อคุณเข้าร่วมแล้ว คุณสามารถ:
#executorch-general เพื่อสอบถามคำถามทั่วไป การสนทนา และการสนับสนุนจากชุมชน#executorch-contributors หากคุณสนใจที่จะมีส่วนร่วมโดยตรงในการพัฒนาโครงการ executorch
├── backends # Backend delegate implementations.
├── build # Utilities for managing the build system.
├── codegen # Tooling to autogenerate bindings between kernels and the runtime.
├── configurations
├── docs # Static docs tooling.
├── examples # Examples of various user flows, such as model export, delegates, and runtime execution.
├── exir # Ahead-of-time library: model capture and lowering APIs.
| ├── _serialize # Serialize final export artifact.
| ├── backend # Backend delegate ahead of time APIs
| ├── capture # Program capture.
| ├── dialects # Op sets for various dialects in the export process.
| ├── emit # Conversion from ExportedProgram to ExecuTorch execution instructions.
| ├── operator # Operator node manipulation utilities.
| ├── passes # Built-in compiler passes.
| ├── program # Export artifacts.
| ├── serde # Graph module
serialization/deserialization.
| ├── verification # IR verification.
├── extension # Extensions built on top of the runtime.
| ├── android # ExecuTorch wrappers for Android apps.
| ├── apple # ExecuTorch wrappers for iOS apps.
| ├── aten_util # Converts to and from PyTorch ATen types.
| ├── data_loader # 1st party data loader implementations.
| ├── evalue_util # Helpers for working with EValue objects.
| ├── gguf_util # Tools to convert from the GGUF format.
| ├── kernel_util # Helpers for registering kernels.
| ├── memory_allocator # 1st party memory allocator implementations.
| ├── module # A simplified C++ wrapper for the runtime.
| ├── parallel # C++ threadpool integration.
| ├── pybindings # Python API for executorch runtime.
| ├── pytree # C++ and Python flattening and unflattening lib for pytrees.
| ├── runner_util # Helpers for writing C++ PTE-execution
tools.
| ├── testing_util # Helpers for writing C++ tests.
| ├── training # Experimental libraries for on-device training
├── kernels # 1st party kernel implementations.
| ├── aten
| ├── optimized
| ├── portable # Reference implementations of ATen operators.
| ├── prim_ops # Special ops used in executorch runtime for control flow and symbolic primitives.
| ├── quantized
├── profiler # Utilities for profiling runtime execution.
├── runtime # Core C++ runtime.
| ├── backend # Backend delegate runtime APIs.
| ├── core # Core structures used across all levels of the runtime.
| ├── executor # Model loading, initialization, and execution.
| ├── kernel # Kernel registration and management.
| ├── platform # Layer between architecture specific code and portable C++.
├── schema # ExecuTorch PTE file format flatbuffer
schemas.
├── scripts # Utility scripts for size management, dependency management, etc.
├── devtools # Model profiling, debugging, and introspection.
├── shim # Compatibility layer between OSS and Internal builds
├── test # Broad scoped end-to-end tests.
├── third-party # Third-party dependencies.
├── util # Various helpers and scripts.
ExecuTorch ได้รับอนุญาตจาก BSD ดังที่พบในไฟล์ LICENSE
