Quark

ควาร์กคอนเทนเนอร์

ยินดีต้อนรับสู่ควาร์กคอนเทนเนอร์

พื้นที่เก็บข้อมูลนี้เป็นบ้านของรหัส Quark Containers

Quark Container คืออะไร

Quark Container เป็นรันไทม์คอนเทนเนอร์ที่ปลอดภัยประสิทธิภาพสูงพร้อมคุณสมบัติดังต่อไปนี้:

1. เข้ากันได้กับ OCI: Quark Container มีอินเทอร์เฟซ Open Container Initiative (OCI) อิมเมจคอนเทนเนอร์ Docker ทั่วไปสามารถทำงานใน Quark Container
2. ปลอดภัย: ให้การแยกปริมาณงานและความปลอดภัยในระดับเครื่องเสมือน
3. ประสิทธิภาพสูง: Quark Container ถือกำเนิดขึ้นเพื่อการดำเนินการปริมาณงานคอนเทนเนอร์ที่มีประสิทธิภาพสูง ได้รับการพัฒนาด้วยภาษาโปรแกรม Rust

การทดสอบประสิทธิภาพ

ส่วนประสิทธิภาพคือ Performance.pdf ขั้นตอนและผลการทดสอบโดยละเอียดอยู่ที่นี่

สถาปัตยกรรม

Quark Container ใช้สถาปัตยกรรม Linux Virtual Machine แบบคลาสสิกดังต่อไปนี้ ประกอบด้วย HyperVisor ชื่อ QVisor และเกสต์เคอร์เนลชื่อ QKernel ไม่เหมือนกับการออกแบบ Linux Virtual Machine ทั่วไป ซึ่งอิมเมจระบบปฏิบัติการมาตรฐาน เช่น Linux/Windows สามารถทำงานบน Qemu ได้ QVisor และ QKernel เชื่อมต่อกันอย่างแน่นหนา QVisor รองรับเฉพาะ QKernel เท่านั้น

การออกแบบระดับสูงของ Quark Container มีดังต่อไปนี้ จัดการคำขอคอนเทนเนอร์แอปพลิเคชันด้วยขั้นตอนต่อไปนี้

1. การเรียกระบบแอปพลิเคชันคอนเทนเนอร์: ใน Quark Container แอปพลิเคชันคอนเทนเนอร์จะทำงานเป็นแอปพลิเคชันเกสต์ และส่งคำขอไปยัง Quark ผ่านทาง Guest System Call เช่น X86-64 SysCall/SysRet
2. การเรียกระบบโฮสต์: จากมุมมองของระบบปฏิบัติการโฮสต์ Quark ทำงานเป็นแอปพลิเคชัน Linux ทั่วไป เมื่อ Quark ได้รับ Guest System Call มันจะอธิบายสิ่งนั้นใน Quark runtime หากต้องการเข้าถึงระบบโฮสต์ เช่น อ่านไฟล์โฮสต์ ระบบจะเรียก Host OS ผ่านทาง Host System Call
3. QCall: สำหรับการสื่อสารระหว่าง Guest Space และ Host Space นั้น QKernel จะไม่เรียก QVisor ผ่าน HyperCall โดยตรงเหมือนกับการออกแบบ Virtual Machine ทั่วไป แต่จะส่งคำขอไปยัง QVisor ผ่าน QCall แทน ซึ่งขึ้นอยู่กับคิว Share memory มีเธรดการมอบ QCall เฉพาะรออยู่ใน Host Space เพื่อประมวลผลคำขอ QCall ด้วยเหตุนี้ จึงหลีกเลี่ยงสวิตช์ Guest/Host ที่มีต้นทุนสูงของเธรด VCPU สำหรับการดำเนินการข้อมูล IO ของโฮสต์ เช่น การอ่าน/เขียนซ็อกเก็ต Qkernel จะเรียกโฮสต์เคอร์เนลโดยตรงกับ IO-Uring ซึ่งสามารถข้าม QVisor เพื่อให้ได้รับประสิทธิภาพที่ดีขึ้น (หมายเหตุ: IO-Uring จะไม่จัดการการดำเนินการควบคุม IO เช่น Open เพื่อจุดประสงค์ด้านความปลอดภัย)

ซ็อกเก็ต TCP ผ่าน RDMA (TSoR)

Quark Container รองรับการถ่ายโอนการรับส่งข้อมูล TCP ของแอปพลิเคชันคอนเทนเนอร์ด้วยการเชื่อมต่อ RDMA เช่น TSoR TSoR เป็นผู้ให้บริการเครือข่ายคอนเทนเนอร์ในคลัสเตอร์ K8S และแอปพลิเคชันคอนเทนเนอร์ที่ใช้ TCP ที่มีอยู่สามารถถ่ายโอนข้อมูลผ่าน RDMA ได้โดยไม่ต้องดัดแปลงใดๆ เนื่องจาก TSoR ออฟโหลดเวิร์กโหลดสแต็กโปรโตคอล TCP/IP ไปยัง RDMA NIC สามารถบรรลุทรูพุตที่สูงขึ้น เวลาแฝงต่ำ และใช้ CPU น้อยลง ผลการทดสอบ TSOR คือผลการทดสอบเกณฑ์มาตรฐาน Redis โดยมีการเปรียบเทียบระหว่าง Quark + TSoR และ RunC + Flannel TSoR แสดงการปรับปรุงปริมาณงานมากกว่า Flannel ถึง 5 เท่า สถาปัตยกรรม TSoR มีดังต่อไปนี้ บทนำอยู่ที่นี่

ความต้องการของระบบ

1. ระบบปฏิบัติการ: เคอร์เนล Linux > 5.8.0
2. หน่วยประมวลผล: X86-64/Amd64 หรือ aarch64 (ดูหมายเหตุด้านล่าง)
3. นักเทียบท่า: > 17.09.0
4. เปิดใช้งานเทคโนโลยีการจำลองเสมือนใน BIOS (โดยปกติจะอยู่ในแท็บความปลอดภัยของ BIOS)

Quark รองรับ X86-64 เป็นหลัก การสนับสนุน aarch64 อยู่ในเบื้องต้นและอยู่ระหว่างการพัฒนา สถาปัตยกรรมอื่นๆ จะพร้อมใช้งานในอนาคต

การติดตั้งจากแหล่งที่มา

การพึ่งพาและห่วงโซ่เครื่องมือที่เป็นสนิม

Quark ได้รับการพัฒนาด้วยภาษา Rust งานสร้างจำเป็นต้องติดตั้ง Rust ทุกคืน โปรดใช้เวอร์ชันปัจจุบันที่ใช้งานได้ดี nightly-2023-12-11-x86_64-unknown-linux-gnu (แทนที่ x86_64 ด้วย aarch64 สำหรับบิลด์ aarch64)

rustup toolchain install nightly-2023-12-11-x86_64-unknown-linux-gnu
rustup default nightly-2023-12-11-x86_64-unknown-linux-gnu

เพิ่มส่วนประกอบrust-src ให้กับ toolchain ปัจจุบัน:

rustup component add rust-src

และติดตั้ง "cargo-xbuild" สำหรับการรวบรวม qkernel cross

cargo install cargo-xbuild

ติดตั้งไลบรารี libcap

sudo apt-get install libcap-dev

นอกจากนี้ ยังมีไลบรารีเพิ่มเติมสำหรับการคอมไพล์โมดูล RDMA:

sudo apt-get install build-essential cmake gcc libudev-dev libnl-3-dev 
libnl-route-3-dev ninja-build pkg-config valgrind python3-dev cython3 
python3-docutils pandoc libclang-dev

และยังมีไลบรารีพิเศษสำหรับการรวบรวมโมดูล GPU:
(โปรดทราบว่าคุณสามารถใช้คำสั่งต่อไปนี้ได้แม้ในเครื่องที่ไม่ใช่ NVIDIA เพื่อให้สามารถคอมไพล์โมดูล GPU ได้)

sudo apt-get install libelf-dev nvidia-driver-535

สร้างควาร์ก

git clone [email protected]:QuarkContainer/Quark.git
cd Quark
make
make install

สร้างด้วยโมดูล GPU

make cuda_all
make install

ติดตั้ง / ตั้งค่า / กำหนดค่า

1. ติดตั้งไบนารี: Quark มี 2 ไบนารี: "quark" และ "qkernel.bin" ทั้งคู่ถูกคัดลอกไปยัง /usr/local/bin/ โฟลเดอร์เมื่อรัน make install "quark" มีโค้ด QVisor และใช้อินเทอร์เฟซ OCI ด้วย
2. ตั้งค่า Docker: หากต้องการเปิดใช้งาน Docker เพื่อเรียกใช้คอนเทนเนอร์ด้วย Quark Container จะต้องอัปเดต "/etc/docker/daemon.json" ตัวอย่างคือ daemon.json
3. สร้างโฟลเดอร์บันทึก

   sudo mkdir /var/log/quark

4. รีสตาร์ท Docker: หลังจากอัปเดต "/etc/docker/daemon.json" แล้ว การรีสตาร์ท Docker daemon จะต้องเปิดใช้งานการเปลี่ยนแปลงการกำหนดค่า

   sudo systemctl restart docker

สวัสดีชาวโลก:

แอปพลิเคชันตัวอย่าง Hello-World Docker สามารถดำเนินการได้ดังต่อไปนี้:

sudo systemctl restart docker
sudo systemctl restart docker.service
docker run --rm --runtime=quark hello-world

การกำหนดค่า

ไฟล์คอนฟิกูเรชันของ Quark Container อยู่ที่ /etc/quark/config.json รายละเอียดการกำหนดค่าคือ TBD...

ดีบักและบันทึก

บันทึกการดีบักของ Quark Container ถูกใส่ไว้ใน /var/log/quark/quark.log มันสามารถเปิดหรือปิดการใช้งานโดย "DebugLevel" ของ /etc/quark/config.json ค่าที่เป็นไปได้ของ "DebugLevel" มี 5 ค่าดังนี้

 Off,
Error,
Warn,
Info,
Debug,
Trace,

เมื่อเปิดใช้งานบันทึก เช่น Debug หลังจากรันอิมเมจนักเทียบท่าด้วย Quark Container แล้ว บันทึกจะถูกสร้างขึ้นใน /var/log/quark/quark.log ดูวิกิสำหรับเคล็ดลับการแก้ไขข้อบกพร่องเพิ่มเติม

k8s ตั้งค่าและใช้ TCP ผ่าน RDMA

โปรดดูลิงก์นี้เพื่อตั้งค่า k8 โดยใช้คอนเทนเนอร์ควาร์กและการรองรับ RDMA

รองรับ aarch64

ขณะนี้ Quark มีการสนับสนุน aarch64 เบื้องต้นแล้ว (ยังอยู่ระหว่างการพัฒนา)

หมายเหตุเกี่ยวกับสถาปัตยกรรม arm64 รุ่นใหม่ :

สถาปัตยกรรม arm64 ที่ใหม่กว่าจะเพิ่มบิต PAN (การเข้าถึงสิทธิพิเศษไม่เคย) ใน pstate ซึ่งป้องกันไม่ให้เคอร์เนล (el1) เข้าถึงหน่วยความจำผู้ใช้ (el0) การสนับสนุนอย่างเต็มที่คือ WIP เพื่อเป็นวิธีแก้ปัญหาชั่วคราว เราเพียงแค่ล้าง PAN ใน qkernel ในการดำเนินการนี้ คุณจะต้องใช้โปรแกรมแก้ไขนี้ด้วยตนเอง

การสื่อสาร

• ใช้รายชื่อผู้รับจดหมาย Quark เพียงส่งอีเมลไปที่ ~quark/[email protected] หากต้องการสมัครรับรายชื่อ ให้ส่งอีเมลเปล่าไปที่ ~quark/[email protected] หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับการใช้รายชื่อผู้รับอีเมล โปรดดูมารยาทในรายชื่อผู้รับจดหมาย
• มีช่องสแล็กด้วย