jitify ดาวน์โหลด - jitify ดาวน์โหลดซอร์สโค้ด

jitify

ซี/ซี++

1.0.0

ดาวน์โหลด

จิตสำนึก

ไลบรารี C++ แบบส่วนหัวเดียวเพื่อทำให้การใช้ CUDA Runtime Compilation (NVRTC) ง่ายขึ้น

เหตุผล

การรวม NVRTC เข้ากับโค้ด CUDA ที่มีอยู่และ/หรือเทมเพลตอาจเป็นเรื่องยุ่งยาก Jitify มีเป้าหมายเพื่อทำให้กระบวนการนี้ง่ายขึ้นโดยการซ่อนความซับซ้อนไว้เบื้องหลังอินเทอร์เฟซระดับสูงที่เรียบง่าย

ตัวอย่างด่วน

 const char * program_source = " my_program n "
    " template n "
    " __global__ n "
    " void my_kernel(T* data) { n "
    "    T data0 = data[0]; n "
    "    for( int i=0; in "
    "        data[0] *= data0; n "
    "    } n "
    " } n " ;
static jitify::JitCache kernel_cache;
jitify::Program program = kernel_cache.program(program_source);
// ...set up data etc.
dim3 grid ( 1 );
dim3 block ( 1 );
using jitify::reflection::type_of;
program.kernel( " my_kernel " )
       .instantiate( 3 , type_of(*data))
       .configure(grid, block)
       .launch(data);

คุณสมบัติ

Jitify จัดเตรียม/ดูแลสิ่งต่อไปนี้:

การเรียก API ไดรเวอร์ NVRTC และ CUDA ทั้งหมด
การสร้างอินสแตนซ์เคอร์เนลอย่างง่ายและไวยากรณ์การเปิดใช้งาน
การแคชเคอร์เนลที่คอมไพล์แล้ว
กำลังโหลดซอร์สโค้ดจากสตริง ไฟล์ หรือฝังอยู่ในไฟล์ปฏิบัติการ
ละเว้นรหัสโฮสต์ในแหล่งที่มาที่คอมไพล์แบบรันไทม์
ข้ามส่วนหัวที่ไม่จำเป็น
รองรับส่วนหัวไลบรารีมาตรฐานที่ปลอดภัยของ JIT (เช่น float.h, stdint.h เป็นต้น)
การจัดการกับชื่อเคอร์เนลที่สับสน
การสะท้อนพารามิเตอร์เทมเพลตเคอร์เนลเป็นสตริง
รวบรวมโดยเฉพาะสำหรับความสามารถในการคำนวณของอุปกรณ์ปัจจุบัน
การลิงก์ไปยังไฟล์ PTX/CUBIN/FATBIN/object/library ที่คอมไพล์ไว้ล่วงหน้า
รองรับ CUDA เวอร์ชัน 7.0, 7.5, 8.0, 9.x, 10.x ทั้งบน Linux และ Windows
ฟังก์ชั่น Parallel_for ที่สะดวกและการรองรับแลมบ์ดา
*ใหม่* jitify::experimental API มอบความสามารถในการซีเรียลไลเซชันเพื่อเปิดใช้งานการแฮชและแคชที่ผู้ใช้จัดการ

สิ่งที่คุณสามารถทำได้ด้วย Jitify และ NVRTC:

ย้ายโค้ดที่มีอยู่อย่างรวดเร็ว เพื่อใช้ CUDA Runtime Compilation
ลดปริมาณโค้ดและเวลาการคอมไพล์ออฟไลน์ลงอย่างมาก
เพิ่มประสิทธิภาพเคอร์เนล โดยการอบค่าคงที่รันไทม์และการปรับอัตโนมัติ

วิธีการสร้าง

Jitify เป็นเพียงไฟล์ส่วนหัวเดียว:

# include < jitify.hpp >

คอมไพล์ด้วย: -pthread (ไม่จำเป็นหาก JITIFY_THREAD_SAFE ถูกกำหนดเป็น 0)

เชื่อมโยงกับ: -lcuda -lcudart -lnvrtc

มียูทิลิตี้ขนาดเล็กที่เรียกว่า stringify สำหรับการแปลงไฟล์ข้อความให้เป็นตัวอักษรสตริง C ซึ่งเป็นวิธีที่สะดวกในการรวมแหล่งข้อมูลที่คอมไพล์ด้วย JIT เข้ากับบิลด์