jitify Unduh - jitify Unduh kode sumber

jitify

C/C++

1.0.0

Unduh

Jitifikasi

Pustaka C++ header tunggal untuk menyederhanakan penggunaan CUDA Runtime Compilation (NVRTC).

Alasan

Mengintegrasikan NVRTC ke dalam kode CUDA yang sudah ada dan/atau dibuat template bisa jadi rumit. Jitify bertujuan untuk menyederhanakan proses ini dengan menyembunyikan kompleksitas di balik antarmuka tingkat tinggi yang sederhana.

Contoh cepat

 const char * program_source = " my_program n "
    " template n "
    " __global__ n "
    " void my_kernel(T* data) { n "
    "    T data0 = data[0]; n "
    "    for( int i=0; in "
    "        data[0] *= data0; n "
    "    } n "
    " } n " ;
static jitify::JitCache kernel_cache;
jitify::Program program = kernel_cache.program(program_source);
// ...set up data etc.
dim3 grid ( 1 );
dim3 block ( 1 );
using jitify::reflection::type_of;
program.kernel( " my_kernel " )
       .instantiate( 3 , type_of(*data))
       .configure(grid, block)
       .launch(data);

Fitur

Jitify menyediakan/menangani hal-hal berikut:

Semua panggilan API Driver NVRTC dan CUDA
Instansiasi kernel sederhana dan sintaks peluncuran
Menyimpan kernel yang dikompilasi dalam cache
Memuat kode sumber dari string, file, atau tertanam dalam file yang dapat dieksekusi
Mengabaikan kode host di sumber yang dikompilasi waktu proses
Melewatkan header yang tidak dibutuhkan
Dukungan untuk header perpustakaan standar JIT-safe (misalnya, float.h, stdint.h dll.)
Berurusan dengan kerusakan nama kernel
Mencerminkan parameter template kernel menjadi string
Mengompilasi secara khusus untuk kemampuan komputasi perangkat saat ini
Menautkan ke file PTX/CUBIN/FATBIN/objek/perpustakaan yang telah dikompilasi sebelumnya
Dukungan untuk CUDA versi 7.0, 7.5, 8.0, 9.x, 10.x, di Linux dan Windows
Fungsi parallel_for yang nyaman dan dukungan lambda
*Baru* jitify::experimental API menyediakan kemampuan serialisasi untuk mengaktifkan hashing dan caching yang dikelola pengguna

Hal-hal yang dapat Anda lakukan dengan Jitify dan NVRTC:

Porting kode yang ada dengan cepat untuk menggunakan Kompilasi CUDA Runtime
Mengurangi volume kode dan waktu kompilasi offline secara signifikan
Tingkatkan kinerja kernel dengan memasukkan konstanta runtime dan penyetelan otomatis

Bagaimana cara membangun

Jitify hanyalah satu file header:

# include < jitify.hpp >

Kompilasi dengan: -pthread (tidak diperlukan jika JITIFY_THREAD_SAFE didefinisikan ke 0)

Tautan dengan: -lcuda -lcudart -lnvrtc

Utilitas kecil bernama stringify disertakan untuk mengonversi file teks menjadi literal string C, yang menyediakan cara mudah untuk mengintegrasikan sumber yang dikompilasi JIT ke dalam build.

Menjalankan tes

Tes dapat dijalankan dengan perintah berikut:

$ make test

Tindakan ini secara otomatis akan mengunduh dan membuat pustaka GoogleTest, yang memerlukan CMake tersedia di sistem.

Dokumentasi

Contoh

Lihat jitify_example.cpp untuk beberapa contoh cara menggunakan perpustakaan. Makefile juga mendemonstrasikan cara menggunakan utilitas stringify yang disediakan.

Pembicaraan GTC 2017 oleh Ben Barsdell dan Kate Clark