Загрузка jitify - Загрузка исходного кода jitify

jitify

С/С++

1.0.0

Скачать

Джитифай

Библиотека C++ с одним заголовком для упрощения использования компиляции среды выполнения CUDA (NVRTC).

Обоснование

Интеграция NVRTC в существующий и/или шаблонный код CUDA может оказаться сложной задачей. Jitify стремится упростить этот процесс, скрывая сложности за простым высокоуровневым интерфейсом.

Быстрый пример

 const char * program_source = " my_program n "
    " template n "
    " __global__ n "
    " void my_kernel(T* data) { n "
    "    T data0 = data[0]; n "
    "    for( int i=0; in "
    "        data[0] *= data0; n "
    "    } n "
    " } n " ;
static jitify::JitCache kernel_cache;
jitify::Program program = kernel_cache.program(program_source);
// ...set up data etc.
dim3 grid ( 1 );
dim3 block ( 1 );
using jitify::reflection::type_of;
program.kernel( " my_kernel " )
       .instantiate( 3 , type_of(*data))
       .configure(grid, block)
       .launch(data);

Функции

Jitify обеспечивает/заботится о следующих вещах:

Все вызовы API драйверов NVRTC и CUDA
Простое создание экземпляра ядра и синтаксис запуска
Кэширование скомпилированных ядер
Загрузка исходного кода из строк, файлов или встроенного в исполняемый файл.
Игнорирование кода хоста в источниках, скомпилированных во время выполнения
Пропуск ненужных заголовков
Поддержка JIT-безопасных заголовков стандартной библиотеки (например, float.h, stdint.h и т. д.)
Работа с искажением имени ядра
Отражение параметров шаблона ядра в строки
Компиляция специально для вычислительных возможностей текущего устройства.
Связывание с предварительно скомпилированными файлами PTX/CUBIN/FATBIN/object/library.
Поддержка версий CUDA 7.0, 7.5, 8.0, 9.x, 10.x как в Linux, так и в Windows.
Удобная функция Parallel_for и поддержка лямбда-выражений.
*Новый* API-интерфейс jitify::experimental предоставляет возможности сериализации для обеспечения управляемого пользователем хеширования и кэширования.

Что вы можете сделать с Jitify и NVRTC:

Быстро портируйте существующий код для использования компиляции среды выполнения CUDA.
Значительно сократить объем кода и время автономной компиляции.
Увеличьте производительность ядра за счет добавления констант времени выполнения и автонастройки.

Как построить

Jitify — это всего лишь один заголовочный файл:

# include < jitify.hpp >

Компилировать с: -pthread (не требуется, если для JITIFY_THREAD_SAFE установлено значение 0)

Ссылка с: -lcuda -lcudart -lnvrtc

Включена небольшая утилита stringify для преобразования текстовых файлов в строковые литералы C, что обеспечивает удобный способ интеграции JIT-скомпилированных исходных кодов в сборку.

Запуск тестов

Тесты можно запустить с помощью следующей команды:

$ make test

Это автоматически загрузит и создаст библиотеку GoogleTest, для которой в системе должен быть доступен CMake.

Документация

Примеры

См. jitify_example.cpp для некоторых примеров использования библиотеки. Makefile также демонстрирует, как использовать предоставленную утилиту stringify.

Выступление GTC 2017, Бен Барсделл и Кейт Кларк