Download jitify - download do código-fonte jitify

jitify

C/C++

1.0.0

Baixar

Jitify

Uma biblioteca C++ de cabeçalho único para simplificar o uso de CUDA Runtime Compilation (NVRTC).

Justificativa

Integrar o NVRTC ao código CUDA existente e/ou modelado pode ser complicado. O Jitify visa simplificar esse processo, escondendo as complexidades por trás de uma interface simples e de alto nível.

Exemplo rápido

 const char * program_source = " my_program n "
    " template<int N, typename T> n "
    " __global__ n "
    " void my_kernel(T* data) { n "
    "    T data0 = data[0]; n "
    "    for( int i=0; i<N-1; ++i ) { n "
    "        data[0] *= data0; n "
    "    } n "
    " } n " ;
static jitify::JitCache kernel_cache;
jitify::Program program = kernel_cache.program(program_source);
// ...set up data etc.
dim3 grid ( 1 );
dim3 block ( 1 );
using jitify::reflection::type_of;
program.kernel( " my_kernel " )
       .instantiate( 3 , type_of(*data))
       .configure(grid, block)
       .launch(data);

Características

Jitify fornece/cuida do seguinte:

Todas as chamadas de API do driver NVRTC e CUDA
Instanciação simples do kernel e sintaxe de inicialização
Armazenando kernels compilados em cache
Carregando código-fonte de strings, arquivos ou incorporado em um executável
Ignorando o código host em fontes compiladas em tempo de execução
Ignorando cabeçalhos desnecessários
Suporte para cabeçalhos de biblioteca padrão seguros para JIT (por exemplo, float.h, stdint.h etc.)
Lidando com a manipulação do nome do kernel
Refletindo os parâmetros do modelo do kernel em strings
Compilando especificamente para a capacidade de computação do dispositivo atual
Vinculando a arquivos PTX/CUBIN/FATBIN/object/library pré-compilados
Suporte para versões CUDA 7.0, 7.5, 8.0, 9.x, 10.x, em Linux e Windows
Função paralela_for conveniente e suporte lambda
*Nova* API jitify::experimental fornece recursos de serialização para permitir hashing e cache gerenciados pelo usuário

Coisas que você pode fazer com Jitify e NVRTC:

Portar rapidamente o código existente para usar a compilação CUDA Runtime
Reduza drasticamente o volume de código e os tempos de compilação offline
Aumente o desempenho do kernel incorporando constantes de tempo de execução e ajuste automático

Como construir

Jitify é apenas um único arquivo de cabeçalho:

# include < jitify.hpp >

Compilar com: -pthread (não necessário se JITIFY_THREAD_SAFE estiver definido como 0)

Link com: -lcuda -lcudart -lnvrtc

Um pequeno utilitário chamado stringify está incluído para converter arquivos de texto em literais de string C, o que fornece uma maneira conveniente de integrar fontes compiladas por JIT em uma compilação.

Executando testes

Os testes podem ser executados com o seguinte comando:

$ make test

Isso fará o download e criará automaticamente a biblioteca GoogleTest, que requer que o CMake esteja disponível no sistema.

Documentação

Exemplos

Consulte jitify_example.cpp para obter alguns exemplos de como usar a biblioteca. O Makefile também demonstra como usar o utilitário stringify fornecido.

Palestra GTC 2017 por Ben Barsdell e Kate Clark