jitify Télécharger - jitify Téléchargement du code source

jitify

C/C++

1.0.0

Télécharger

Jitifier

Une bibliothèque C++ à en-tête unique pour simplifier l'utilisation de CUDA Runtime Compilation (NVRTC).

Raisonnement

L'intégration de NVRTC dans du code CUDA existant et/ou modélisé peut être délicate. Jitify vise à simplifier ce processus en cachant les complexités derrière une interface simple et de haut niveau.

Exemple rapide

 const char * program_source = " my_program n "
    " template n "
    " __global__ n "
    " void my_kernel(T* data) { n "
    "    T data0 = data[0]; n "
    "    for( int i=0; in "
    "        data[0] *= data0; n "
    "    } n "
    " } n " ;
static jitify::JitCache kernel_cache;
jitify::Program program = kernel_cache.program(program_source);
// ...set up data etc.
dim3 grid ( 1 );
dim3 block ( 1 );
using jitify::reflection::type_of;
program.kernel( " my_kernel " )
       .instantiate( 3 , type_of(*data))
       .configure(grid, block)
       .launch(data);

Caractéristiques

Jitify fournit/prend en charge les éléments suivants :

Tous les appels API des pilotes NVRTC et CUDA
Instanciation simple du noyau et syntaxe de lancement
Mise en cache des noyaux compilés
Chargement du code source à partir de chaînes, de fichiers ou intégré dans un exécutable
Ignorer le code hôte dans les sources compilées au moment de l'exécution
Ignorer les en-têtes inutiles
Prise en charge des en-têtes de bibliothèque standard sécurisés JIT (par exemple, float.h, stdint.h, etc.)
Gérer la modification du nom du noyau
Refléter les paramètres du modèle de noyau dans des chaînes
Compilation spécifiquement pour la capacité de calcul de l'appareil actuel
Lien vers des fichiers PTX/CUBIN/FATBIN/objet/bibliothèque précompilés
Prise en charge des versions CUDA 7.0, 7.5, 8.0, 9.x, 10.x, sous Linux et Windows
Fonction parallèle_for pratique et prise en charge lambda
*Nouveau* L'API jitify::experimental fournit des capacités de sérialisation pour permettre le hachage et la mise en cache gérés par l'utilisateur.

Choses que vous pouvez faire avec Jitify et NVRTC :

Portez rapidement le code existant pour utiliser la compilation d'exécution CUDA
Réduisez considérablement le volume de code et les temps de compilation hors ligne
Augmentez les performances du noyau en intégrant les constantes d'exécution et le réglage automatique

Comment construire

Jitify n'est qu'un seul fichier d'en-tête :

# include < jitify.hpp >

Compiler avec : -pthread (pas nécessaire si JITIFY_THREAD_SAFE est défini à 0)

Lien avec : -lcuda -lcudart -lnvrtc

Un petit utilitaire appelé stringify est inclus pour convertir des fichiers texte en chaînes littérales C, ce qui constitue un moyen pratique d'intégrer des sources compilées JIT dans une version.

Exécution de tests

Les tests peuvent être exécutés avec la commande suivante :

$ make test

Cela téléchargera et créera automatiquement la bibliothèque GoogleTest, ce qui nécessite que CMake soit disponible sur le système.

Documentation

Exemples

Voir jitify_example.cpp pour quelques exemples d'utilisation de la bibliothèque. Le Makefile montre également comment utiliser l'utilitaire stringify fourni.

Conférence GTC 2017 par Ben Barsdell et Kate Clark