pytorch cpp

Implémentation C++ des didacticiels PyTorch pour tout le monde

Système d'exploitation (compilateur)LibTorch	2.3.0
macOS (clang 11, 12, 13)
Linux (gcc 9, 10, 11)
Windows (msvc 2019, 2022)

Table des matières

Ce référentiel fournit du code tutoriel en C++ permettant aux chercheurs en apprentissage profond d'apprendre PyTorch (c'est-à-dire les sections 1 à 3)
Tutoriel Python : https://github.com/yunjey/pytorch-tutorial

1. Les bases

• Les bases de PyTorch
• Régression linéaire
• Régression logistique
• Réseau neuronal à action directe

2. Intermédiaire

• Réseau neuronal convolutif
• Réseau résiduel profond
• Réseau neuronal récurrent
• Réseau neuronal récurrent bidirectionnel
• Modèle de langage (RNN-LM)

3. Avancé

• Réseaux adverses génératifs
• Encodeur automatique variationnel
• Transfert de style neuronal
• Sous-titrage d'images (CNN-AttentionRNN)

4. Tutoriels interactifs

• Découpage tenseur

5. Autres didacticiels populaires

• Deep Learning avec PyTorch : un blitz de 60 minutes

Commencer

Exigences

1. Compilateur compatible C++-17
2. CMake (version minimale 3.19)
3. Version LibTorch >= 1.12.0 et <= 2.3.0
4. Conda

Pour les didacticiels interactifs

Remarque : les didacticiels interactifs sont actuellement en cours d'exécution sur la version nocturne de LibTorch .
Il existe donc certains tutoriels qui peuvent échouer lorsque vous travaillez avec la version nocturne .

conda create --name pytorch-cpp
conda activate pytorch-cpp
conda install xeus-cling notebook -c conda-forge

Cloner, créer et exécuter des didacticiels

Dans Google Colab

Sur la machine locale

git clone https://github.com/prabhuomkar/pytorch-cpp.git
cd pytorch-cpp

Générer un système de build

cmake -B build # <options>

Remarque pour les utilisateurs Windows :
Libtorch ne prend en charge que Windows 64 bits et un générateur x64 doit être spécifié. Pour Visual Studio, cela peut être fait en ajoutant -A x64 à la commande ci-dessus.

Quelques options utiles :

Option	Défaut	Description
-D CUDA_V=(11.8|12.1|none)	none	Téléchargez LibTorch pour une version CUDA ( none = télécharger la version CPU).
-D LIBTORCH_DOWNLOAD_BUILD_TYPE=(Release|Debug)	Release	Détermine la version du type de build libtorch à télécharger (uniquement pertinent sous Windows ).
-D DOWNLOAD_DATASETS=(OFF|ON)	ON	Téléchargez les ensembles de données requis lors de la construction (uniquement s'ils n'existent pas déjà dans pytorch-cpp/data ).
-D CREATE_SCRIPTMODULES=(OFF|ON)	OFF	Créez tous les fichiers de module de script requis pour les modèles/poids pré-appris pendant la construction. Nécessite python3 installé avec pytorch et torchvision.
-D CMAKE_PREFIX_PATH=path/to/libtorch/share/cmake/Torch	<empty>	Ignorez le téléchargement de LibTorch et utilisez plutôt votre propre version locale (voir Exigences).
-D CMAKE_BUILD_TYPE=(Release|Debug|...)	<empty>	Détermine le type de build CMake pour les générateurs à configuration unique (voir la documentation CMake).

Exemple Linux

But

• Utilisez l'installation Python, PyTorch (voir Exigences) et torchvision existante.
• Téléchargez tous les ensembles de données et créez tous les fichiers de module de script nécessaires.

Commande

cmake -B build 
-D CMAKE_BUILD_TYPE=Release 
-D CMAKE_PREFIX_PATH=/path/to/libtorch/share/cmake/Torch 
-D CREATE_SCRIPTMODULES=ON 

Exemples de fenêtres

But

• Téléchargez automatiquement LibTorch pour CUDA 11.8 (version Release) et tous les ensembles de données nécessaires.
• Ne créez pas de fichiers de module de script.

Commande

cmake -B build 
-A x64 
-D CUDA_V=11.8

Construire

Remarque pour les utilisateurs de Windows (Visual Studio) :
Le script CMake télécharge la version Release de LibTorch, donc --config Release doit être ajouté à la commande build.

Comment fonctionnent le téléchargement de jeux de données et la création de modules de script :

• Si DOWNLOAD_DATASETS est ON , les ensembles de données requis par les didacticiels que vous choisissez de créer seront téléchargés sur pytorch-cpp/data (s'ils n'y existent pas déjà).
• Si CREATE_SCRIPTMODULES est ON , les fichiers scriptmodule pour les modèles/poids pré-appris requis par les didacticiels que vous choisissez de créer seront créés dans le dossier model du dossier source du didacticiel respectif (s'ils n'existent pas déjà).

Tous les tutoriels

Pour créer tous les didacticiels, utilisez

cmake --build build

Tous les tutoriels dans une catégorie

Vous pouvez choisir de créer uniquement des tutoriels dans l'une des catégories basics , intermediate , advanced ou popular . Par exemple, si vous êtes uniquement intéressé par les tutoriels basics :

cmake --build build --target basics
# In general: cmake --build build --target {category} 

Tutoriel unique

Vous pouvez également choisir de créer uniquement un seul didacticiel. Par exemple, pour créer le didacticiel du modèle de langage uniquement :

cmake --build build --target language-model
# In general: cmake --build build --target {tutorial-name}

Note :
L'argument cible est le nom du dossier du didacticiel, tous les traits de soulignement étant remplacés par des traits d'union.

Astuce pour les utilisateurs de CMake version >= 3.15 :
Vous pouvez spécifier plusieurs cibles séparées par des espaces, par exemple :

cmake --build build --target language-model image-captioning

Exécuter des didacticiels

1. ( IMPORTANT ! ) Accédez d’abord au répertoire du didacticiel dans build/tutorials . Par exemple, en supposant que vous soyez dans le répertoire pytorch-cpp et que vous souhaitiez accéder au dossier du didacticiel de base de pytorch :

    cd build/tutorials/basics/pytorch_basics
   # In general: cd build/tutorials/{basics|intermediate|advanced|popular/blitz}/{tutorial_name}

2. Exécutez l'exécutable. Notez que le nom de l'exécutable est le nom du dossier du didacticiel avec tous les traits de soulignement remplacés par des traits d'union (par exemple pour le dossier du didacticiel : pytorch_basics -> nom de l'exécutable : pytorch-basics (ou pytorch-basics.exe sous Windows)). Par exemple, pour exécuter le didacticiel de base de Pytorch :
   
   Linux/Mac

   ./pytorch-basics
   # In general: ./{tutorial-name}

   Fenêtres

   . pytorch-basics.exe
   # In general: .{tutorial-name}.exe

Utiliser Docker

Recherchez les images des versions les plus récentes et précédentes sur Docker Hub.

Vous pouvez créer et exécuter les didacticiels (sur le processeur) dans un conteneur Docker à l'aide des fichiers Dockerfile et docker-compose.yml fournis :

1. À partir du répertoire racine du dépôt cloné, créez l'image :

   docker-compose build --build-arg USER_ID= $( id -u ) --build-arg GROUP_ID= $( id -g )

   Note :
   Lorsque vous exécutez le conteneur Docker, le répertoire du dépôt hôte est monté en tant que volume dans le conteneur Docker afin de mettre en cache les fichiers de dépendance de construction et téléchargés afin qu'il ne soit pas nécessaire de tout reconstruire ou de tout télécharger à nouveau lorsqu'un conteneur est redémarré. Afin d'avoir les autorisations de fichiers correctes, il est nécessaire de fournir vos identifiants d'utilisateur et de groupe comme arguments de construction lors de la création de l'image sous Linux.

2. Démarrez maintenant le conteneur et créez les didacticiels en utilisant :

   docker-compose run --rm pytorch-cpp

   Cela récupère toutes les dépendances nécessaires et crée tous les didacticiels. Une fois la construction terminée, par défaut, le conteneur démarre bash en mode interactif dans le dossier build/tutorials .
   Comme pour le build local, vous pouvez choisir de construire uniquement les tutoriels d'une catégorie ( basics , intermediate , advanced , popular ) :

   docker-compose run --rm pytorch-cpp {category}

   Dans ce cas, le conteneur est démarré dans le répertoire de construction de base de la catégorie choisie.
   Alternativement, vous pouvez également exécuter directement un didacticiel en appelant la commande d'exécution avec un nom de didacticiel comme argument supplémentaire, par exemple :

   docker-compose run --rm pytorch-cpp pytorch-basics
   # In general: docker-compose run --rm pytorch-cpp {tutorial-name} 

   Cela permettra - si nécessaire - de construire le didacticiel pytorch-basics, puis de démarrer l'exécutable dans un conteneur.

Licence

Ce référentiel est sous licence MIT comme indiqué dans LICENSE.