pytorch cpp

C++-Implementierung von PyTorch-Tutorials für alle

Betriebssystem (Compiler)LibTorch	2.3.0
macOS (clang 11, 12, 13)
Linux (gcc 9, 10, 11)
Windows (msvc 2019, 2022)

Inhaltsverzeichnis

Dieses Repository bietet Tutorial-Code in C++ für Deep-Learning-Forscher zum Erlernen von PyTorch (d. h. Abschnitt 1 bis 3).
Python-Tutorial : https://github.com/yunjey/pytorch-tutorial

1. Grundlagen

• PyTorch-Grundlagen
• Lineare Regression
• Logistische Regression
• Feedforward-Neuronales Netzwerk

2. Mittelstufe

• Faltungs-Neuronales Netzwerk
• Tiefes Restnetzwerk
• Wiederkehrendes neuronales Netzwerk
• Bidirektionales wiederkehrendes neuronales Netzwerk
• Sprachmodell (RNN-LM)

3. Fortgeschritten

• Generative gegnerische Netzwerke
• Variationeller Auto-Encoder
• Neuronale Stilübertragung
• Bildunterschrift (CNN-AttentionRNN)

4. Interaktive Tutorials

• Tensor-Slicing

5. Andere beliebte Tutorials

• Deep Learning mit PyTorch: Ein 60-minütiger Blitz

Erste Schritte

Anforderungen

1. C++-17-kompatibler Compiler
2. CMake (Mindestversion 3.19)
3. LibTorch-Version >= 1.12.0 und <= 2.3.0
4. Conda

Für interaktive Tutorials

Hinweis : Interaktive Tutorials werden derzeit in der Nightly-Version von LibTorch ausgeführt.
Daher gibt es einige Tutorials, die bei der Arbeit mit der Nightly-Version abstürzen können.

conda create --name pytorch-cpp
conda activate pytorch-cpp
conda install xeus-cling notebook -c conda-forge

Klonen, erstellen und führen Sie Tutorials aus

In Google Colab

Auf lokaler Maschine

git clone https://github.com/prabhuomkar/pytorch-cpp.git
cd pytorch-cpp

Build-System generieren

cmake -B build # <options>

Hinweis für Windows-Benutzer:
Libtorch unterstützt nur 64-Bit-Windows und es muss ein x64-Generator angegeben werden. Für Visual Studio kann dies durch Anhängen von -A x64 an den obigen Befehl erfolgen.

Einige nützliche Optionen:

Option	Standard	Beschreibung
-D CUDA_V=(11.8|12.1|none)	none	Laden Sie LibTorch für eine CUDA-Version herunter ( none = CPU-Version herunterladen).
-D LIBTORCH_DOWNLOAD_BUILD_TYPE=(Release|Debug)	Release	Bestimmt, welche libtorch-Build-Typ-Version heruntergeladen werden soll (nur relevant unter Windows ).
-D DOWNLOAD_DATASETS=(OFF|ON)	ON	Laden Sie erforderliche Datensätze während des Builds herunter (nur wenn sie nicht bereits in pytorch-cpp/data vorhanden sind).
-D CREATE_SCRIPTMODULES=(OFF|ON)	OFF	Erstellen Sie während des Builds alle erforderlichen Skriptmoduldateien für vorab erlernte Modelle/Gewichte. Erfordert installiertes Python3 mit Pytorch und Torchvision.
-D CMAKE_PREFIX_PATH=path/to/libtorch/share/cmake/Torch	<empty>	Überspringen Sie das Herunterladen von LibTorch und verwenden Sie stattdessen Ihre eigene lokale Version (siehe Anforderungen).
-D CMAKE_BUILD_TYPE=(Release|Debug|...)	<empty>	Bestimmt den CMake-Build-Typ für Einzelkonfigurationsgeneratoren (siehe CMake-Dokumente).

Beispiel Linux

Ziel

• Verwenden Sie die vorhandene Python-, PyTorch- (siehe Anforderungen) und Torchvision-Installation.
• Laden Sie alle Datensätze herunter und erstellen Sie alle erforderlichen Skriptmoduldateien.

Befehl

cmake -B build 
-D CMAKE_BUILD_TYPE=Release 
-D CMAKE_PREFIX_PATH=/path/to/libtorch/share/cmake/Torch 
-D CREATE_SCRIPTMODULES=ON 

Beispielfenster

Ziel

• Laden Sie LibTorch für CUDA 11.8 (Release-Version) und alle erforderlichen Datensätze automatisch herunter.
• Erstellen Sie keine Skriptmoduldateien.

Befehl

cmake -B build 
-A x64 
-D CUDA_V=11.8

Bauen

Hinweis für Windows-Benutzer (Visual Studio):
Das CMake-Skript lädt die Release- Version von LibTorch herunter, daher muss --config Release an den Build-Befehl angehängt werden.

So funktionieren das Herunterladen von Datensätzen und die Erstellung von Skriptmodulen:

• Wenn DOWNLOAD_DATASETS ON ist, werden die Datensätze, die für die Tutorials erforderlich sind, die Sie erstellen möchten, nach pytorch-cpp/data heruntergeladen (sofern sie dort nicht bereits vorhanden sind).
• Wenn CREATE_SCRIPTMODULES auf ON ist, werden die Skriptmoduldateien für die vorab erlernten Modelle/Gewichte, die für die Tutorials erforderlich sind, die Sie erstellen möchten, im model des Quellordners des jeweiligen Tutorials erstellt (sofern sie noch nicht vorhanden sind).

Alle Tutorials

Zum Erstellen aller Tutorials verwenden Sie

cmake --build build

Alle Tutorials in einer Kategorie

Sie können wählen, dass Sie nur Tutorials in einer der Kategorien basics , intermediate , advanced oder popular erstellen möchten. Wenn Sie beispielsweise nur an den basics -Tutorials interessiert sind:

cmake --build build --target basics
# In general: cmake --build build --target {category} 

Einzelnes Tutorial

Sie können sich auch dafür entscheiden, nur ein einziges Tutorial zu erstellen. Um beispielsweise nur das Sprachmodell-Tutorial zu erstellen:

cmake --build build --target language-model
# In general: cmake --build build --target {tutorial-name}

Notiz :
Das Zielargument ist der Ordnername des Tutorials, wobei alle Unterstriche durch Bindestriche ersetzt werden.

Tipp für Benutzer der CMake-Version >= 3.15 :
Sie können mehrere Ziele durch Leerzeichen getrennt angeben, zum Beispiel:

cmake --build build --target language-model image-captioning

Führen Sie Tutorials aus

1. ( WICHTIG! ) Wechseln Sie zunächst innerhalb von build/tutorials in das Verzeichnis des Tutorials. Angenommen, Sie befinden sich im Verzeichnis pytorch-cpp und möchten zum Ordner „Pytorch Basics Tutorial“ wechseln:

    cd build/tutorials/basics/pytorch_basics
   # In general: cd build/tutorials/{basics|intermediate|advanced|popular/blitz}/{tutorial_name}

2. Führen Sie die ausführbare Datei aus. Beachten Sie, dass der Name der ausführbaren Datei der Ordnername des Tutorials ist, wobei alle Unterstriche durch Bindestriche ersetzt sind (z. B. für den Tutorial-Ordner: pytorch_basics -> Name der ausführbaren Datei: pytorch-basics (oder pytorch-basics.exe unter Windows)). So führen Sie beispielsweise das Pytorch-Grundlagen-Tutorial aus:
   
   Linux/Mac

   ./pytorch-basics
   # In general: ./{tutorial-name}

   Windows

   . pytorch-basics.exe
   # In general: .{tutorial-name}.exe

Mit Docker

Finden Sie die neuesten und vorherigen Versionsimages auf Docker Hub.

Sie können die Tutorials (auf der CPU) mithilfe der bereitgestellten Dockerfile und docker-compose.yml Dateien in einem Docker-Container erstellen und ausführen:

1. Erstellen Sie aus dem Stammverzeichnis des geklonten Repositorys das Image:

   docker-compose build --build-arg USER_ID= $( id -u ) --build-arg GROUP_ID= $( id -g )

   Notiz :
   Wenn Sie den Docker-Container ausführen, wird das Host-Repo-Verzeichnis als Volume im Docker-Container bereitgestellt, um Build- und heruntergeladene Abhängigkeitsdateien zwischenzuspeichern, sodass beim Neustart eines Containers nicht alles neu erstellt oder heruntergeladen werden muss. Um über die richtigen Dateiberechtigungen zu verfügen, müssen Sie beim Erstellen des Images unter Linux Ihre Benutzer- und Gruppen-IDs als Build-Argumente angeben.

2. Starten Sie nun den Container und erstellen Sie die Tutorials mit:

   docker-compose run --rm pytorch-cpp

   Dadurch werden alle erforderlichen Abhängigkeiten abgerufen und alle Tutorials erstellt. Nachdem der Build abgeschlossen ist, startet der Container standardmäßig bash im interaktiven Modus im Ordner build/tutorials .
   Wie beim lokalen Build können Sie wählen, nur Tutorials einer Kategorie zu erstellen ( basics , intermediate , advanced , popular ):

   docker-compose run --rm pytorch-cpp {category}

   In diesem Fall wird der Container im Basis-Build-Verzeichnis der gewählten Kategorie gestartet.
   Alternativ können Sie ein Tutorial auch direkt ausführen, indem Sie stattdessen den Befehl „run“ mit einem Tutorialnamen als zusätzlichem Argument aufrufen, zum Beispiel:

   docker-compose run --rm pytorch-cpp pytorch-basics
   # In general: docker-compose run --rm pytorch-cpp {tutorial-name} 

   Dadurch wird – falls erforderlich – das Pytorch-Basics-Tutorial erstellt und dann die ausführbare Datei in einem Container gestartet.

Lizenz

Dieses Repository ist unter MIT lizenziert, wie in LIZENZ angegeben.