pytorch gpu genai project

Pytorch-GPU-Genai-Projekt

Repository mit Gerüst für ein Python 3-basiertes generatives KI-Projekt mit GPU-Beschleunigung unter Verwendung des PyTorch-Ökosystems.

Erstellen Sie ein neues Projekt aus dieser Vorlage

Befolgen Sie einfach die Anweisungen, um aus dieser Vorlage ein neues Projekt-Repository zu erstellen.

Projektorganisation

Die Projektorganisation basiert auf Ideen von Good Enough Practices for Scientific Computing .

1. Legen Sie jedes Projekt in einem eigenen Verzeichnis ab, das nach dem Projekt benannt ist.
2. Legen Sie externe Skripte oder kompilierte Programme im bin Verzeichnis ab.
3. Legen Sie Rohdaten und Metadaten in einem data ab.
4. Legen Sie mit dem Projekt verknüpfte Textdokumente im doc ab.
5. Legen Sie alle Docker-bezogenen Dateien im docker -Verzeichnis ab.
6. Installieren Sie die Conda-Umgebung in einem env -Verzeichnis.
7. Legen Sie alle Notizbücher im Verzeichnis notebooks ab.
8. Legen Sie die während der Bereinigung und Analyse generierten Dateien in einem results ab.
9. Legen Sie den Projektquellcode im src Verzeichnis ab.
10. Benennen Sie alle Dateien entsprechend ihrem Inhalt oder ihrer Funktion.

Aufbau der Conda-Umgebung

Nachdem Sie alle erforderlichen Abhängigkeiten, die per conda heruntergeladen werden sollen, zur Datei environment.yml und alle Abhängigkeiten, die per pip heruntergeladen werden sollen, zur Datei requirements.txt hinzugefügt haben, erstellen Sie die Conda-Umgebung in einem Unterverzeichnis ./env Ihres Projektverzeichnisses Führen Sie die folgenden Befehle aus.

 export ENV_PREFIX= $PWD /env
mamba env create --prefix $ENV_PREFIX --file environment.yml --force

Sobald die neue Umgebung erstellt wurde, können Sie die Umgebung mit dem folgenden Befehl aktivieren.

conda activate $ENV_PREFIX

Beachten Sie, dass das Verzeichnis ENV_PREFIX nicht der Versionskontrolle unterliegt, da es bei Bedarf jederzeit neu erstellt werden kann.

Zur Vereinfachung wurden diese Befehle in einem Shell-Skript ./bin/create-conda-env.sh zusammengefasst. Durch Ausführen des Shell-Skripts wird die Conda-Umgebung erstellt, die Conda-Umgebung aktiviert und JupyterLab mit allen zusätzlichen Erweiterungen erstellt. Das Skript sollte wie folgt aus dem Projektstammverzeichnis ausgeführt werden.

./bin/create-conda-env.sh

Steinbock

Der effizienteste Weg, Conda-Umgebungen auf Ibex zu erstellen, besteht darin, das Umgebungserstellungsskript als Job auf der Debug-Partition über Slurm zu starten. Für Ihre Bequemlichkeit ist ein Slurm-Jobskript ./bin/create-conda-env.sbatch enthalten. Das Skript sollte wie folgt aus dem Projektstammverzeichnis ausgeführt werden.

sbatch ./bin/create-conda-env.sbatch

Auflistung des vollständigen Inhalts der Conda-Umgebung

Die Liste der expliziten Abhängigkeiten für das Projekt ist in der Datei environment.yml aufgeführt. Um den vollständigen Verlust der in der Umgebung installierten Pakete anzuzeigen, führen Sie den folgenden Befehl aus.

conda list --prefix $ENV_PREFIX

Aktualisieren der Conda-Umgebung

Wenn Sie Abhängigkeiten zur Datei environment.yml oder requirements.txt hinzufügen (entfernen), nachdem die Umgebung bereits erstellt wurde, können Sie die Umgebung mit dem folgenden Befehl neu erstellen.

$ mamba env create --prefix $ENV_PREFIX --file environment.yml --force

Mit Docker

Um Docker-Images für Ihr Projekt zu erstellen und Container mit GPU-Beschleunigung auszuführen, müssen Sie Docker, Docker Compose und die NVIDIA Docker-Laufzeitumgebung installieren.

Detaillierte Anweisungen zur Verwendung von Docker zum Erstellen, Abbilden und Starten von Containern finden Sie in docker/README.md .