pytorch gpu genai project

Proyecto pytorch-gpu-genai

Repositorio que contiene andamios para un proyecto de IA generativa basado en Python 3 con aceleración de GPU utilizando el ecosistema PyTorch.

Creando un nuevo proyecto a partir de esta plantilla

Simplemente siga las instrucciones para crear un nuevo repositorio de proyectos a partir de esta plantilla.

organización del proyecto

La organización del proyecto se basa en ideas de Good Enough Practices for Scientific Computing .

1. Coloque cada proyecto en su propio directorio, que lleva el nombre del proyecto.
2. Coloque scripts externos o programas compilados en el directorio bin .
3. Coloque datos sin procesar y metadatos en un directorio data .
4. Coloque los documentos de texto asociados con el proyecto en el directorio doc .
5. Coloque todos los archivos relacionados con Docker en el directorio docker .
6. Instale el entorno Conda en un directorio env .
7. Coloque todos los cuadernos en el directorio notebooks .
8. Coloque los archivos generados durante la limpieza y el análisis en un directorio results .
9. Coloque el código fuente del proyecto en el directorio src .
10. Nombra todos los archivos para reflejar su contenido o función.

Construyendo el entorno Conda

Después de agregar las dependencias necesarias que deben descargarse a través de conda al archivo environment.yml y las dependencias que deben descargarse a través de pip al archivo requirements.txt , crea el entorno Conda en un subdirectorio ./env del directorio de su proyecto mediante ejecutando los siguientes comandos.

 export ENV_PREFIX= $PWD /env
mamba env create --prefix $ENV_PREFIX --file environment.yml --force

Una vez creado el nuevo entorno, puede activarlo con el siguiente comando.

conda activate $ENV_PREFIX

Tenga en cuenta que el directorio ENV_PREFIX no está bajo control de versiones, ya que siempre se puede volver a crear según sea necesario.

Para su comodidad, estos comandos se han combinado en un script de shell ./bin/create-conda-env.sh . La ejecución del script de shell creará el entorno Conda, activará el entorno Conda y creará JupyterLab con cualquier extensión adicional. El script debe ejecutarse desde el directorio raíz del proyecto de la siguiente manera.

./bin/create-conda-env.sh

Cabra montés

La forma más eficiente de crear entornos Conda en Ibex es iniciar el script de creación del entorno como un trabajo en la partición de depuración a través de Slurm. Para su comodidad, se incluye un script de trabajo de Slurm ./bin/create-conda-env.sbatch . El script debe ejecutarse desde el directorio raíz del proyecto de la siguiente manera.

sbatch ./bin/create-conda-env.sbatch

Listado del contenido completo del entorno Conda.

La lista de dependencias explícitas para el proyecto se incluye en el archivo environment.yml . Para ver la pérdida completa de paquetes instalados en el entorno, ejecute el siguiente comando.

conda list --prefix $ENV_PREFIX

Actualización del entorno de Conda

Si agrega (elimina) dependencias a (desde) el archivo environment.yml o el archivo requirements.txt después de que el entorno ya se haya creado, puede volver a crear el entorno con el siguiente comando.

$ mamba env create --prefix $ENV_PREFIX --file environment.yml --force

Usando ventana acoplable

Para crear imágenes de Docker para su proyecto y ejecutar contenedores con aceleración de GPU, deberá instalar Docker, Docker Compose y el tiempo de ejecución de NVIDIA Docker.

Las instrucciones detalladas para usar Docker para construir, generar imágenes y lanzar contenedores se pueden encontrar en docker/README.md .