Usando la partición gpu-2

La partición gpu-2

En la partición gpu-2 cada A100 se divide en dos instancias MIG de ~20 GB (3g.20gb). Use esta partición para trabajos de GPU grandes.

¿Cuando debemos elegir la partición gpu-3?

• Si ya hemos pasado por la partición gpu-3 y tenemos experiencia en el uso de las GPUs.
• Si nuestro modelo necesita ~20 GB de VRAM.
• Si no estamos ejecutando pruebas o conceptos.

Ejemplos

Ejemplo interactivo:

salloc --partition=gpu-2 -n 1 --cpus-per-task=8 --mem=20G --gres=gpu:1

Plantilla de batch (copia y pega y ajusta parámetros):

#!/bin/bash
#SBATCH -p gpu-2
#SBATCH -n 1
#SBATCH --cpus-per-task=8
#SBATCH --mem=20G
#SBATCH --gres=gpu:1
#SBATCH --time=04:00:00

module purge
module load CUDA/12.4.0

nvidia-smi
# ejecuta aquí tu trabajo GPU