accelerate

Una biblioteca que permite ejecutar el mismo código PyTorch en cualquier configuración distribuida. Más información: https://huggingface.co/docs/accelerate/index.

• Imprime información del entorno:

accelerate env

• Crea interactivamente un archivo de configuración:

accelerate config

• Imprime el coste estimado en memoria de la GPU al ejecutar un modelo Hugging Face con distintos tipos de datos:

accelerate estimate-memory nombre/modelo

• Prueba un archivo de configuración de Accelerate:

accelerate test --config_file ruta/a/config.yaml

• Ejecuta un modelo en CPU con Accelerate:

accelerate launch ruta/a/script.py –cpu

• Ejecuta un modelo en multi-GPU con Accelerate, con 2 máquinas:

accelerate launch ruta/a/script.py --multi_gpu --num_machines 2