Istanze GPU

Le istanze GPU (Graphics Processing Unit) forniscono calcolo accelerato dall'hardware per i carichi di lavoro che richiedono una massiccia potenza di elaborazione parallela. A differenza delle VM standard, le istanze GPU dispongono di una o più GPU NVIDIA fisiche collegate tramite PCI passthrough, che danno al sistema operativo guest accesso diretto all'hardware GPU.

I casi d'uso tipici includono:

Machine Learning / AI: addestramento dei modelli, inferenza e fine-tuning
Rendering: rendering 3D, codifica video e visualizzazione accelerata da GPU
High-Performance Computing (HPC): simulazioni scientifiche, chimica computazionale e analisi dei dati

Flavor GPU

I flavor GPU sono disponibili in due regioni con hardware GPU diverso. Utilizzi openstack flavor list per vedere tutti i flavor disponibili nel Suo progetto.

NVIDIA L4: regione 1 (`ch-zh1`)

La NVIDIA L4 è una GPU versatile basata sull'architettura Ada Lovelace, con 24 GB di memoria GDDR6. È particolarmente adatta all'inferenza, all'elaborazione video e ai carichi di lavoro ML leggeri.

Flavor	vCPU	RAM	Disco	GPU	Tipo di disco
`p1d.small`	1	2 GB	50 GB	1× L4	Condiviso
`p1d.medium`	1	4 GB	80 GB	1× L4	Condiviso
`p1d.large`	2	8 GB	120 GB	1× L4	Condiviso
`p1d.xlarge`	4	16 GB	240 GB	1× L4	Condiviso
`p1d.2xlarge`	8	32 GB	480 GB	1× L4	Condiviso
`p1d.4xlarge`	16	64 GB	960 GB	1× L4	Condiviso
`p1gd.4xlarge`	16	64 GB	960 GB	1× L4	Dedicato

I flavor p1d condividono il disco tra più tenant sull'hypervisor, mentre i flavor p1gd forniscono un disco dedicato per prestazioni I/O più elevate.

openstack flavor list --long | grep p1d

NVIDIA RTX 6000 Pro Blackwell: regione 2 (`ch-ge1`)

La RTX 6000 Pro è basata sull'architettura Blackwell e offre 96 GB di memoria GDDR7. È ideale per l'inferenza di modelli di grandi dimensioni, il rendering e i carichi di lavoro intensivi in calcolo.

Prefisso del flavor	GPU	VRAM	Regione
`a1g6000d.*`	1× RTX 6000 Pro	96 GB GDDR7	ch-ge1

openstack flavor list --long | grep a1g6000d

NVIDIA H200: regione 2 (`ch-ge1`)

Prossimamente disponibile

I flavor H200 non sono ancora disponibili pubblicamente. Sono elencati qui a scopo di pianificazione. Contatti il supporto se necessita di un accesso anticipato.

La NVIDIA H200 è basata sull'architettura Hopper e dispone di 141 GB di memoria HBM3e. È progettata per i carichi di lavoro di addestramento AI e HPC più impegnativi. I flavor H200 supportano configurazioni multi-GPU con fino a 8 GPU per istanza.

Flavor	vCPU	RAM	Disco	GPU
`a1g200d.16xlarge`	48	192 GB	960 GB	1× H200
`a1g200d.32xlarge`	96	384 GB	960 GB	2× H200
`a1g200d.64xlarge`	192	768 GB	960 GB	4× H200
`a1g200d.128xlarge`	240	1536 GB	1920 GB	8× H200

Immagini GPU

Le istanze GPU richiedono un'immagine abilitata per GPU con driver NVIDIA preinstallati. Sono disponibili le seguenti immagini GPU Ubuntu:

OS	Versioni	Varianti GPU
Ubuntu	22.04, 24.04	GPU, GPU UEFI, GPU UEFI CUDA

GPU: immagine GPU standard con driver NVIDIA
GPU UEFI: immagine GPU avviabile in UEFI con driver NVIDIA
GPU UEFI CUDA: immagine GPU avviabile in UEFI con driver NVIDIA e CUDA toolkit preinstallato

Utilizzi la variante CUDA se necessita del CUDA toolkit per i framework ML. Per i carichi di lavoro di sola inferenza senza dipendenze CUDA, l'immagine GPU standard è sufficiente.

openstack image list --public | grep -i gpu

Vedere Images per la gestione generale delle immagini.

Avvio tramite Horizon

Per distribuire un'istanza GPU tramite la dashboard Horizon:

Passi a Compute > Instances e clicchi su Launch Instance.
Nella scheda Details, inserisca un nome e selezioni una zona di disponibilità nella regione appropriata (ch-zh1 per L4, ch-ge1 per RTX 6000 Pro / H200).
Nella scheda Source, selezioni un'immagine GPU (ad es. Ubuntu 24.04 GPU UEFI CUDA) e crei un nuovo volume.
Nella scheda Flavor, selezioni un flavor GPU (ad es. p1d.xlarge o a1g6000d.*).
Completi le schede rimanenti (Networks, Security Groups, Key Pair) come al solito.
Clicchi su Launch Instance.

Vedere Launch Instance per la procedura completa della procedura guidata.

Avvio tramite CLI

openstack server create gpu-vm \
    --image "Ubuntu 24.04 GPU UEFI CUDA" \
    --flavor p1d.xlarge \
    --key-name my-key \
    --network my-net \
    --security-group default \
    --availability-zone ch-zh1-az2

Per le istanze RTX 6000 Pro nella regione 2:

openstack server create gpu-vm-rtx \
    --image "Ubuntu 24.04 GPU UEFI CUDA" \
    --flavor a1g6000d.4xlarge \
    --key-name my-key \
    --network my-net \
    --security-group default \
    --availability-zone ch-ge1-az1

Tip

Utilizzi openstack flavor list | grep -E 'p1d|a1g6000d|a1g200d' per trovare tutti i flavor GPU disponibili. Una panoramica completa dei flavor è inoltre disponibile sul nostro sito web: Panoramica dei flavor.

Verificare la GPU

Una volta attiva l'istanza, si connetta via SSH e verifichi che la GPU sia visibile:

# List all NVIDIA GPUs
nvidia-smi -L

# Show full GPU status (memory, processes, temperature)
nvidia-smi

# Check CUDA toolkit version (GPU UEFI CUDA images only)
nvcc --version

Esempio di output per un'istanza L4:

$ nvidia-smi -L
GPU 0: NVIDIA L4 (UUID: GPU-xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx)

Se la GPU non è visibile, si assicuri di aver utilizzato un'immagine GPU e un flavor GPU. Verifichi i nodi di dispositivo:

ls -la /dev/nvidia*

Note e limitazioni

Disponibilità per regione: i flavor L4 (p1d.*, p1gd.*) sono disponibili solo nella regione 1 (ch-zh1). Le RTX 6000 Pro (a1g6000d.*) e H200 (a1g200d.*) sono disponibili solo nella regione 2 (ch-ge1).
Nessuna live migration: le istanze GPU non possono essere migrate a caldo. Se l'host sottostante richiede manutenzione, l'istanza deve essere arrestata e riavviata.
Quota: i flavor GPU consumano quota GPU. Verifichi la Sua quota con openstack quota show. Se necessita di quota GPU aggiuntiva, contatti il supporto.
Immagine richiesta: solo le immagini abilitate per GPU includono i driver NVIDIA. Avviare un flavor GPU con un'immagine standard (non GPU) non renderà la GPU accessibile.
Disponibilità H200: i flavor a1g200d.* non sono ancora disponibili pubblicamente. Contatti il supporto per un accesso anticipato.