Instances GPU
Les instances GPU (Graphics Processing Unit) fournissent un calcul accéléré par le matériel pour les charges de travail nécessitant une puissance de traitement parallèle massive. Contrairement aux VM standard, les instances GPU disposent d'un ou plusieurs GPU NVIDIA physiques attachés via PCI passthrough, ce qui donne au système d'exploitation invité un accès direct au matériel GPU.
Les cas d'utilisation typiques incluent :
- Machine Learning / AI : entraînement de modèles, inférence et fine-tuning
- Rendering : rendu 3D, encodage vidéo et visualisation accélérée par GPU
- High-Performance Computing (HPC) : simulations scientifiques, chimie computationnelle et analyse de données
Flavors GPU
Les flavors GPU sont disponibles dans deux régions avec un matériel GPU différent. Utilisez openstack flavor list pour voir tous les flavors disponibles dans votre projet.
NVIDIA L4 : région 1 (ch-zh1)
Le NVIDIA L4 est un GPU polyvalent basé sur l'architecture Ada Lovelace, offrant 24 GB de mémoire GDDR6. Il est bien adapté à l'inférence, au traitement vidéo et aux charges de travail ML légères.
| Flavor | vCPU | RAM | Disque | GPU | Type de disque |
|---|---|---|---|---|---|
p1d.small |
1 | 2 GB | 50 GB | 1× L4 | Partagé |
p1d.medium |
1 | 4 GB | 80 GB | 1× L4 | Partagé |
p1d.large |
2 | 8 GB | 120 GB | 1× L4 | Partagé |
p1d.xlarge |
4 | 16 GB | 240 GB | 1× L4 | Partagé |
p1d.2xlarge |
8 | 32 GB | 480 GB | 1× L4 | Partagé |
p1d.4xlarge |
16 | 64 GB | 960 GB | 1× L4 | Partagé |
p1gd.4xlarge |
16 | 64 GB | 960 GB | 1× L4 | Dédié |
Les flavors p1d partagent le disque entre plusieurs locataires sur l'hyperviseur, tandis que les flavors p1gd fournissent un disque dédié pour des performances d'E/S plus élevées.
openstack flavor list --long | grep p1d
NVIDIA RTX 6000 Pro Blackwell : région 2 (ch-ge1)
Le RTX 6000 Pro est basé sur l'architecture Blackwell et offre 96 GB de mémoire GDDR7. Il est idéal pour l'inférence de grands modèles, le rendu et les charges de travail intensives en calcul.
| Préfixe de flavor | GPU | VRAM | Région |
|---|---|---|---|
a1g6000d.* |
1× RTX 6000 Pro | 96 GB GDDR7 | ch-ge1 |
openstack flavor list --long | grep a1g6000d
NVIDIA H200 : région 2 (ch-ge1)
Bientôt disponible
Les flavors H200 ne sont pas encore disponibles publiquement. Ils sont listés ici à des fins de planification. Contactez le support si vous avez besoin d'un accès anticipé.
Le NVIDIA H200 est basé sur l'architecture Hopper et dispose de 141 GB de mémoire HBM3e. Il est conçu pour les charges de travail d'entraînement IA et HPC les plus exigeantes. Les flavors H200 prennent en charge les configurations multi-GPU avec jusqu'à 8 GPU par instance.
| Flavor | vCPU | RAM | Disque | GPU |
|---|---|---|---|---|
a1g200d.16xlarge |
48 | 192 GB | 960 GB | 1× H200 |
a1g200d.32xlarge |
96 | 384 GB | 960 GB | 2× H200 |
a1g200d.64xlarge |
192 | 768 GB | 960 GB | 4× H200 |
a1g200d.128xlarge |
240 | 1536 GB | 1920 GB | 8× H200 |
Images GPU
Les instances GPU nécessitent une image compatible GPU avec des pilotes NVIDIA préinstallés. Les images GPU Ubuntu suivantes sont disponibles :
| OS | Versions | Variantes GPU |
|---|---|---|
| Ubuntu | 22.04, 24.04 | GPU, GPU UEFI, GPU UEFI CUDA |
- GPU : image GPU standard avec pilotes NVIDIA
- GPU UEFI : image GPU amorçable en UEFI avec pilotes NVIDIA
- GPU UEFI CUDA : image GPU amorçable en UEFI avec pilotes NVIDIA et CUDA toolkit préinstallé
Utilisez la variante CUDA si vous avez besoin du CUDA toolkit pour les frameworks ML. Pour les charges de travail d'inférence seule sans dépendances CUDA, l'image GPU standard suffit.
openstack image list --public | grep -i gpu
Voir Images pour la gestion générale des images.
Lancement via Horizon
Pour déployer une instance GPU via le tableau de bord Horizon :
- Accédez à Compute > Instances et cliquez sur Launch Instance.
- Dans l'onglet Details, saisissez un nom et sélectionnez une zone de disponibilité dans la région appropriée (ch-zh1 pour L4, ch-ge1 pour RTX 6000 Pro / H200).
- Dans l'onglet Source, sélectionnez une image GPU (par ex.
Ubuntu 24.04 GPU UEFI CUDA) et créez un nouveau volume. - Dans l'onglet Flavor, sélectionnez un flavor GPU (par ex.
p1d.xlargeoua1g6000d.*). - Complétez les onglets restants (Networks, Security Groups, Key Pair) comme d'habitude.
- Cliquez sur Launch Instance.
Voir Launch Instance pour la procédure complète de l'assistant.
Lancement via la CLI
openstack server create gpu-vm \
--image "Ubuntu 24.04 GPU UEFI CUDA" \
--flavor p1d.xlarge \
--key-name my-key \
--network my-net \
--security-group default \
--availability-zone ch-zh1-az2
Pour les instances RTX 6000 Pro dans la région 2 :
openstack server create gpu-vm-rtx \
--image "Ubuntu 24.04 GPU UEFI CUDA" \
--flavor a1g6000d.4xlarge \
--key-name my-key \
--network my-net \
--security-group default \
--availability-zone ch-ge1-az1
Tip
Utilisez openstack flavor list | grep -E 'p1d|a1g6000d|a1g200d' pour trouver tous les flavors GPU disponibles. Une vue d'ensemble complète des flavors est également disponible sur notre site web : Vue d'ensemble des flavors.
Vérifier le GPU
Une fois l'instance active, connectez-vous en SSH et vérifiez que le GPU est visible :
# List all NVIDIA GPUs
nvidia-smi -L
# Show full GPU status (memory, processes, temperature)
nvidia-smi
# Check CUDA toolkit version (GPU UEFI CUDA images only)
nvcc --version
Exemple de sortie pour une instance L4 :
$ nvidia-smi -L
GPU 0: NVIDIA L4 (UUID: GPU-xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx)
Si le GPU n'est pas visible, assurez-vous d'avoir utilisé une image GPU et un flavor GPU. Vérifiez les nœuds de périphérique :
ls -la /dev/nvidia*
Remarques et limitations
- Disponibilité par région : les flavors L4 (
p1d.*,p1gd.*) ne sont disponibles que dans la région 1 (ch-zh1). Les RTX 6000 Pro (a1g6000d.*) et H200 (a1g200d.*) ne sont disponibles que dans la région 2 (ch-ge1). - Pas de migration à chaud : les instances GPU ne peuvent pas faire l'objet d'une migration à chaud. Si l'hôte sous-jacent nécessite une maintenance, l'instance doit être arrêtée puis redémarrée.
- Quota : les flavors GPU consomment du quota GPU. Vérifiez votre quota avec
openstack quota show. Si vous avez besoin de quota GPU supplémentaire, contactez le support. - Image requise : seules les images compatibles GPU incluent les pilotes NVIDIA. Démarrer un flavor GPU avec une image standard (non GPU) ne rendra pas le GPU accessible.
- Disponibilité H200 : les flavors
a1g200d.*ne sont pas encore disponibles publiquement. Contactez le support pour un accès anticipé.