IPU-POD
Nos solutions et services
01.
8 GPU NVIDIA A100 AVEC 320 GO DE MÉMOIRE GPU TOTALE
12 liaisons NVLink par GPU, 600 Go/s de bande passante GPU-vers-GPU
02.
6 MODULES NVSWITCH DE SECONDE GÉNÉRATION
4,8 To/s de bande passante bidirectionnelle, soit 2 fois plus que la génération précédente
03.
9 adaptateurs Mellanox ConnectX-6 VPI HDR InfiniBand 200Gb Ethernet
225 Go/s de bande passante bidirectionnelle maximale
04.
DEUX CPU AMD 0 64 CŒURS ET 1 TO DE MÉMOIRE SYSTÈME
2,7x plus de cœurs pour prendre en charge les opérations d’IA les plus intensives
05.
DISQUES SSD NVME GEN4 DE 15 TO
25,6 Go/s de bande passante maximale, 2x plus rapide qu’un SSD NVME Gen3
Pour voir toutes les spécifications
innovations technologiques
Principaux frameworks pré-installés
Essentiel pour les data centers dédiés à l'IA
Système universel d’IA
Système universel pour les infrastructures d’IA, NVIDIA DGX A100 peut traiter une grande variété de charges de travail allant de l’analyse de données à l’entraînement en passant par l’inférence. Doté d’une puissance de calcul sans précédent de 5 pétaflops dans une configuration au format 6U, le système A100 définit un nouveau standard pour la densité de calcul et remplace les infrastructures héritées avec une plateforme unique pour toutes les charges de travail d’IA.
DGXperts : accès à une expertise inégalée
NVIDIA DGXperts est un programme qui regroupe une équipe internationale de plus de 14 000 professionnels, spécialisés dans l’intelligence artificielle et possédant plus d’une décennie d’expérience, qui vous aideront à maximiser votre retour sur investissement avec les systèmes DGX.
Réduction majeure des délais de déploiement
NVIDIA DGX A100 est le tout premier système au monde basé sur le GPU NVIDIA A100 Tensor Core à hautes performances. Équipé d’un total de huit GPU A100, le système A100 délivre une accélération incomparable du calcul informatique et a été spécialement optimisé pour l’environnement logiciel NVIDIA CUDA-X™. Il prend en charge la pile de solutions de bout en bout NVIDIA pour Data Center.
Évolutivité inégalée pour les Data Centers
Le système NVIDIA DGX A100 comporte des fonctionnalités Mellanox de mise en réseau fournissant une bande passante bidirectionnelle pouvant atteindre 225 gigaoctets par seconde (Go/s). Cette fonctionnalité s’ajoute aux nombreuses autres innovations technologiques qui font du système DGX A100 une base fondamentale des clusters avancés d’IA tels que NVIDIA DGX SuperPOD™, la solution d’entreprise incontournable pour les infrastructures d’IA à haut degré d’évolutivité.
Performances révolutionnaires
Analyse de données
PageRank
Graph Edges per Second (Billions)
3,000X CPU Servers vs. 4X DGX A100. Published Common Crawl Data Set: 128B Edges, 2.6TB Graph.
Entraînement
NLP: BERT-Large
Sequences per Second
BERT Pre-Training Throughput using PyTorch including (2/3)Phase 1 and (1/3)Phase 2. Phase 1 Seq Len = 128, Phase 2 Seq Len = 512. V100: DGX-1 with 8X V100 using FP32 precision. DGX A100: DGX A100 with 8X A100 using TF32 precision.
Inférence
Peak Compute
TeraOPS per Second
CPU Server: 2X Intel Platinum 8280 using INT8. DGX A100: DGX A100 with 8X A100 using INT8 with Structural Sparsity.
