AWS intègre les GPU NVIDIA A100

Près de 4 mois après Google, et 3 mois après Microsoft, AWS annonce le support des GPU Nvidia les plus puissantes actuellement, A100, sous la forme d’une nouvelle instance EC2 (Elastic Compute Cloud) dénommée P4d, qui comptera 8 GPU Nvidia A100.
Les instances P4d disposent de 8 GPU NVIDIA A100 Tensor Core capables d’atteindre 2,5 pétaflops de performance de précision mixte et 320 Go de mémoire GPU à haut débit dans une instance EC2. Les instances P4d sont les premières du secteur à offrir une bande passante réseau de 400 Gbps avec les interfaces réseau Elastic Fabric Adapter (EFA) et NVIDIA GPUDirect RDMA pour permettre une communication directe entre les GPU sur les serveurs pour une latence réduite et une plus grande efficacité de mise à l’échelle, ce qui contribue à débloquer les goulots d’étranglement de mise à l’échelle dans les charges de travail distribuées sur plusieurs nœuds. Chaque instance P4d offre également 96 vCPU Intel Xeon Scalable (Cascade Lake), 1,1 To de mémoire système et 8 To de stockage NVMe local.
Source : AWS
Cette nouvelle instance est selon AWS, avant tout destinée à l’entrainement de modèle de Machine Learning, mais aussi à tout workload exigeant en termes de performance de calcul et de mémoire, tels que « l’analyse sismique, la découverte de médicaments, le séquençage de l’ADN, la science des matériaux et la modélisation des risques financiers et d’assurance ».
Si vous êtes intéressés par ces bêtes de course, sachez qu’il vous en coutera 32,77$/heure, et si vous êtes près à réserver une instance sur un an, 19,22 $/heure (ou 11,57 sur 3 ans).