Supercalculateur et Deep Learning

Capture d’écran 2019-02-05 à 11.48.45.pngIBM Summit, le super calculateur le plus puissant du monde (titre conquis le printemps dernier) est situé au sein du laboratoire américain Oak Ridge National Lab, qui dépend du ministère de l’énergie US. Cette machine est conçue à base de GPU Nvidia, et pas qu’un peu puisqu’elle en compte 27 000 (Plus quelques 9000 CPU IBM)… Une telle puissance de calcul ne pouvait bien entendu pas laisser indifférent les experts en Deep Learning. Un projet a donc démarré pour traiter d’un sujet qui mobilise beaucoup d’énergie aujourd’hui : le changement climatique.  Le domaine de la météo est historiquement un des grands utilisateurs de super calculateurs et de grande puissance de calcul, notamment avec les machines Cray. Sur ces super calculateurs, les chercheurs font tourner des systèmes de calcul qui nécessitent pour étudier les impacts du changement climatique, de disposer de prédictions sur un siècle. La quantité d’information générée est donc gigantesque, et son analyse n peut se faire avec les moyens classiques. C’est là que l’IA entre en jeu.

On retrouve bien entendu des équipes d’IBM et Nvidia associées au projet. Des équipes de Google contribuent également, pour adapter la bibliothèque logicielle Tensor Flow (environnement open source développé de Machine Learning par Google) à la machine Summit. Google dispose dans ses propres datacenters de puissance de calcul considérable sur lequel Tensor Flow s’exprime déjà. La différence c’est qu’ici il ne s’agit pas réseaux d’ordinateurs collaborant entre eux pour résoudre un problème, mais bien d’une seule et même machine. Summit met à disposition une puissance « centrale » considérable. Google estime ainsi qu’une configuration rassemblant 1000 TPU (Tensor Processing Unit) le composant matériel le plus récent conçu et utilisé par la société de Mountain View pour entrainer ses modèles Deep Learning, permet de délivrer 100 pétaflops, soit 1/10 de ce dont permet de disposer Summit !

On connaissait depuis l’été dernier (et la confirmation de Summit comme super calculateur le plus puissant du monde) les capacités des architectures massivement parallèles à base de GPU à fournir des puissances de calcul énormes. On savait que ces architectures à base de GPU étaient aussi des outils très largement utilisés pour les solutions des Deep Learning. Avec le projet mentionné plus haut, on sait maintenant que des supercalculateurs à base de GPU peuvent booster de façon considérable les moyens à disposition des problématiques les plus consommatrices.

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.