Groupe de travail calcul à l’OMP – 24 mai 2019 1
Calcul au Laboratoire d’Aérologie
Jean-Pierre Chaboureau, physicien à l’OMP Philippe Wautelet, ingénieur de recherche du CNRS
2
Activités scientifiques au LA
Trois axes d’activité
• atmosphère météorologique : dynamique, thermodynamique, physique des nuages, électricité, couplage océan-atmosphère
• physico-chimie : troposphère et basse stratosphère
• océanographie côtière : hydrodynamique et biogéochimie, analyse et développement numériques
Groupe de travail calcul à l’OMP – 24 mai 2019
3
Activités scientifiques au LA Des spécificités
• 3 services nationaux d’observation INSU • IAGOS, In service Aircraft for a Global Observation System
• INDAAF, International Network to study Deposition and Atmospheric
chemistry in AFrica
• P2OA, Plate-forme Pyrénéenne d’Observation Atmosphérique
• 3 codes communautaires label et GdR INSU • Méso-NH, modélisation à moyenne échelle de l’atmosphère
• SIROCCO (logiciel SYMPHONIE), Simulation Réaliste de l’OCéan CÔtier
• CROCO, Coastal and Regional Ocean COmmunity model
• Forte implication dans les campagnes de mesure, e.g. • Chantier Méditerranée : HyMeX, MERMEX, ChArMEx (2010-20),
EXAEDRE (2018)… • DACCIWA (2016) en Afrique de l’Ouest • BIO-MAÏDO (2019) sur l’ île de la Réunion
Groupe de travail calcul à l’OMP – 24 mai 2019
4
Traitement de données au LA
Campagnes de mesure, e.g. Données radar HyMeX → analyses vent
traitement temps réel avec cadencement de tâche slurm Observations avions SNO/IR/ERI IAGOS
validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel
valorisation avec calcul rétro trajectoires (FLEXPART et SOFT-IO)
Inversion données spatiales IASI : restitutions CO et O3 depuis 2008 avec SOFRID KOPRA : développement nouveaux capteurs qualité air
Utilisation de la plate-forme du LA pour archivage données, calcul associé en temps réel, réglage et assistance réactive
Production sur machines parallèles centre tier-1 (KOPRA)
Groupe de travail calcul à l’OMP – 24 mai 2019
5
Calcul numérique au LA Méso-NH – label INSU code communautaire – MPI
Dynamique de l’atmosphère, nuages, chimie, électricité, couplage
océan-vagues, 10-200 variables
Symphonie – label INSU code communautaire – MPI (et
modèles couplés Eco3M-S, MUSTANG) Littoral/côtier/régional, hydrodynamique, biogéochimie, transport
sédimentaire, 8-40 variables
CROCO – GdR INSU code communautaire – MPI / OpenMP /
OpenACC Régional/côtier/littoral/LES/DNS, dynamique océan NH & NBQ, 8-
40 variables
Développement numérique communautaire : INRIA, IFREMER,
SHOM, IRD, CNRS, UPS : schémas numériques, calcul haute-
performance…
Couplages : biogéochimie (PISCES), transport sédimentaire
(MUSTANG), downscaling multi-résolutions (AGRIF), atmosphère
(Méso-NH…)
Groupe de travail calcul à l’OMP – 24 mai 2019
6
Calcul numérique au LA
RegCM (Regional Climate Model) - MPI
régional, aérosols, émissions biogéochimiques, dépôts, impact radiatif, santé, couplé avec modèle de surface CLM
GEOS-Chem - OpenMP
global, aérosols, chimie
Groupe de travail calcul à l’OMP – 24 mai 2019
7
Intelligence Artificielle au LA
Prévision de la brume/pollution par les aérosols en Asie
Prévision des événements électriques intenses en Corse
Utilisation de la plate-forme du LA (nœuds avec GPU) pour
débogage, réglages numériques et physiques
Production sur machine parallèle avec GPU de CALMIP (150.000 h/an)
Groupe de travail calcul à l’OMP – 24 mai 2019
8
Utilisation dédiée campagnes au LA
Méso-NH – aide aux campagnes HyMeX, CHUVA, AEROCLO-sA
Symphonie – aide aux campagnes
HyMeX, MERMeX et prévisions Fukushima suite à l’accident de la centrale
Groupe de travail calcul à l’OMP – 24 mai 2019
CROCO – conception et aide aux campagnes en mer
(Gibraltar 2020…) Gradient SSA
9
Utilisation plateformes calcul au LA
Utilisation de la plate-forme Nuwa du LA pour développement : schémas numérique, nouveaux
algorithmes, tests performances numériques, tests d’extensibilité (parallélisme)…,
débogage, réglages numériques (tests de performance , préparation à
mise en production) et physiques (sensibilité émissions), veille technologique nouveaux matériels (GPU…) réservation pour campagnes de mesure traitement monoprocesseur sur grosse mémoire traitement de données en concurrence visualisation
Production sur machines parallèles centres tier-2, -1, -0
Groupe de travail calcul à l’OMP – 24 mai 2019
10
Utilisation calcul actuelle du LA
capacité
nombre de systèmes
Tier-0 Centres
européens
Tier-1 Centres nationaux
Tier-2 Centres régionaux universités
GENCI Méso-NH 4 200 000 h SIROCCO 800 000 h CROCO 300 000 h
CALMIP Méso-NH 1 500 000 h SIROCCO 1 000 000 h CROCO 200 000 h RegCM 400 000 h IA 150 000 h
PCDM (Datarmor)
CROCO 500 000 h
NUWA Méso-NH, Symphonie, CROCO, RegCM, GEOS-Chem, IASI, KOPRA, SOFRID…
2 900 000 h
Groupe de travail calcul à l’OMP – 24 mai 2019
11
Utilisation disque actuelle du LA
capacité
nombre de systèmes
Tier-0 Centres
européens
Tier-1 Centres nationaux
Tier-2 Centres régionaux universités
GENCI Méso-NH 625 To SIROCCO ?
CALMIP Méso-NH 35 To SIROCCO 100 To
CROCO 10 To
Stockage : 700 To au LA et 800 To en-dehors LA
NUWA Méso-NH 120 To
SIROCCO 200 To
IASI 120 To
RegCM+ECCAD 70 To
CROCO 64 To
IAGOS 120 To
Groupe de travail calcul à l’OMP – 24 mai 2019
12
Perspectives calcul au LA
Méso-NH – code communautaire MPI
Utilisation sur très grands nombres de processeurs (750 000 cœurs sur BlueGene/Q Mira INCITE) révision des entrées sorties, format parallèle netCDF généralisation utilisation LES Δx=10-100 m grande grille 2500x2500x200 points, 10-100 variables Portage sur GPU Visualisation grandes grilles
SIROCCO / Symphonie – code communautaire MPI
portages sur BlueGene/Q Turing et PRACE utilisation LES Δx=10-100 m et DNS Δx=1 mm
Groupe de travail calcul à l’OMP – 24 mai 2019
13
Perspectives calcul au LA
CROCO– code communautaire NH/NBQ sous MPI /
OpenMP / OpenACC
LES/DNS : plateforme Coriolis (LEGI), Université de Canberra (Australie), campagnes dédiées
Littoral/côtier : généralisation LES, Régional : généralisation downscaling dynamique, Couplage océan/atmosphère : évènements intenses
(Méso-NH / CROCO), Poursuite développements : performances en utilisation
massivement parallèle, fermeture turbulente LES, portage GPU, modélisation multi-résolution AGRIF…
Groupe de travail calcul à l’OMP – 24 mai 2019
14
Analyse SWOT
Groupe de travail calcul à l’OMP – 24 mai 2019
Forces Faiblesses
Interne • Compétences fortes en calcul et développement numériques au LA
• Complémentarité des compétences au LA (E/C, ITA, ASR)
• Service informatique du LA efficient et expert
• Nuwa : maîtrise d’un cluster de calcul et stockage
• Serveur d’échange de fichiers (SILA) • Serveur Web
documentation/pédagogie (SILA)
• Nuwa : infrastructure contrainte par l’espace physique et les fluides
Externe • Emergence de nouvelles architectures (GPU, FPGA…)
• Nouveaux paradigmes de calcul (IA, machine learning, deep learning…)
• Remplacement de départs à la retraite de personnel non garantie
• Externalisation service informatique du LA