Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS...

27
Page 1 TEAM DAY GLOBC 21 janvier 2004

Transcript of Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS...

Page 1: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 1

TEAM DAY GLOBC21 janvier 2004

Page 2: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 2

Plan général

•OASIS•PALM•Perspectives PALM-OASIS•Applications PALM

Page 3: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 3

Le coupleur OASIS

•OASIS•L’historique •La communauté aujourd’hui•Le projet PRISM•OASIS3: Finalisation et diffusion•OASIS4: 1ère version d’un coupleur parallèle

•Perspectives OASIS

Page 4: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 4

L’historique d’OASIS

1991: analyse des besoins

1993: OASIS 1.0 (Pipe CRAY et fichiers) 10 ans de couplé tropical

1995: OASIS 2.0 (PVM3) Projet Cathode: couplage distribué

1996: OASIS 2.1 Projet SIDDACLICH: réchauffement global

1998: OASIS 2.2 (SIPC) Projet Demeter: prévision saisonnière

1999: OASIS 2.3 (GMEM - NEC) Projet SINTEX

2000: OASIS 2.4 (MPI2) Projet Predicate: variabilité naturelle

2003: OASIS3 (MPI1 + PSMILe + I/O)

Page 5: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 5

La communauté OASIS aujourd’hui

•CERFACS•METEO-FRANCE (France)•IPSL- LODYC, LMD, LSCE (France)•MERCATOR (France)•ECMWF (UK)•Southampton University (UK)•UCL (Belgique)•MPI - M&D (Allemagne)•U. de Kiel (Norvège)•SMHI (Suède)•U. de Bergen (Norvège)•BMRC (Australie)

•CSIRO (Australie)•U. de Tasmanie (Australie)•NCC (Japon)•JAMSTEC (Japon)•IRI (USA)•AWI (Allemagne) •Met Office (UK)•UGAMP (UK)•KNMI (Pays-Bas)•FSU/COAPS (USA)•LASG (Chine)•INPE/CPTEC (Brésil)

Page 6: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 6

Le projet PRISM

•Objectif:

« développer une infrastructure européenne pour la

modélisation du système climatique global facilitant

l’assemblage, l’exécution et le post-traitement

de modèles couplés basés sur

les composantes-modèles existant en Europe (océan–atmosphère-sol-biogéochimie-chimie

atmosphérique)•Financement: par l’Union Européenne

(4.8 MEuros – 12/2001 – 11/2004)

Page 7: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 7

•Promouvoir des standards pour les ESMs:• Librairie de couplage et I/O (Oasis)

Le projet PRISM

• Environnement de compilation• Environnement de configuration (prepIFS)• Environnement d’exécution et monitoring (SMS)• Post-traitement• Format de données (NetCDF)

Page 8: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 8

Le coupleur OASIS3

1 coupleur monoprocesseur: - échange des champs de couplage- interpolation des champs échangés

Flexibilité, modularité:> nombre arbitraire de modèles (parallèles) et de champs

échangés> fréquences de couplage différentes pour les différents

champs> transformations particulières pour chaque champ

Couplage statique: tous ces paramètres sont fixés initialement

par l’utilisateur dans un fichier d’entrée namcouple

Page 9: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 9

Les nouveautés OASIS3

A

A

A

B

B

B communication directe

A

A

A

file

I/O: transition automatique forcé - couplé

Le coupleur OASIS3

Nouvelle interface de couplage MPI1 ou MPI2

intégration temporelle,

adaptation automatique de la fréquence de

couplage

A

A

A

O

O

O

O

Oasis3

Nouveaux schémas d’interpolations pour différentes grilles (par processus séquentiel sur champs 2D scalaires)

Page 10: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 10

Aujourd’hui:

•Modèles à plus haute résolution efficacement parallélisés

•Fréquences de couplage plus élevées

•Nombre croissant de composantes-modèles

•Nombre croissant de champs (2D - 3D)Réécriture globale (couplage statique):-> flexibilité et modularité -> + parallélisation + optimisation: OASIS4: Driver/Transformer + PSMILe

Le coupleur OASIS4

Page 11: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 11

•Fichiers XML:

•interface de couplage des composantes,

•configuration d’un modèle couplé

Le coupleur OASIS4

Les différences OASIS3-OASIS4

•Parallélisation:

•communication et re-répartition

OB

OB

OB

C

C

C

O1

O1

C

C

T

•calcul des « voisins  » d’interpolation

•Transformer: structure propice à sa future parallélisation

•Interpolation: comme Oasis3 +•Support de champs vectoriels •Support de champs 3D

Page 12: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 12

•Version prototype: 02/2004:Fichiers XML (structure et lecture)Gestion de processus (lancement, communicateurs, …)Interface modèle du PSMILeCommunication et re-répartition parallèleInfrastructure du TransformerQuelques transformations et interpolations de baseFonctionnalités d’I/O

•Développements futurs (~4 pers-ans, au-delà de PRISM):Recherche exacte des voisins en parallèleAutres interpolations (schéma conservatif, 3D, …)Autres transformation locales (réductions, combinaison, …)Parallélisation du TransformerTraitement des vecteursGrilles adaptatives

Le coupleur OASIS4

Page 13: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 13

Perspectives OASIS

OASIS3: Maintien et support OASIS3 Support à Météo-France sur IBM Aide au projet Mercator

Implication du CERFACS dans support continu PRISM (04-07)? •Poursuite des développements OASIS4•Collaboration constructeurs (NEC, SGI, Cray, IBM, …)

Demande d’un ITA CNRS à 50%•Adaptation des modèles français pour le couplage

Re-soumission d’un projet d’infrastructure au FP6 en 03/05

Page 14: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 14

Le coupleur PALM

•OASIS•PALM

•État des lieux •Utilisation de PALM•Perspectives PALM

•Perspectives PALM-OASIS•Applications PALM

Page 15: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 15

État des lieux PALM

Deux produits

PALM_RESEARCHDéveloppement terminé

Formation – Assistance – Documentation – Maintenance - Site Web

Tourne en opérationnel chez MERCATOR

PALM_MPPremière version livrée à MERCATOR : mars 2003

Passage à PALM_MP chez MERCATOR : début 2004

Version plus complète que PALM_RESEARCH : mars 2005

Page 16: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 16

État des lieux PALM

De PALM_RESEARCHSPMD simulant du MPMD avec MPI1

Perte de mémoire avec les codes qui utilisent de la

mémoire statique

Boite à outils d’algèbre non parallèle

à PALM_MPVrai MPMD avec MPI2

Optimisation de la mémoire

Indépendance totale des unités à coupler

Algèbre parallèle

Aspect dynamique plus poussé

Nombre de processeurs des unités

Taille des objets, distribution

Plus de fonctionnalités et de souplesse

Sous objets

Interopérabilité (c, c++, f77 & 90)

MonitorageUnités compatibles coté utilisateur

Page 17: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 17

Utilisation de PALM 1/3

2002 2004MERCATOR Utilisation de PALM_RESEARCH

dans tous les systèmes d’assimilation R&D et opérationnel

Passage progressif à PALM_MPUtilisateurs en augmentation

Globc ORCA_VAR Prévu pour 2003 Débroussaillé, non réalisé Prévu (avec les ressources) pour fin 2004

IPSL/LODYC Utilisation prévue par Ch. Deltel

subordonnée à ORCA_VAR/PALM Interface PALM dans OPA (demande MERCATOR & Globc)

Service Météo du Canada

CollaborationPas prêts tout de suite

Stage 6 mois ENM sur la PALMisation de la chaîne de prévision

ECMWF Présentations effectuées Avec ORCA_VAR/PALM ?

Communauté Météo et Océano

Page 18: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 18

Utilisation de PALM 2/3

2002 2004METEO FRANCE Rien ne bouge Projet ASSET : MOCAGE avec

PALM réalisé.Chimie PNCA (D. Cariolle)Suite ASSET ?

EDF Thèse Sébastien Massart Contrat neutronique (G. Gacon)…

EADS Avec CFD.EADS Potentiellement intéressé

Proto de Couplage fluide/structure effectué (Julien Delbove)

Maquette en cours de développementTravail de Frieder Loercher / Steeve Champagneux

CNES Chimie ?Base de données Ether.

Partenaires du CERFACS

Page 19: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 19

Utilisation de PALM 3/3

Autres

2002 2004CEA Contact pris Deux personnes du projet

PAL/SALOME (CEA & EDF) formées à PALM

Cours PALM à l’école d’été CEA EDF sur le calcul parallèle.

Divers : Demandes depuis site Web

½ douzainePeu de retours

Page 20: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 20

Perspectives PALM : Développement

En chantier

Pour mars 2004 (Contrat MERCATOR) :

PALM_MP en phase de tests et d’optimisation, aide au passage à PALM_MP

Planifié

Pour mars 2005 (Appel d’offre MERCATOR), deux personnes :

Algèbre parallèle

Taille dynamique des espaces

Héritage des espaces comme pour l’algèbre

À proposer

Selon les besoins de MERCATOR :

-IO parallèles

-Interpolation spatiale

Page 21: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 21

Perspectives PALM : Applications

ORCA_VAR/PALM

Développement de la chaîne sous PALM pour diffusion : Lodyc, ECMWF, MERCATOR

Assimilation de donnés en Chimie de l’atmosphère.

Projet ADOMOCA : Daniel Cariolle

Suite D’ASSET ?

EDF

Neutronique : Guillaume Gacon

Page 22: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 22

Perspectives OASIS-PALM

Répondre de façon concertée aux besoins de couplage dans la communauté scientifique

Fusion des logiciels?Produits distincts mais certaines fonctionnalités communesTechniquement réalisable (~12-18 personnes-mois) Maintenance facilitée?Souhaitable pour ceux qui utilisent à la fois OASIS et PALM: MERCATOR, chimie, … Pas forcément souhaitable pour les utilisateurs actuels d’OASIS

Tâche de service?

Page 23: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 23

OASIS-PALM

Fin de la présentation

Page 24: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 24

Interpolations/transformations

Processus séquentiel Oasis3

Champs 2D scalaires RPN Fast Scalar INTerpolator

• +proche voisin, bilinéaire, bicubique pour grilles régulières Lat-Lon

SCRIP1.4 (Los Alamos Software Release LACC 98-45):

•+proche voisin, « remapping » conservatif 1er et 2e ordre toutes grilles• bilinéaire et bicubique grilles cartésiennes [lat(i,j) lon(i,j)]

Interpolation bilinéaire et bicubique pour grilles atmos. réduites. Autres transformations spatiales: correction de flux, combinaison, ... Opérations algébriques générales

Le coupleur OASIS3

Page 25: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 25

Configuration d’un modèle couplé avec OASIS4:

Fichiers XML de description d’un code:

•AD: Application Description

•PMIOD: Potential Model Input and Output Description

Fichier XML de configuration d’un modèle couplé:

•SCC: Specific Coupling Configuration

•SMIOC: Specific Model Input and Output Configuration

Prospective: le coupleur OASIS4

Les différences OASIS3-OASIS4

Page 26: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 26

La communication:

Nouvelle librairie PSMILe basée sur MPI1 ou MPI2

Calcul en parallèle des intersections de partitions source-cible et des « voisins » d’interpolation par la PSMILe source Extraction du champ utile seulement. I/O: transition automatique mode forcé - mode couplé Adaptation automatique à la fréquence de couplage des SMIOC

Intégration temporelle automatique si indiquée dans les SMIOC

Communication et répartition parallèle basée sur le domaine géographique de chaque processus, directement ou via le Transformer

OB

OB

OB

C

C

C

O1

O1

C

C

T

Prospective: le coupleur OASIS4

Page 27: Page 1 TEAM DAY GLOBC 21 janvier 2004 Page 2 Plan général OASIS PALM Perspectives PALM-OASIS Applications PALM.

Page 27

Les interpolations/transformations (Transformer)

Prospective: le coupleur OASIS4

T

Réagit en boucle sur des demandes d’action envoyées par les différents PSMILes:

•envoi des intersections de partitions source-cible•envoi des voisins•envoi ou réception d’une intersection de partition d’un champ

Traite indépendamment l’intersection de chaque couple de partition source-cible

Structure propice à sa future parallélisation

Interpolation: comme Oasis3 +•Support de champs vectoriels •Support de champs 3D