Changes between Version 18 and Version 19 of PerformancesIPSLCM5A


Ignore:
Timestamp:
09/20/11 17:56:05 (13 years ago)
Author:
mafoipsl
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • PerformancesIPSLCM5A

    v18 v19  
    3737|| jade || 32 || 60h  || '''1920 h''' || 
    3838 
     39==== Résolution 144x142x39 - ORCA2 ==== 
     40 
     41'''Mesure consommation 10 ans''' 
     42|| machine || Nb CPU || Temps réel || '''Temps à demander''' || 
     43|| titane || 64 || ??  || '''??''' || 
     44 
     45Test en cours (20/9/2011) 
    3946 
    4047=== IDRIS IBM vargas === 
     
    7582 * Les post-traitements des simulations faites sur titane (et sur le SX9) se font actuellement sur cesium. Nous rencontrons des difficultés car cesium est trop petite pour absorber toute la charge des post-traitements.  
    7683   * Une première action a été de faire les rebuild sur la frontale de titane. Utiliser libIGCM_v1_11 pour cela. 
    77    * Pour pouvoir faire tous les post-traitements sur cesium il faudrait : 
     84   * Pour pouvoir faire tous les post-traitements sur titane il faudrait : 
    7885      * disposer des outils nco et C° nécessaires (rappeler la liste svp) 
    7986      * avoir la possibilités de lancer jusque 150 jobs à la fois, en classe scalaire sur vargas. C'est ce que peut soumettre le script !TimeSeriesChecker de vérification des TS 
     
    8289 * Le nombre d'inodes sur /dmnfs 
    8390   * Une simulation de type historical produit plus de 120 000 fichiers. 
    84      * Les répertoires ATLAS et MONITORING sont sur /dmnfs pour être accessibles par dods.  Au TGCC, il est prévu d'avoir un autre espace visible depuis dods. Quand ce sera prêt on stockera les ATLAS (20 000) et MONITORING (400 fichiers) là et on en fera un tar pour stocker un seul fichier sur STOREDIR 
    85      * Les fichiers de type Analyse et SE (2000 fichiers) resteront en l'état 
     91     * Les répertoires ATLAS et MONITORING sont sur /dmnfs pour être accessibles par dods.   
     92         * Au TGCC, il est prévu d'avoir un 2ème espace visible depuis dods. Quand ce sera prêt on stockera les ATLAS (20 000) et MONITORING (400 fichiers) là et on en fera un tar pour stocker un seul fichier sur STOREDIR 
     93     * Les fichiers de type Analyse et SE (2000 fichiers) resteront en l'état. A noter ils sont également visible depuis dods. Il y aura donc 2 serveurs dods. 
    8694     * Les fichiers de type Restart (22 000 fichiers) seront gardés une fois par an au lieu de une fois par mois de simulation. (2 000 fichiers au final) 
    87      * Les fichiers de type Output seront regroupés (commande nccat) par an dans un répertoire Packed (au lieu de Output). 
    88      * Les fichiers de type texte seront regroupés par an.  
    89   * Le travail de développement nécessaire est important : script de Package/Verification/Ménage, modification des scripts de TS pour tenir compte de la nouvelle arborescence, ... et un soutien ingénieur est demandé. 
    90   * Dans un 2ème temps, un cache sera mis en place dans la chaine pour stocker les fichiers et minimiser les transferts. 
     95     * Les fichiers de type Output seront regroupés (commande nccat) par an dans un répertoire Packed (au lieu de Output). Regroupement par 10 ans pou IPSLCM5A-LR et par 5 ans pour IPSLCM5A-MR. 
     96     * Les fichiers de type texte seront regroupés par an ou plus (cat). 
     97  * Le travail de développement nécessaire est important et un soutien ingénieur spécifique est demandé. Besoins déjà répertoriés  :  
     98     * script de !Package/Verification/Ménage, modification des scripts de TS pour tenir compte de la nouvelle arborescence, diffusion de cette pratique à tous, ... 
     99     * mise en place d'un cache dans la chaine pour stocker les fichiers produits par les simus, les accéder depuis les jobs de post-traitements et stocker in fine sur SCRATCHDIR des fichiers qui ne seront plus utilisés par la chaine de production. 
    91100 
    92101==== Résolution 96x95x39 - ORCA2 ==== 
     
    95104|| machine || Nb CPU || Temps réel || '''Temps à demander''' || 
    96105|| titane || 32 || 35 h  || '''1120 h''' || 
     106 
     107Attention aux ressources pour le post-traitement.  
     108 
     109Attention au nombre de fichiers sur le stockage. 
     110 
     111==== Résolution 144x142x39 - ORCA2 ==== 
     112 
     113'''Mesure consommation 10 ans''' 
     114|| machine || Nb CPU || Temps réel || '''Temps à demander''' || 
     115|| titane || 64 || ??  || '''??''' || 
     116 
     117Test en cours (20/9/2011) 
    97118 
    98119Attention aux ressources pour le post-traitement.