| 102 | | 2 difficultés majeurs sur titane : |
| 103 | | |
| 104 | | * Les post-traitements des simulations faites sur titane (et sur le SX9) se font actuellement sur cesium. Nous rencontrons des difficultés car cesium est trop petite pour absorber toute la charge des post-traitements. |
| 105 | | * Une première action a été de faire les rebuild sur la frontale de titane. Utiliser libIGCM_v1_11 pour cela. |
| 106 | | * Pour pouvoir faire tous les post-traitements sur titane il faudrait : |
| 107 | | * disposer des outils nco et C° nécessaires (rappeler la liste svp) |
| 108 | | * avoir la possibilités de lancer jusque 150 jobs à la fois, en classe scalaire sur titane. C'est ce que peut soumettre le script !TimeSeriesChecker de vérification des TS |
| 109 | | * avoir la possibilité de tourner une vingtaine de jobs de type scalaire simultanément par utilisateur |
| 110 | | * disposer de l'espace TMPDIR nécessaire à ces jobs de post-traitements qui tourneraient simultanément. |
| 111 | | * Le nombre d'inodes sur /dmnfs |
| 112 | | * Une simulation de type historical produit plus de 120 000 fichiers. |
| 113 | | * Les répertoires ATLAS et MONITORING sont sur /dmnfs pour être accessibles par dods. |
| 114 | | * Au TGCC, il est prévu d'avoir un 2ème espace visible depuis dods. Quand ce sera prêt on stockera les ATLAS (20 000) et MONITORING (400 fichiers) là et on en fera un tar pour stocker un seul fichier sur STOREDIR |
| 115 | | * Les fichiers de type Analyse et SE (2000 fichiers) resteront en l'état. A noter ils sont également visible depuis dods. Il y aura donc 2 serveurs dods. |
| 116 | | * Les fichiers de type Restart (22 000 fichiers) seront gardés une fois par an au lieu de une fois par mois de simulation. (2 000 fichiers au final) |
| 117 | | * Les fichiers de type Output seront regroupés (commande nccat) par an dans un répertoire Packed (au lieu de Output). Regroupement par 10 ans pou IPSLCM5A-LR et par 5 ans pour IPSLCM5A-MR. |
| 118 | | * Les fichiers de type texte seront regroupés par an ou plus (cat). |
| 119 | | * Le travail de développement nécessaire est important et un soutien ingénieur spécifique est demandé. Besoins déjà répertoriés : |
| 120 | | * script de !Package/Verification/Ménage, modification des scripts de TS pour tenir compte de la nouvelle arborescence, diffusion de cette pratique à tous, ... |
| 121 | | * mise en place d'un cache dans la chaine pour stocker les fichiers produits par les simus, les accéder depuis les jobs de post-traitements et stocker in fine sur SCRATCHDIR des fichiers qui ne seront plus utilisés par la chaine de production. |
| 122 | | |
| 123 | | Voir aussi [wiki:BasculeCCRTTGCC] |
| | 104 | Avril 2012 : depuis libIGCM_v2.0_beta1 les post-traitements titane se font sur titane et les fichiers produits sont packés. Une simulation de type historical produisit 120 000 fichiers. Elle produit maintenant 7000 fichiers. |
| | 105 | |
| | 106 | Le post-traitement sur titane pose un problème de comptabilité puisqu'ils sont comptabilisés 8 fois comme tous les jobs monoprocesseur. Il fallait demander 20% de temps en plus pour les traitements. Avec ce souci de facteur 8 il faut demander 260% du temps calcul estimé! |
