source: TOOLS/PACK_IPSL/parallelPack.sh @ 1866

Last change on this file since 1866 was 1866, checked in by gpincka, 11 years ago

correction sur le precedent commit

  • Property svn:executable set to *
File size: 7.4 KB
Line 
1#!/bin/bash
2
3function insertDirectives
4{
5   
6    local batchFile="launch_and_measureTime.sh"
7    local lineBeginMutableDrves=`grep -n "batch directives : begin" $batchFile | awk -F":" '{print $1}' `
8    local lineHeaderMutableDrves=`grep -n "mutable directives" $batchFile | awk -F":" '{print $1}' `
9    local lineEndMutableDrves=`grep -n "batch directives : end" $batchFile | awk -F":" '{print $1}' `
10    if [ "x${lineBeginMutableDrves}" == "x" ] || [ "x${lineHeaderMutableDrves}" == "x" ] || [ "x${lineEndMutableDrves}" == "x" ]
11    then
12        echo "Examen du fichier $batchFile :"
13        echo "Il manque les balises commentees 'mutable directives' et 'batch directives : end' "
14        exit 1
15    fi
16   
17    # echo "lineHeaderMutableDrves=$lineHeaderMutableDrves"
18    # echo "lineEndMutableDrves=$lineEndMutableDrves"
19   
20    if [ $lineHeaderMutableDrves -ge $lineEndMutableDrves ]
21    then
22       echo "Examen du fichier $batchFile :"
23       echo "les lignes 'mutable directives' et 'batch directives : end' n'existent pas ou ne sont"
24       echo "pas bien placees l'une par rapport a l'autre ==> STOP."
25       exit 1
26    fi
27   
28    # Suppression des anciennes directives
29    local firstLineToMove=$(( $lineHeaderMutableDrves + 1 ))
30    local lastLineToMove=$(( $lineEndMutableDrves - 1 ))
31    if [ $firstLineToMove -lt $lineEndMutableDrves ]
32    then
33        sed -i "${firstLineToMove},${lastLineToMove}d" $batchFile
34    fi
35       
36    # insertion des directives chargees a partir de "load_batch_directives.sh"
37    local lineEndMutableDrves=`grep -n "batch directives : end" $batchFile | awk -F":" '{print $1}' `
38    sed -i "${lineEndMutableDrves}i\#MSUB -Qos $QosType" $batchFile
39    sed -i "${lineEndMutableDrves}i\#MSUB -q $queueType" $batchFile
40    sed -i "${lineEndMutableDrves}i\#MSUB -A $projectName" $batchFile
41    sed -i "${lineEndMutableDrves}i\#MSUB -T $computationTime" $batchFile
42    sed -i "${lineEndMutableDrves}i\#MSUB -n $nbProcs" $batchFile
43   
44    # insertion des directives specifiant les sorties des operations de pack
45    sed -i "${lineEndMutableDrves}i\#MSUB -e ${DETAILLED_OUTPUT}/pack_ipsl_%I.e" $batchFile
46    sed -i "${lineEndMutableDrves}i\#MSUB -o ${DETAILLED_OUTPUT}/pack_ipsl_%I.o" $batchFile
47
48}
49
50function check_machine
51{
52    local host_name=`hostname `
53    local isMachineTitane=`echo $host_name | grep "titane" | wc -l `
54    local isMachineCurie=`echo $host_name | grep "curie" | wc -l `
55   
56    if [ "x${isMachineTitane}" == "x0" ] && [ "x${isMachineCurie}" == "x0" ]
57    then
58        echo "Ce programme doit etre lance a partir 'curie' ou 'titane'. STOP."
59        exit 1
60    fi
61
62}
63
64function check_glost_launch
65{
66    local file_exec='glost_launch'
67    if [ ! -e $file_exec ]
68    then
69        echo "Il n'y a pas l'executable glost_launch."
70        echo "Vous devez compiler l'outil via make. "
71        exit 1
72    fi
73
74}
75
76
77function getNumeroOfPreviousTry
78{
79   local num_try="0"
80   ici=$PWD
81   cd $USER_OUTPUT_PROGRESS
82   
83   tryDirs=`ls | grep -e 'TRY__[[:digit:]]\{1,2\}$' `
84   for dir in $tryDirs
85   do
86      num=`echo $dir | awk -F"__" '{print $NF}' `
87      if [ $num -gt $num_try ]
88      then
89          num_try=$num 
90      fi
91   done 
92   cd $ici
93   echo $num_try
94   
95}
96
97########  pour option -f #############
98restartExecFromZero=0
99while [ $# -gt 0 ]
100do
101   echo "boucle sur les arguments du script ..."
102   echo "@=$@"
103   case $1 in
104   -f)  restartExecFromZero=1
105        echo "force restart from the beginning ..."
106        ;;
107   esac
108   shift
109done
110export restartExecFromZero=${restartExecFromZero}
111######################################
112
113# On charge les variables d'environnement
114. load_ipslPack_env.sh
115
116# On charge les directives batch
117. load_batch_directives.sh
118
119# On charge les parametres
120. loadParameters.sh
121
122
123# on verifie que la machine est 'curie' ou 'titane'
124check_machine
125
126
127
128# on verifie que l outil glost a bien ete compile
129check_glost_launch
130#########  On insert les directives batch en en-tete du script "launch_and_measureTime.sh"         ##########
131#########  lance plus loin. Seules les directives de nom du job et de sorties restent inchangees   ##########
132
133insertDirectives
134
135# exit 0 # gpdebug : a virer
136
137# export inputCmd="${USER_OUTPUT_PROGRESS}/inputCmd.list"
138# export nextInputCmd="${USER_OUTPUT_PROGRESS}/nextInputCmd.list"
139# export output="${USER_OUTPUT_PROGRESS}/packOutput.log"
140# export reportFile="${USER_OUTPUT_PROGRESS}/report.log"
141
142########## Si l'option -f est activee, on detruit tous les fichiers status  ##########
143if [ "x$restartExecFromZero" == "x1" ]
144then
145    echo "Deleting  all status files ..."
146    for CONFIG in $( awk '{print $1}' ${IGCM_DEM}/config_card.liste )
147    do
148       PATH_SIMU=$( dirname $CONFIG )
149       ListStatFileInSimu=`find $PATH_SIMU -type f -name "*status" `
150       if [ "x$ListStatFileInSimu" != "x" ]
151       then
152           for file in $ListStatFileInSimu
153           do
154              if [ -e $file ]
155              then
156                 rm -f $file
157              fi
158       
159           done     
160       fi   
161    done
162    echo "Deletion done."
163fi
164
165
166# Par ailleurs, on vide les fichiers de cmds, d'output et de rapport si option -f activee
167if [ "x${restartExecFromZero}" == "x1" ]
168then
169    rm -rf ${USER_OUTPUT_PROGRESS}/TRY__*
170fi
171
172# exit 0 # a virer
173
174#####################################################################################
175
176export JOB_DIR=${LS_SUBCWD:-${PWD}}
177export EXE_DIR=${JOB_DIR}
178source ${EXE_DIR}/DEM_utilities.sh
179
180############## gpdebug : Pour gestion des erreurs #########################################
181# Execute la function errorReceive() si reception d'un signal TERM
182trap 'DEM_errorReceive' TERM
183# liste des processus à détruire en cas d'erreur bloquante
184export listPID=$$
185# fichier pour la transmission des messages d'erreur d'un fils au prog principal
186export errorMsgFile="${PWD}/errorMsg.txt"
187############## gpdebug : fin ##############################################################
188
189check_nco_version # verification de la version de nco #######################
190check_libccc_user # verif que le module libccc_user est charge ##############
191check_cdo         # verif que le module cdo est charge ######################
192
193# exit 0 # a virer
194
195export badFailureFile=${USER_OUTPUT_PROGRESS}/badFailure.txt
196> $badFailureFile # nouvel essai, on vide le fichier d'erreur
197tryNumFile=${USER_OUTPUT_PROGRESS}/numero_current_try.txt
198numPreviousTry=$( getNumeroOfPreviousTry )
199# echo "numPreviousTry=$numPreviousTry"
200numNewTry=$(( $numPreviousTry + 1 ))
201
202# Pas de 4eme essai permis
203# ----------------------------
204if [ $numNewTry -ge 4 ]
205then
206    echo "Pas de 4eme essai permis"
207    exit 1
208fi
209
210# echo "numNewTry=$numNewTry"
211mkdir -p ${USER_OUTPUT_PROGRESS}/TRY__${numNewTry}
212echo $numNewTry > $tryNumFile
213
214# exit 0 # a virer
215
216
217
218export timeLaunchStartFile="${USER_OUTPUT_PROGRESS}/timeLaunchStartFile.txt"
219> $timeLaunchStartFile
220startTime=$( getDateMilliSeconds )
221echo "launch time:$startTime" > $timeLaunchStartFile
222
223export timeEndFile="${USER_OUTPUT_PROGRESS}/timeEndFile.txt"
224> $timeEndFile
225
226SCRIPT_NAME=$(basename ${0} )
227
228DEM_log -0 "Demarrage de ${SCRIPT_NAME}"
229
230# ccc_msub -A tgcc0013 launch_and_measureTime.sh
231ccc_msub launch_and_measureTime.sh
232
233DEM_log -0 "Fin de ${SCRIPT_NAME}"
234
235
236elapsedTime=0
237while [ $elapsedTime -lt 500 ]
238do
239    sleep 5
240    elapsedTime=$(( $elapsedTime + 5 ))
241    isFailureFileEmpty=`cat $badFailureFile | wc -l `
242    if [ "x${isFailureFileEmpty}" != "x0" ]
243    then
244       sleep 2 # on attend que le fichier soit correctement rempli
245       cat $badFailureFile
246       exit 0
247    fi
248done
249
250if [ ${elapsedTime} -ge 500 ]
251then
252    echo "Les 500 sec sont ecoulees, les traitements continuent..."
253fi
254
255
256
257
Note: See TracBrowser for help on using the repository browser.