Changeset 1841


Ignore:
Timestamp:
01/02/20 19:10:21 (3 months ago)
Author:
yushan
Message:

XIOS test suite : update to hierarchical inputs

Location:
XIOS/trunk/xios_test_suite/TEST_SUITE
Files:
8 added
7 edited

Legend:

Unmodified
Added
Removed
  • XIOS/trunk/xios_test_suite/TEST_SUITE/check.py

    r1824 r1841  
    77 
    88 
    9 from default_param import * 
    10 from user_param import *      
     9# from default_param import * 
     10# from user_param import *      
     11from param_list import * 
    1112 
    1213# load default_param first, variables defines in user_param will overwrite the default value  
     
    2627 
    2728 
    28 def write_jz_job(configName, nbproc=8): 
    29         red = lambda text: '\033[0;31m' + text + '\033[0m' 
    30         f=open("jz_job_"+configName+".sh", "w") 
    31         f.write("#!/bin/bash\n") 
    32         f.write("#SBATCH --ntasks="+repr(nbproc)+"              # Nombre total de processus MPI\n") 
    33         f.write("#SBATCH --ntasks-per-node=16\n") 
    34         f.write("#SBATCH --hint=nomultithread\n") 
    35         f.write("#SBATCH -t 00:10:00            # Temps elapsed maximum d'execution\n") 
    36         f.write("#SBATCH -o single_config.out     # Nom du fichier de sortie\n") 
    37         f.write("#SBATCH -e single_config.err     # Nom du fichier d'erreur\n") 
    38         f.write("#SBATCH --account=psl@cpu\n") 
    39         f.write("cd ${SLURM_SUBMIT_DIR}\n") 
    40         f.write("module purge\n") 
    41         f.write("module load intel-all/19.0.4\n") 
    42         f.write("module load netcdf/4.7.0/intel-19.0.4-mpi\n") 
    43         f.write("module load netcdf-cxx/4.2/intel-19.0.4-mpi\n") 
    44         f.write("module load netcdf-fortran/4.4.5/intel-19.0.4-mpi\n") 
    45         f.write("module load gcc/6.5.0/gcc-4.8.5\n") 
    46         f.write("module load cmake\n") 
    47         f.write("module load cdo\n") 
    48         f.write("ulimit -c 0\n") 
    49         xios_root=os.getenv('xios_dir') 
    50         build_folder=os.getenv('build_dir') 
    51         f.write("export xios_dir="+xios_root+"\n") 
    52         f.write("export build_dir="+build_folder+"\n") 
    53         f.write("export machine_name=jeanzay\n") 
    54         f.write("cp ../setup.py ./\n") 
    55         f.write("cp ../run_sub_test.sh ./\n") 
    56         f.write("mv user_params.def user_params.def_bkp\n") 
    57         f.write("cp "+configName+"/setup/user_param.py user_params.def\n") 
    58         f.write("python setup.py\n") 
    59         f.write("cmake .\n") 
    60         f.write("ctest -V #enable all output\n") 
    61         f.write("rm -f setup.py\n") 
    62         f.write("rm -f run_sub_test.sh\n") 
    63         f.write("rm -f run_test_*.py\n") 
    64         f.write("rm -f CMakeLists.txt\n") 
    65         f.write("rm -f context_grid_dynamico.xml\n") 
    66         f.write("rm -f dynamico_grid.nc\n") 
    67         f.write("rm -f default_param.*\n") 
    68         f.write("rm -f user_param.*\n") 
    69         f.write("mv user_params.def_bkp user_params.def\n") 
    70         f.write("\n") 
    71         f.close 
    7229 
    73 def write_irene_job(configName, nbproc=8): 
    74         red = lambda text: '\033[0;31m' + text + '\033[0m' 
    75         f=open("irene_job_"+configName+".sh", "w") 
    76         f.write("#!/bin/bash\n") 
    77         f.write("#MSUB -r XIOS\n") 
    78         f.write("#MSUB -o client_output.out    # standard output\n") 
    79         f.write("#MSUB -e client_error.err    #error output\n") 
    80         f.write("#MSUB -eo\n") 
    81         f.write("#MSUB -c 1\n") 
    82         f.write("#MSUB -n "+ repr(nbproc) + "  # Number of MPI tasks (SPMD case) or cores (MPMD case)\n") 
    83         f.write("#MSUB -X \n") 
    84         f.write("#MSUB -x \n") 
    85         f.write("#MSUB -T 600      # Wall clock limit (seconds)\n") 
    86         f.write("#MSUB -q skylake           # thin nodes\n") 
    87         f.write("#MSUB -A devcmip6\n") 
    88         f.write("#MSUB -Q test\n") 
    89         f.write("#MSUB -m work\n") 
    90         f.write("cd $BRIDGE_MSUB_PWD\n") 
    91         f.write("module unload netcdf-c netcdf-fortran hdf5 flavor perl hdf5 boost blitz mpi gnu\n") 
    92         f.write("module load gnu\n") 
    93         f.write("module load mpi/intelmpi/2017.0.6.256\n") 
    94         f.write("module load flavor/buildcompiler/intel/17\n") 
    95         f.write("module load flavor/hdf5/parallel\n") 
    96         f.write("module load netcdf-fortran/4.4.4\n") 
    97         f.write("module load hdf5/1.8.20\n") 
    98         f.write("module load boost\n") 
    99         f.write("module load blitz\n") 
    100         f.write("module load feature/bridge/heterogenous_mpmd\n") 
    101         f.write("module load nco\n") 
    102         f.write("module load cdo\n") 
    103         f.write("export KMP_STACKSIZE=3g\n") 
    104         f.write("export KMP_LIBRARY=turnaround\n") 
    105         f.write("export MKL_SERIAL=YES\n") 
    106         f.write("export OMP_NUM_THREADS=${BRIDGE_MSUB_NCORE}\n") 
    107         f.write("set -x \n") 
    108         xios_root=os.getenv('xios_dir') 
    109         build_folder=os.getenv('build_dir') 
    110         f.write("export xios_dir="+xios_root+"\n") 
    111         f.write("export build_dir="+build_folder+"\n") 
    112         f.write("export machine_name=irene\n") 
    113         f.write("cp ../setup.py ./\n") 
    114         f.write("cp ../run_sub_test.sh ./\n") 
    115         f.write("mv user_params.def user_params.def_bkp\n") 
    116         f.write("cp "+configName+"/setup/user_param.py user_params.def\n") 
    117         f.write("python setup.py\n") 
    118         f.write("cmake .\n") 
    119         f.write("ctest -V #enable all output\n") 
    120         f.write("rm -f setup.py\n") 
    121         f.write("rm -f run_sub_test.sh\n") 
    122         f.write("rm -f run_test_*.py\n") 
    123         f.write("rm -f CMakeLists.txt\n") 
    124         f.write("rm -f context_grid_dynamico.xml\n") 
    125         f.write("rm -f dynamico_grid.nc\n") 
    126         f.write("rm -f default_param.*\n") 
    127         f.write("rm -f user_param.*\n") 
    128         f.write("mv user_params.def_bkp user_params.def\n") 
    129         f.write("\n") 
    130         f.close 
    131  
    132  
     30blue = lambda text: '\033[0;34m' + text + '\033[0m' 
     31yellow = lambda text: '\033[0;33m' + text + '\033[0m' 
     32green = lambda text: '\033[0;32m' + text + '\033[0m' 
     33# blue = lambda text: text 
     34# yellow = lambda text: text 
     35# green = lambda text: text 
    13336 
    13437def main(): 
    13538 
    136         black = lambda text: '\033[0;30m' + text + '\033[0m' 
    137         red = lambda text: '\033[0;31m' + text + '\033[0m' 
    138         green = lambda text: '\033[0;32m' + text + '\033[0m' 
    139         yellow = lambda text: '\033[0;33m' + text + '\033[0m' 
    140         blue = lambda text: '\033[0;34m' + text + '\033[0m' 
    141         magenta = lambda text: '\033[0;35m' + text + '\033[0m' 
    142         cyan = lambda text: '\033[0;36m' + text + '\033[0m' 
    143         lgray = lambda text: '\033[0;37m' + text + '\033[0m' 
    144         dgray = lambda text: '\033[1;30m' + text + '\033[0m' 
    145         lred = lambda text: '\033[1;32m' + text + '\033[0m' 
    146         lgreen = lambda text: '\033[1;32m' + text + '\033[0m' 
    147         lyellow = lambda text: '\033[1;33m' + text + '\033[0m' 
    148         lblue = lambda text: '\033[1;34m' + text + '\033[0m' 
    149         lpurple = lambda text: '\033[1;35m' + text + '\033[0m' 
    150         lcyan = lambda text: '\033[1;36m' + text + '\033[0m' 
    151         white = lambda text: '\033[1;37m' + text + '\033[0m' 
     39        defaultConfig = True 
     40        configNamePattern=[] 
     41        for i in range(len(param_list)): 
     42                f=open("user_param.py", "r") 
     43                for line in f: 
     44                        line = line.strip().replace(" ","") 
     45                        if line.startswith(param_list[i]): 
     46                                configNamePattern.append('_'+param_short_list[i]+"="+line.split("=")[1].replace("'","")) 
     47                                defaultConfig = False 
    15248         
    153         configNamePattern=[0]*7 
     49        f.close() 
     50     
     51        configName = "config" 
     52         
     53        for i in range(len(configNamePattern)): 
     54                configName = configName+configNamePattern[i] 
    15455 
    155         f=open("user_param.py", "r") 
     56        checkfile = "checkfile.def" 
     57 
     58        f=open(checkfile, "r") 
    15659        for line in f: 
    15760                line = line.strip() 
    158                 if line.startswith("UsingServer2"): 
    159                         configNamePattern[0] = '_UsingSrv2=' + UsingServer2 
    160                 elif line.startswith("RatioServer2"): 
    161                         configNamePattern[1] = '_RatioSrv2=' + repr(RatioServer2) 
    162                 elif line.startswith("NumberPoolsServer2"): 
    163                         configNamePattern[2] = '_NbPoolsSrv2=' + repr(NumberPoolsServer2) 
    164                 elif line.startswith("NumberClients"): 
    165                         configNamePattern[3] = '_NbClients=' + repr(NumberClients) 
    166                 elif line.startswith("NumberServers"): 
    167                         configNamePattern[4] = '_NbServers=' + repr(NumberServers) 
    168                 elif line.startswith("Duration"): 
    169                         configNamePattern[5] = '_Duration=' + Duration 
    170                 elif line.startswith("ATMdomain"): 
    171                         configNamePattern[5] = '_ATMdomain=' + ATMdomain 
     61                line = line.rstrip() 
     62                if line.startswith("all"): 
     63                        allfiles = os.listdir(os.getcwd()) 
     64                        g=open("checkfile_new.def", "w") 
     65                        for thisfile in allfiles: 
     66                                if thisfile.endswith(".nc") and thisfile != "dynamico_grid.nc": 
     67                                        g.write(thisfile+"\n") 
     68                                        checkfile = "checkfile_new.def" 
     69                        g.close() 
     70                        break 
    17271        f.close() 
     72 
     73        if not os.path.exists(configName): 
     74                OSinfo("mkdir -p "+configName) 
     75 
     76                print(blue("\n    ****************************************************************")) 
     77                print(blue("    * Directory " + repr(configName) + " Created ")) 
     78                print(blue("    * Copy results to \'not_validated_reference\' folder")) 
     79                print(blue("    ****************************************************************\n")) 
     80 
     81                OSinfo("mkdir -p "+configName+"/setup") 
     82                OSinfo("mkdir -p "+configName+"/tmp_reference") 
     83 
     84                OSinfo("cp user_param.py user_param.def") 
     85                OSinfo("cp user_param.py "+configName+"/setup") 
     86                OSinfo("mv user_param.def "+configName+"/setup") 
     87 
     88                OSinfo("cp default_param.json "+configName+"/setup") 
    17389                 
    174          
    175  
    176         configName = "config" 
    177         defaultConfig = True 
    178  
    179         for i in range(len(configNamePattern)): 
    180                 if configNamePattern[i] != 0: 
    181                         configName = configName + configNamePattern[i] 
    182                         defaultConfig = False 
    183  
    184         if defaultConfig: 
    185                 configName = "config_default" 
    186  
    187          
     90                OSinfo("mv all_param.def "+configName+"/setup") 
     91                OSinfo("mv iodef.xml "+configName+"/setup/") 
     92                OSinfo("cp context_atm.xml "+configName+"/setup/") 
     93                OSinfo("cp context_grid_dynamico.xml "+configName+"/setup/") 
    18894 
    18995 
    190         if not os.path.exists(configName): 
     96                f=open(checkfile, "r") 
     97                reportfile = open("../plain_report.txt", "a+") 
     98                for line in f: 
     99                        line = line.strip() 
     100                        line = line.rstrip() 
     101                        if not line.startswith("#") and len(line) != 0: 
     102                                OSinfo("cp "+line+" "+configName+"/tmp_reference") 
     103                                reportfile.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(0)+" \n") 
     104                                print(yellow("\n        ****************************************")) 
     105                                print(yellow("        ** "+line+" is stored as temporal reference !!! **")) 
     106                                print(yellow("\n        ****************************************")) 
     107                f.close() 
     108                reportfile.close() 
    191109 
    192                  
    193                  
    194  
    195                 os.mkdir(configName) 
    196                 print blue("\n    ****************************************************************") 
    197                 print blue("    * Directory " + repr(configName) + " Created ") 
    198                 print blue("    * Copy results to \'not_validated_reference\' folder") 
    199                 print blue("    ****************************************************************\n") 
    200  
    201                 OSinfo("mkdir "+configName+'/setup') 
    202                 OSinfo('mkdir '+configName+'/tmp_reference') 
    203                 OSinfo('mkdir '+configName+'/xios_output') 
    204                  
    205                 OSinfo('mv param.def '+configName+'/setup/') 
    206                 OSinfo('mv all_param.def '+configName+'/setup/') 
    207                 OSinfo('mv user_param.py '+configName+'/setup/') 
    208                 OSinfo('cp '+configName+'/setup/user_param.py '+configName+'/setup/user_param.def ') 
    209                 OSinfo('mv iodef.xml '+configName+'/setup/') 
    210                 OSinfo('cp context_atm.xml '+configName+'/setup/') 
    211                 OSinfo('cp context_grid_dynamico.xml '+configName+'/setup/') 
    212                 OSinfo('cp dynamico_grid.nc '+configName+'/setup/') 
    213                 OSinfo('mv xios_*.out '+configName+'/xios_output/') 
    214                 OSinfo('mv xios_*.err '+configName+'/xios_output/') 
    215                  
    216  
    217                 f=open("checkfile.def", "r") 
    218                 preport=open("../plain_report.txt", "a+") 
    219                 for line in f: 
    220                         line=line.strip() 
    221                         line=line.rstrip() 
    222  
    223                         if line.startswith("all"): 
    224                                 allfiles = os.listdir(os.getcwd()) 
    225                                 for thisfile in allfiles: 
    226                                         if thisfile.endswith(".nc") and thisfile!="dynamico_grid.nc": 
    227                                                 cmd = 'mv '+thisfile + ' '+configName+'/tmp_reference/' 
    228                                                 OSinfo(cmd)      
    229                                  
    230                                 preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"_all_nc_files"+" "+repr(0)+" \n")                             
    231                                 print yellow("\n        ****************************************") 
    232                                 print yellow("        ** "+"all NC files"+" is stored as temporal reference !!! **") 
    233                                 print yellow("\n        ****************************************") 
    234  
    235                                 break 
    236  
    237                         if not line.startswith("#") and len(line) != 0: 
    238                                 cmd = 'mv '+line + ' '+configName+'/tmp_reference/' 
    239                                 OSinfo(cmd) 
    240  
    241                                 preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(0)+" \n")            
    242                                 print yellow("\n        ****************************************") 
    243                                 print yellow("        ** "+line+" is stored as temporal reference !!! **") 
    244                                 print yellow("\n        ****************************************") 
    245                                  
    246                 f.close() 
    247                 preport.close() 
    248                 #generate job scripts 
    249                 hostname=os.getenv('machine_name') 
    250                 if hostname.startswith("jeanzay"): 
    251                         write_jz_job(configName, NumberClients+NumberServers) 
    252                                  
    253                 elif hostname.startswith("irene"): 
    254                         write_irene_job(configName, NumberClients+NumberServers) 
    255                                                          
    256                 else : 
    257                         print("machine unknown") 
    258                         print >> sys.stderr, 1 
    259                         sys.exit() 
    260  
    261  
    262         else:     
    263                  
    264  
    265  
    266                 print blue("\n    ********************************************************") 
    267                 print blue("    * Directory " + repr(configName) + " already exists") 
    268                 print blue("    * Start comparing results with references") 
    269                 print blue("    ********************************************************\n") 
     110        else: 
     111                print(blue("\n    ****************************************************************")) 
     112                print(blue("    * Directory " + repr(configName) + " already exists ")) 
    270113 
    271114                tmp_ref = os.path.isdir(configName+'/tmp_reference') 
    272115                ref = os.path.isdir(configName+'/reference') and not tmp_ref 
     116                 
     117                if tmp_ref :  
     118                        print(blue("    * Start comparing results with NON-validated references")) 
     119                        path = configName+"/tmp_reference" 
     120                if ref :  
     121                        print(blue("    * Start comparing results with validated references")) 
     122                        path = configName+"reference" 
     123                 
     124                OSinfo('cp '+configName+'/setup/user_param.py '+configName+'/setup/user_param.def ') 
     125                print(blue("    ****************************************************************\n")) 
    273126 
    274  
    275                 if ref: 
    276                         print blue("\n    =====================================") 
    277                         print blue("    | Comparing results with references |") 
    278                         print blue("    =====================================\n") 
    279                         path = configName+'/reference/' 
    280                         OSinfo('cp '+configName+'/setup/user_param.py '+configName+'/setup/user_param.def ') 
    281                 elif tmp_ref: 
    282                         print blue("\n    ===================================================") 
    283                         print blue("    | Comparing results with NON-Validated references |") 
    284                         print blue("    ===================================================\n") 
    285                         path = configName+'/tmp_reference/' 
    286                         OSinfo('cp '+configName+'/setup/user_param.py '+configName+'/setup/user_param.def ') 
    287                  
    288                 f=open("checkfile.def", "r") 
    289                 preport=open("../plain_report.txt", "a+") 
    290  
     127                f=open(checkfile, "r") 
     128                reportfile = open("../plain_report.txt", "a+") 
    291129                for line in f: 
    292  
    293                         line=line.strip() 
    294                         line=line.rstrip() 
    295                          
    296                         if line.startswith("all") : 
    297                                 for thisfile in os.listdir(path): 
    298                                         if thisfile.endswith(".nc"): 
    299                                                 cmd = 'cdo -W diffn '+ thisfile +' '+ path + thisfile + ' | tail -1 > diff.txt' 
    300                                                  
    301                                                 OSinfo(cmd) 
    302                                                  
    303                                                 if os.stat("diff.txt").st_size==0: 
    304                                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+thisfile+" "+repr(1)+" \n")                
    305                                                         print green("\n        ****************************************") 
    306                                                         print green("        ** "+thisfile+" is valid !!! **") 
    307                                                         print green("\n        ****************************************") 
    308  
    309                                                 else:    
    310                                                         g=open("diff.txt", "r") 
    311                                                         for gline in g: 
    312                                                                 if gline.strip().startswith("0") or ":" in gline : 
    313                                                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+thisfile+" "+repr(1)+" \n")                        
    314                                                                         print green("\n        ****************************************") 
    315                                                                         print green("        ** "+thisfile+" is valid !!! **") 
    316                                                                         print green("\n        ****************************************") 
    317                                                                 else: 
    318                                                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+thisfile+" "+repr(-1)+" \n")                       
    319                                                                         print red("\n        **************************************************") 
    320                                                                         print red("        ** "+thisfile+" is NOT valid. Please debugging.. **") 
    321                                                                         print red("\n        **************************************************") 
    322                                                         g.close() 
    323  
    324                                                 # generate job submission script 
    325                                                 hostname=os.getenv('machine_name') 
    326  
    327                                                 if hostname.startswith("jeanzay"): 
    328                                                         write_jz_job(configName, NumberClients+NumberServers) 
    329                                                          
    330                                                 elif hostname.startswith("irene"): 
    331                                                         write_irene_job(configName, NumberClients+NumberServers) 
    332                                                          
    333                                                 else : 
    334                                                         print("machine unknown") 
    335                                                         print >> sys.stderr, 1 
    336                                                         sys.exit() 
    337                                 break 
    338  
    339  
    340                         elif not line.startswith("#") and len(line) != 0: 
    341                                 cmd = 'cdo -W diffn '+ line +' '+ path + line + ' | tail -1 > diff.txt' 
    342                                  
    343                                 OSinfo(cmd) 
     130                        line = line.strip() 
     131                        line = line.rstrip() 
     132                        if not line.startswith("#") and len(line) != 0: 
     133                                OSinfo("cdo -W diffn "+line+" "+path+line+" | > diff.txt") 
     134                                # this command should change according to cdo version 
    344135 
    345136                                if os.stat("diff.txt").st_size==0: 
    346                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(1)+" \n")                            
    347                                         print green("\n        ****************************************") 
    348                                         print green("        ** "+line+" is valid !!! **") 
    349                                         print green("\n        ****************************************") 
    350  
    351                                 else:    
     137                                        reportfile.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(1)+" \n") 
     138                                        print(green("\n        ****************************************")) 
     139                                        print(green("        ** "+line+" is valid !!! **")) 
     140                                        print(green("\n        ****************************************")) 
     141                                else: 
    352142                                        g=open("diff.txt", "r") 
    353143                                        for gline in g: 
    354                                                 if gline.strip().startswith("0") or ":" in gline : 
    355                                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(1)+" \n")            
    356                                                         print green("\n        ****************************************") 
    357                                                         print green("        ** "+line+" is valid !!! **") 
    358                                                         print green("\n        ****************************************") 
     144                                                if gline.strip().startswith("0") or ":" in gline: 
     145                                                        reportfile.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(1)+" \n") 
     146                                                        print(green("\n        ****************************************")) 
     147                                                        print(green("        ** "+line+" is valid !!! **")) 
     148                                                        print(green("\n        ****************************************")) 
    359149                                                else: 
    360                                                         preport.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(-1)+" \n")                   
    361                                                         print red("\n        **************************************************") 
    362                                                         print red("        ** "+line+" is NOT valid. Please debugging.. **") 
    363                                                         print red("\n        **************************************************") 
     150                                                        reportfile.write(os.path.basename(os.getcwd())+" "+os.path.basename(os.getcwd())[5:]+"@"+configName+" "+os.path.basename(os.getcwd())[5:]+"@"+configName[7:]+"@"+line+" "+repr(-1)+" \n") 
     151                                                        print(green("\n        ****************************************")) 
     152                                                        print(green("        ** "+line+" is NOT valid. Please debugging.. **")) 
     153                                                        print(green("\n        ****************************************")) 
    364154                                        g.close() 
     155                f.close() 
     156                reportfile.close() 
    365157 
    366                                 # generate job submission script 
    367                                 hostname=os.getenv('machine_name') 
    368  
    369                                 if hostname.startswith("jeanzay"): 
    370                                         write_jz_job(configName, NumberClients+NumberServers) 
    371                                                          
    372                                 elif hostname.startswith("irene"): 
    373                                         write_irene_job(configName, NumberClients+NumberServers) 
    374                                                          
    375                                 else : 
    376                                         print("machine unknown") 
    377                                         print >> sys.stderr, 1 
    378                                         sys.exit() 
    379  
    380  
    381                 f.close() 
    382                 preport.close() 
    383  
    384                 if not os.path.exists('current_run'): 
    385                         OSinfo('mkdir current_run') 
    386  
    387                 if not os.path.exists('current_run/'+configName): 
    388                         OSinfo('mkdir current_run/'+configName) 
    389  
    390                 OSinfo('mv -f param.def current_run/'+configName) 
    391                 OSinfo('mv -f all_param.def current_run/'+configName) 
    392                 OSinfo('mv -f user_param.py current_run/'+configName) 
    393                 OSinfo('mv -f iodef.xml current_run/'+configName) 
    394                 OSinfo('rm -f current_run/'+configName+'/context_atm.xml') 
    395                 OSinfo('cp -n context_atm.xml current_run/'+configName) 
    396                 OSinfo('cp -f context_grid_dynamico.xml current_run/'+configName) 
    397                 OSinfo('cp -f dynamico_grid.nc current_run/'+configName) 
    398                 OSinfo('mv -f xios_*.out current_run/'+configName) 
    399                 OSinfo('mv -f xios_*.err current_run/'+configName) 
    400  
     158        if os.path.exists("checkfile_new.def"): 
     159                OSinfo("rm -f checkfile_new.def") 
    401160 
    402161 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/generate_test.py

    r1821 r1841  
    130130            tmp_algo = l.split("/") 
    131131            f.write("var test_"+machine+"_"+revision+"_"+tmp_algo[len(tmp_algo)-1]+"_user_params = [\n") 
    132             g=open(l+"/user_params.def","r") 
    133             for line in g: 
    134                 if not line=="\n" and not line.startswith("#"): 
    135                     f.write("        \'"+line.replace("\n","").replace("'","\\\'")+"\',\n") 
    136             g.close() 
     132            if os.path.exists(l+"/user_param.json"): 
     133                g=open(l+"/user_param.json","r") 
     134                for line in g: 
     135                    if not line=="\n" and not line.startswith("#"): 
     136                        f.write("        \'"+line.replace("\n","").replace("'","\\\'")+"\',\n") 
     137                g.close() 
     138            else : 
     139                g=open(l+"/user_params.def","r") 
     140                for line in g: 
     141                    if not line=="\n" and not line.startswith("#"): 
     142                        f.write("        \'"+line.replace("\n","").replace("'","\\\'")+"\',\n") 
     143                g.close() 
    137144            f.write("        ]\n\n") 
    138145 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/run_sub_test.sh

    r1824 r1841  
    55cp ../config.py sub_config.py 
    66cp ../check.py sub_check.py 
    7 cp ../default_param.py default_param.py 
     7# cp ../default_param.py default_param.py 
    88 
    99 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/run_test

    r1836 r1841  
    6262do 
    6363  cp setup.py ${i%%/}       
    64   cp run_sub_test.sh ${i%%/}     
     64  cp default_param.json ${i%%/}   
     65  cp param_list.py ${i%%/}       
     66  cp run_sub_test.sh ${i%%/}  
    6567  echo "bash -c \"cd " ${i%%/} " && python setup.py\" ">> setup.sh 
    6668  echo "echo \"setup.py called from " ${i%%/} "\"">> setup.sh 
     
    106108do 
    107109  mkdir -p ${rundir}/def_files/${xios_revision}/${i%%} 
    108   cp ${i%%}/user_params.def ${rundir}/def_files/${xios_revision}/${i%%}       
     110  cp ${i%%}/user_param.json ${rundir}/def_files/${xios_revision}/${i%%}       
    109111  for j in $(ls -d ${i%%/}/config_*) 
    110112  do 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/run_test_local

    r1837 r1841  
    6161for i in $(ls -d test_*/) 
    6262do 
    63   cp setup.py ${i%%/}       
     63  cp setup.py ${i%%/}   
     64  cp default_param.json ${i%%/}   
     65  cp param_list.py ${i%%/}      
    6466  cp run_sub_test.sh ${i%%/}     
    6567  echo "bash -c \"cd " ${i%%/} " && python setup.py\" ">> setup.sh 
     
    106108do 
    107109  mkdir -p ${rundir}/def_files/${xios_revision}/${i%%} 
    108   cp ${i%%}/user_params.def ${rundir}/def_files/${xios_revision}/${i%%}       
     110  cp ${i%%}/user_param.json ${rundir}/def_files/${xios_revision}/${i%%}   
    109111  for j in $(ls -d ${i%%/}/config_*) 
    110112  do 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/setup.py

    r1806 r1841  
    11import os 
    22import sys 
     3import json 
     4import itertools 
    35 
     6from param_list import * 
    47 
    5 def main(): 
     8def getlabel(sub_list_element, level): 
     9    label="" 
     10    for l in range(level): 
     11        label = label+sub_list_element[l]+"_" 
     12    return label 
    613 
    7         black = lambda text: '\033[0;30m' + text + '\033[0m' 
    8         red = lambda text: '\033[0;31m' + text + '\033[0m' 
    9         green = lambda text: '\033[0;32m' + text + '\033[0m' 
    10         yellow = lambda text: '\033[0;33m' + text + '\033[0m' 
    11         blue = lambda text: '\033[0;34m' + text + '\033[0m' 
    12         magenta = lambda text: '\033[0;35m' + text + '\033[0m' 
    13         cyan = lambda text: '\033[0;36m' + text + '\033[0m' 
    14         lgray = lambda text: '\033[0;37m' + text + '\033[0m' 
    15         dgray = lambda text: '\033[1;30m' + text + '\033[0m' 
    16         lred = lambda text: '\033[1;32m' + text + '\033[0m' 
    17         lgreen = lambda text: '\033[1;32m' + text + '\033[0m' 
    18         lyellow = lambda text: '\033[1;33m' + text + '\033[0m' 
    19         lblue = lambda text: '\033[1;34m' + text + '\033[0m' 
    20         lpurple = lambda text: '\033[1;35m' + text + '\033[0m' 
    21         lcyan = lambda text: '\033[1;36m' + text + '\033[0m' 
    22         white = lambda text: '\033[1;37m' + text + '\033[0m' 
     14def MySort(sub_list, level): 
     15    l=len(sub_list) 
     16    for i in range(0,l): 
     17        for j in range(0, l-i-1): 
     18            if(getlabel(sub_list[j], level) > getlabel(sub_list[j+1], level)): 
     19                tempo = sub_list[j] 
     20                sub_list[j]= sub_list[j+1]  
     21                sub_list[j+1]= tempo  
     22    return sub_list 
    2323 
    24         default_nb_config = 7 
     24def main() : 
     25       
     26    param_length = len(param_list) 
     27    param = [""]*param_length 
     28     
     29     
     30    f=open("user_param.json", 'r') 
     31    config_dict = json.load(f) 
     32    f.close() 
     33     
     34    f=open("default_param.json", 'r') 
     35    def_config = json.load(f) 
     36    f.close() 
     37         
     38    default_config=[""]*param_length 
     39    f=open("default_param.py", "w") 
     40    for i in range(param_length): 
     41        default_config[i] = str(def_config[0][param_list[i]]) 
     42        f.write(param_list[i]+" = "+str(def_config[0][param_list[i]])+"\n") 
     43    f.close() 
     44         
     45    config_list=[] 
     46     
     47    for config_set in config_dict: 
     48        sub_list=[] 
     49        for l in range(param_length): 
     50            if param_list[l] in config_set: 
     51                param[l]=config_set[param_list[l]].split(" ") 
     52                for i in range(len(param[l])) : 
     53                    param[l][i] = [str(param[l][i])] 
     54            else : 
     55                param[l]=['_'] 
     56         
     57        for l in range(len(param_list)): 
     58            if not sub_list: 
     59                sub_list = list(param[l]) 
     60            else: 
     61                tmp_sub_list = list(itertools.product(sub_list,list(param[l]))) 
     62                sub_list=[] 
     63                for i in range(len(tmp_sub_list)): 
     64                    sub_list.append(list(tmp_sub_list[i])) 
     65                for i in range(len(sub_list)): 
     66                    sub_list[i] = list(itertools.chain(*sub_list[i])) 
     67                 
     68        for i in range(len(sub_list)):     
     69            config_list.append(sub_list[i]) 
     70             
     71             
     72        param=[""]*param_length 
     73         
     74    config_list=MySort(config_list, param_length) 
     75     
     76     
     77    for i in range(len(config_list)): 
     78        print(config_list[i]) 
     79         
     80         
     81    full_config_list=[[]]*len(config_list) 
     82     
     83    for i in range(len(config_list)): 
     84        full_config_list[i] = list(config_list[i]) 
     85        for j in range(param_length): 
     86            if full_config_list[i][j]=='_': 
     87                full_config_list[i][j] = default_config[j] 
     88        # print(full_config_list[i]) 
     89         
     90    for i in range(len(config_list)): 
     91        f=open("user_param.py."+repr(i), "w") 
     92        for j in range(param_length): 
     93            if not config_list[i][j] == "_": 
     94                f.write(param_list[j]+" = "+config_list[i][j]+"\n") 
     95        f.close() 
     96     
     97    f=open("CMakeLists.txt", "w") 
     98    f.write("##############################\n") 
     99    f.write("# file generated by setup.py #\n") 
     100    f.write("#      DO NOT modify         #\n") 
     101    f.write("##############################\n\n") 
     102    f.write("cmake_minimum_required(VERSION 2.8.12.2)\n\n") 
     103    f.write("project(generic_testcase)\n\n") 
     104    f.write("find_package(PythonInterp REQUIRED)\n\n") 
     105    f.write("enable_testing()\n\n") 
     106    dirpath = os.getcwd() 
     107    foldername = os.path.basename(os.getcwd()) 
     108    print(foldername) 
     109     
     110    for x in range(len(config_list)): 
     111        f.write("add_test( NAME "+foldername+"_config"+repr(x)+'\n') 
     112        f.write("          COMMAND ${PYTHON_EXECUTABLE}\n") 
     113        f.write("          ${CMAKE_CURRENT_BINARY_DIR}/run_test_"+repr(x)+".py\n") 
     114        f.write("          "+foldername+"_config"+repr(x)+")\n\n") 
     115        f.write("set_tests_properties("+foldername+"_config"+repr(x)+" PROPERTIES\n") 
     116        f.write("                      FAIL_REGULAR_EXPRESSION \"check.py failed;execution failed;failed;setup.sh failed; machine unknown\")\n\n") 
    25117 
    26         nb_config = 1; 
    27         configs = [0]*default_nb_config 
    28           
    29         configs_arg = [[], [], [], [], [], [], []]  
     118        g=open("run_test_"+repr(x)+".py", "w") 
     119        g.write("##############################\n") 
     120        g.write("# file generated by setup.py #\n") 
     121        g.write("#      DO NOT modify         #\n") 
     122        g.write("##############################\n\n") 
     123        g.write("import os\n") 
     124        g.write("import sys\n") 
     125        g.write("import subprocess\n") 
     126                 
    30127 
    31         f=open("user_params.def", "r") 
    32         for line in f: 
    33                 line = line.strip() 
    34                 if len(line) != 0: 
    35                         if not line.startswith("#"): 
    36                                 nb_config = nb_config * (line.count(",")+1) 
    37                                 line = line.replace(",", "") 
    38                                 line = line.replace("=", "") 
    39                                 if line.startswith("UsingServer2"): 
    40                                         line = line.replace("UsingServer2", "") 
    41                                         for word in line.split(): 
    42                                                 configs[0] += 1 
    43                                                 configs_arg[0].append('UsingServer2 = '+word) 
    44                                 elif line.startswith("RatioServer2"): 
    45                                         line = line.replace("RatioServer2", "") 
    46                                         for word in line.split(): 
    47                                                 configs[1] += 1 
    48                                                 configs_arg[1].append('RatioServer2 = '+word) 
    49                                 elif line.startswith("NumberPoolsServer2"): 
    50                                         line = line.replace("NumberPoolsServer2", "") 
    51                                         for word in line.split(): 
    52                                                 configs[2] += 1 
    53                                                 configs_arg[2].append('NumberPoolsServer2 = '+word) 
    54                                 elif line.startswith("NumberClients"): 
    55                                         line = line.replace("NumberClients", "") 
    56                                         for word in line.split(): 
    57                                                 configs[3] += 1 
    58                                                 configs_arg[3].append('NumberClients = '+word) 
    59                                 elif line.startswith("NumberServers"): 
    60                                         line = line.replace("NumberServers", "") 
    61                                         for word in line.split(): 
    62                                                 configs[4] += 1 
    63                                                 configs_arg[4].append('NumberServers = '+word) 
    64                                 elif line.startswith("Duration"): 
    65                                         line = line.replace("Duration", "") 
    66                                         for word in line.split(): 
    67                                                 configs[5] += 1 
    68                                                 configs_arg[5].append('Duration = '+word) 
    69                                 elif line.startswith("ATMdomain"): 
    70                                         line = line.replace("ATMdomain", "") 
    71                                         for word in line.split(): 
    72                                                 configs[6] += 1 
    73                                                 configs_arg[6].append('ATMdomain = '+word) 
     128        g.write("\ndef main():\n") 
     129        g.write("       os.system(\'rm -f user_param.py\')\n") 
     130        g.write("       os.system(\'cp user_param.py."+repr(x)+" user_param.py\')\n") 
     131        g.write("       os.system(\'./run_sub_test.sh\')\n") 
     132        g.write("if __name__== \"__main__\":\n") 
     133        g.write("       main()\n") 
     134        g.close() 
     135                  
     136    f.close() 
    74137 
    75                                  
    76         for x in range(default_nb_config): 
    77                 if configs[x]==0: 
    78                         configs[x] =1 
    79  
    80         config_id=0 
    81         for i0 in range(configs[0]): 
    82                 hasContent0 = len(configs_arg[0])>0 
    83                 for i1 in range(configs[1]): 
    84                         hasContent1 = len(configs_arg[1])>0 
    85                         for i2 in range(configs[2]): 
    86                                 hasContent2 = len(configs_arg[2])>0 
    87                                 for i3 in range(configs[3]): 
    88                                         hasContent3 = len(configs_arg[3])>0 
    89                                         for i4 in range(configs[4]): 
    90                                                 hasContent4 = len(configs_arg[4])>0 
    91                                                 for i5 in range(configs[5]): 
    92                                                         hasContent5 = len(configs_arg[5])>0 
    93                                                         for i6 in range(configs[6]): 
    94                                                                 hasContent6 = len(configs_arg[6])>0 
    95  
    96                                                                 filename = "user_param.py."+repr(config_id) 
    97                                                                 g = open(filename, "w") 
    98  
    99                                                                 if hasContent0: g.write(configs_arg[0][i0]+'\n') 
    100                                                                 if hasContent1: g.write(configs_arg[1][i1]+'\n') 
    101                                                                 if hasContent2: g.write(configs_arg[2][i2]+'\n') 
    102                                                                 if hasContent3: g.write(configs_arg[3][i3]+'\n') 
    103                                                                 if hasContent4: g.write(configs_arg[4][i4]+'\n') 
    104                                                                 if hasContent5: g.write(configs_arg[5][i5]+'\n') 
    105                                                                 if hasContent6: g.write(configs_arg[6][i6]+'\n') 
    106                                                          
    107                                                                 config_id +=1 
    108                                                                 g.close 
     138if __name__== "__main__": 
     139  main() 
    109140 
    110141 
    111142 
    112         f=open("CMakeLists.txt", "w") 
    113         f.write("##############################\n") 
    114         f.write("# file generated by setup.py #\n") 
    115         f.write("#      DO NOT modify         #\n") 
    116         f.write("##############################\n\n") 
    117         f.write("cmake_minimum_required(VERSION 2.8.12.2)\n\n") 
    118         f.write("project(generic_testcase)\n\n") 
    119         f.write("find_package(PythonInterp REQUIRED)\n\n") 
    120         f.write("enable_testing()\n\n") 
    121         dirpath = os.getcwd() 
    122         foldername = os.path.basename(os.getcwd()) 
    123  
    124  
    125         for x in range(nb_config): 
    126                 f.write("add_test( NAME "+foldername+"_config"+repr(x)+'\n') 
    127                 f.write("          COMMAND ${PYTHON_EXECUTABLE}\n") 
    128                 f.write("          ${CMAKE_CURRENT_BINARY_DIR}/run_test_"+repr(x)+".py\n") 
    129                 f.write("          "+foldername+"_config"+repr(x)+")\n\n") 
    130  
    131                 f.write("set_tests_properties("+foldername+"_config"+repr(x)+" PROPERTIES\n") 
    132                 f.write("                      FAIL_REGULAR_EXPRESSION \"check.py failed;execution failed;failed;setup.sh failed; machine unknown\")\n\n") 
    133  
    134                 g=open("run_test_"+repr(x)+".py", "w") 
    135                 g.write("##############################\n") 
    136                 g.write("# file generated by setup.py #\n") 
    137                 g.write("#      DO NOT modify         #\n") 
    138                 g.write("##############################\n\n") 
    139                 g.write("import os\n") 
    140                 g.write("import sys\n") 
    141                 g.write("import subprocess\n") 
    142                 # g.write("\ndef OSinfo(runthis):\n") 
    143                 # g.write("     osstdout = subprocess.Popen(runthis, shell=True, stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.STDOUT, close_fds=True)\n") 
    144                 # g.write("     theInfo = osstdout.communicate()[0].strip()\n") 
    145                 # g.write("     if osstdout.returncode!=0:\n") 
    146                 # g.write("             print(runthis+\" failed\")\n") 
    147                 # g.write("             print >> sys.stderr, osstdout.returncode\n") 
    148                 # g.write("             sys.exit()\n") 
    149                 # g.write("     else:\n") 
    150                 # g.write("             print(runthis+\" OK\")\n") 
    151  
    152                 g.write("\ndef main():\n") 
    153                 g.write("       os.system(\'rm -f user_param.py\')\n") 
    154                 g.write("       os.system(\'cp user_param.py."+repr(x)+" user_param.py\')\n") 
    155                 g.write("       os.system(\'./run_sub_test.sh\')\n") 
    156                 g.write("if __name__== \"__main__\":\n") 
    157                 g.write("       main()\n") 
    158                 g.close 
    159                   
    160         f.close 
    161  
    162         f=open("report.txt", "w") 
    163         g=open("report.html", "w") 
    164         f.write("\n\n\nin "+cyan(foldername)+" ...\n\n") 
    165         g.write("<br><br><br><p>in <font color=\"blue\">"+foldername+"</font> ...</p><br><br>") 
    166         f.close 
    167         g.close 
    168  
    169  
    170 if __name__== "__main__": 
    171   main() 
  • XIOS/trunk/xios_test_suite/TEST_SUITE/user_config.py

    r1806 r1841  
    4141        f.write("                   COMMAND rm -f report.txt\n") 
    4242        f.write("                   COMMAND rm -f report.html\n") 
    43  
    44          
    45         for folder in test_list: 
    46                 f.write("                   COMMAND cat "+folder+"/report.txt >> report.txt\n") 
    47                 f.write("                   COMMAND cat "+folder+"/report.html >> report.html\n") 
    48          
    4943        f.write("                   )\n\n") 
    5044        f.close 
Note: See TracChangeset for help on using the changeset viewer.