source: TOOLS/ConsoGENCMIP6/bin/plot_bilan_jobs.py @ 2631

Last change on this file since 2631 was 2631, checked in by labetoulle, 7 years ago

add specific trick for gencmip6

  • Property svn:executable set to *
File size: 15.4 KB
Line 
1#!/usr/bin/env python
2# -*- coding: utf-8 -*-
3
4# this must come first
5from __future__ import print_function, unicode_literals, division
6
7# standard library imports
8from argparse import ArgumentParser
9import os
10import os.path
11import datetime as dt
12from dateutil.relativedelta import relativedelta
13import numpy as np
14
15# Application library imports
16from libconso import *
17
18
19########################################
20class DataDict(dict):
21  #---------------------------------------
22  def __init__(self):
23    self = {}
24
25  #---------------------------------------
26  def init_range(self, date_beg, date_end, inc=1):
27    """
28    """
29    delta = date_end - date_beg
30
31    (deb, fin) = (0, delta.days+1)
32
33    dates = (date_beg + dt.timedelta(days=i)
34             for i in xrange(deb, fin, inc))
35
36    for date in dates:
37      self.add_item(date)
38
39  #---------------------------------------
40  def fill_data(self, filein):
41    """
42    """
43    try:
44      data = np.genfromtxt(
45        filein,
46        skip_header=1,
47        converters={
48          0: string_to_date,
49          1: string_to_float,
50          2: string_to_percent,
51          3: string_to_percent,
52          4: string_to_float,
53          5: string_to_float,
54          6: string_to_float,
55          7: string_to_float,
56        },
57        missing_values="nan",
58      )
59    except Exception as rc:
60      print("Empty file {}:\n{}".format(filein, rc))
61      exit(1)
62
63    for date, conso, real_use, theo_use, \
64        run_mean, pen_mean, run_std, pen_std in data:
65      if date in self:
66        self.add_item(
67          date,
68          conso,
69          real_use,
70          theo_use,
71          run_mean,
72          pen_mean,
73          run_std,
74          pen_std,
75        )
76        self[date].fill()
77
78  #---------------------------------------
79  def add_item(self, date, conso=np.nan,
80               real_use=np.nan, theo_use=np.nan,
81               run_mean=np.nan, pen_mean=np.nan,
82               run_std=np.nan, pen_std=np.nan):
83    """
84    """
85    self[date] = Conso(date, conso, real_use, theo_use,
86                       run_mean, pen_mean, run_std, pen_std)
87
88  #---------------------------------------
89  def theo_equation(self):
90    """
91    """
92    (dates, theo_uses) = \
93      zip(*((item.date, item.theo_use)
94            for item in self.get_items_in_full_range()))
95
96    (idx_min, idx_max) = \
97        (np.nanargmin(theo_uses), np.nanargmax(theo_uses))
98
99    x1 = dates[idx_min].timetuple().tm_yday
100    x2 = dates[idx_max].timetuple().tm_yday
101
102    y1 = theo_uses[idx_min]
103    y2 = theo_uses[idx_max]
104
105    m = np.array([[x1, 1.], [x2, 1.]], dtype="float")
106    n = np.array([y1, y2], dtype="float")
107
108    poly_ok = True
109    try:
110      poly_theo = np.poly1d(np.linalg.solve(m, n))
111    except np.linalg.linalg.LinAlgError:
112      poly_ok = False
113
114    if poly_ok:
115      delta = (dates[0] + relativedelta(months=2) - dates[0]).days
116
117      poly_delay = np.poly1d(
118        [poly_theo[1], poly_theo[0] - poly_theo[1] * delta]
119      )
120
121      self.poly_theo = poly_theo
122      self.poly_delay = poly_delay
123
124  #---------------------------------------
125  def get_items_in_range(self, date_beg, date_end, inc=1):
126    """
127    """
128    items = (item for item in self.itervalues()
129                   if item.date >= date_beg and
130                      item.date <= date_end)
131    items = sorted(items, key=lambda item: item.date)
132
133    return items[::inc]
134
135  #---------------------------------------
136  def get_items_in_full_range(self, inc=1):
137    """
138    """
139    items = (item for item in self.itervalues())
140    items = sorted(items, key=lambda item: item.date)
141
142    return items[::inc]
143
144  #---------------------------------------
145  def get_items(self, inc=1):
146    """
147    """
148    items = (item for item in self.itervalues()
149                   if item.isfilled())
150    items = sorted(items, key=lambda item: item.date)
151
152    return items[::inc]
153
154
155class Conso(object):
156  #---------------------------------------
157  def __init__(self, date, conso=np.nan,
158               real_use=np.nan, theo_use=np.nan,
159               run_mean=np.nan, pen_mean=np.nan,
160               run_std=np.nan, pen_std=np.nan):
161    self.date     = date
162    self.conso    = conso
163    self.real_use = real_use
164    self.theo_use = theo_use
165    self.poly_theo = np.poly1d([])
166    self.poly_delay = np.poly1d([])
167    self.run_mean = run_mean
168    self.pen_mean = pen_mean
169    self.run_std  = run_std
170    self.pen_std  = pen_std
171    self.filled   = False
172
173  #---------------------------------------
174  def __repr__(self):
175    return "{:.2f} ({:.2%})".format(self.conso, self.real_use)
176
177  #---------------------------------------
178  def isfilled(self):
179    return self.filled
180
181  #---------------------------------------
182  def fill(self):
183    self.filled = True
184
185
186########################################
187def plot_init():
188  paper_size  = np.array([29.7, 21.0])
189  fig, (ax_conso, ax_jobs) = plt.subplots(
190    nrows=2,
191    ncols=1,
192    sharex=True,
193    squeeze=True,
194    figsize=(paper_size/2.54)
195  )
196  ax_theo = ax_conso.twinx()
197
198  return fig, ax_conso, ax_theo, ax_jobs
199
200
201########################################
202def plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
203              consos, theo_uses, real_uses, theo_equs, theo_delay,
204              run_mean, pen_mean, run_std, pen_std):
205  """
206  """
207  line_style = "-"
208  if args.full:
209    line_width = 0.05
210  else:
211    line_width = 0.1
212
213  ax_conso.bar(
214    xcoord, consos, width=1, align="center", color="linen",
215    linewidth=line_width, label="conso (heures)"
216  )
217
218  ax_theo.plot(
219    xcoord, real_uses, line_style,
220    color="forestgreen", linewidth=1, markersize=8,
221    solid_capstyle="round", solid_joinstyle="round",
222    label="conso\nréelle (%)"
223  )
224  ax_theo.plot(
225    xcoord, theo_equs, "--",
226    color="firebrick", linewidth=0.5,
227    solid_capstyle="round", solid_joinstyle="round"
228  )
229  ax_theo.plot(
230    xcoord, theo_uses, line_style,
231    color="firebrick", linewidth=1, markersize=8,
232    solid_capstyle="round", solid_joinstyle="round",
233    label="conso\nthéorique (%)"
234  )
235  ax_theo.plot(
236    xcoord, theo_delay, ":",
237    color="firebrick", linewidth=0.5,
238    solid_capstyle="round", solid_joinstyle="round",
239    label="retard de\ndeux mois (%)"
240  )
241
242  line_width = 0.
243  width = 1.05
244
245  ax_jobs.bar(
246    xcoord, run_mean, width=width, align="center",
247    # yerr=run_std/2, ecolor="green",
248    color="lightgreen", linewidth=line_width,
249    antialiased=True, label="jobs running"
250  )
251  ax_jobs.bar(
252    xcoord, pen_mean, bottom=run_mean, width=width, align="center",
253    # yerr=pen_std/2, ecolor="darkred",
254    color="firebrick", linewidth=line_width,
255    antialiased=True, label="jobs pending"
256  )
257
258
259########################################
260def plot_config(fig, ax_conso, ax_theo, xcoord, dates, title,
261                conso_per_day, conso_per_day_2):
262  """
263  """
264  # ... Config axes ...
265  # -------------------
266  # 1) Range
267  conso_max = np.nanmax(consos)
268  if args.max:
269    ymax = conso_max  # + conso_max*.1
270  else:
271    ymax = 3. * max(conso_per_day, conso_per_day_2)
272
273  if conso_max > ymax:
274    ax_conso.annotate(
275      "{:.2e} heures".format(conso_max),
276      ha="left",
277      va="top",
278      fontsize="xx-small",
279      bbox=dict(boxstyle="round", fc="w", ec="0.5", color="gray",),
280      # xy=(np.nanargmax(consos)+1.2, ymax),
281      xy=(np.nanargmax(consos)+1.2, ymax*0.9),
282      textcoords="axes fraction",
283      xytext=(0.01, 0.8),
284      arrowprops=dict(
285        arrowstyle="->",
286        shrinkA=0,
287        shrinkB=0,
288        color="gray",
289      ),
290    )
291
292  xmin, xmax = xcoord[0]-1, xcoord[-1]+1
293  ax_conso.set_xlim(xmin, xmax)
294  ax_conso.set_ylim(0., ymax)
295  ax_theo.set_ylim(0., 100)
296
297  # 2) Ticks labels
298  (date_beg, date_end) = (dates[0], dates[-1])
299  date_fmt = "{:%d-%m}"
300
301  if date_end - date_beg > dt.timedelta(weeks=9):
302    maj_xticks = [x for x, d in zip(xcoord, dates)
303                     if d.weekday() == 0]
304    maj_xlabs  = [date_fmt.format(d) for d in dates
305                     if d.weekday() == 0]
306  else:
307    maj_xticks = [x for x, d in zip(xcoord, dates)]
308    maj_xlabs  = [date_fmt.format(d) for d in dates]
309
310  ax_conso.ticklabel_format(axis="y", style="sci", scilimits=(0, 0))
311
312  ax_jobs.set_xticks(xcoord, minor=True)
313  ax_jobs.set_xticks(maj_xticks, minor=False)
314  ax_jobs.set_xticklabels(
315    maj_xlabs, rotation="vertical", size="x-small"
316  )
317
318  for ax, y, label in (
319    (ax_conso, conso_per_day, "heures"),
320    (ax_jobs, conso_per_day / 24., "cœurs"),
321  ):
322    yticks = list(ax.get_yticks())
323    yticks.append(y)
324    ax.set_yticks(yticks)
325    ax.axhline(y=y, color="blue", alpha=0.5,
326               label="conso journaliÚre\nidéale ({})".format(label))
327
328  if conso_per_day_2:
329    yticks.append(conso_per_day_2)
330    ax_conso.axhline(y=conso_per_day_2, color="blue", alpha=0.5)
331    ax_jobs.axhline(y=conso_per_day_2 / 24., color="blue", alpha=0.5)
332
333  ax_theo.spines["right"].set_color("firebrick")
334  ax_theo.tick_params(colors="firebrick")
335  ax_theo.yaxis.label.set_color("firebrick")
336
337  for x, d in zip(xcoord, dates):
338    if d.weekday() == 0 and d.hour == 0:
339      for ax in (ax_conso, ax_jobs):
340        ax.axvline(x=x, color="black", alpha=0.5,
341                   linewidth=0.5, linestyle=":")
342
343  # 3) Define axes title
344  for ax, label in (
345    (ax_conso, "heures"),
346    (ax_theo, "%"),
347    (ax_jobs, "cœurs"),
348  ):
349    ax.set_ylabel(label, fontweight="bold")
350    ax.tick_params(axis="y", labelsize="small")
351
352  # 4) Define plot size
353  fig.subplots_adjust(
354    left=0.08,
355    bottom=0.09,
356    right=0.93,
357    top=0.93,
358    hspace=0.1,
359    wspace=0.1,
360  )
361
362  # ... Main title and legend ...
363  # -----------------------------
364  fig.suptitle(title, fontweight="bold", size="large")
365  for ax, loc in (
366    (ax_conso, "upper left"),
367    (ax_theo, "upper right"),
368    (ax_jobs, "upper left"),
369  ):
370    ax.legend(loc=loc, fontsize="x-small", frameon=False)
371
372
373########################################
374def get_arguments():
375  parser = ArgumentParser()
376  parser.add_argument("-v", "--verbose", action="store_true",
377                      help="verbose mode")
378  parser.add_argument("-f", "--full", action="store_true",
379                      help="plot the whole period")
380  parser.add_argument("-i", "--increment", action="store",
381                      type=int, default=1, dest="inc",
382                      help="sampling increment")
383  parser.add_argument("-r", "--range", action="store", nargs=2,
384                      type=string_to_date,
385                      help="date range: ssaa-mm-jj ssaa-mm-jj")
386  parser.add_argument("-m", "--max", action="store_true",
387                      help="plot with y_max = allocation")
388  parser.add_argument("-s", "--show", action="store_true",
389                      help="interactive mode")
390  parser.add_argument("-d", "--dods", action="store_true",
391                      help="copy output on dods")
392
393  return parser.parse_args()
394
395
396########################################
397if __name__ == '__main__':
398
399  # .. Initialization ..
400  # ====================
401  # ... Command line arguments ...
402  # ------------------------------
403  args = get_arguments()
404
405  # ... Turn interactive mode off ...
406  # ---------------------------------
407  if not args.show:
408    import matplotlib
409    matplotlib.use('Agg')
410
411  import matplotlib.pyplot as plt
412  # from matplotlib.backends.backend_pdf import PdfPages
413
414  if not args.show:
415    plt.ioff()
416
417  # ... Files and directories ...
418  # -----------------------------
419  project_name, DIR, OUT = parse_config("bin/config.ini")
420
421  (file_param, file_utheo, file_data) = \
422      get_input_files(DIR["SAVEDATA"],
423                      [OUT["PARAM"], OUT["UTHEO"], OUT["BILAN"]])
424
425  img_name = os.path.splitext(
426               os.path.basename(__file__)
427             )[0].replace("plot_", "")
428
429  today = os.path.basename(file_param).strip(OUT["PARAM"])
430
431  if args.verbose:
432    fmt_str = "{:10s} : {}"
433    print(fmt_str.format("args", args))
434    print(fmt_str.format("today", today))
435    print(fmt_str.format("file_param", file_param))
436    print(fmt_str.format("file_utheo", file_utheo))
437    print(fmt_str.format("file_data", file_data))
438    print(fmt_str.format("img_name", img_name))
439
440  # .. Get project info ..
441  # ======================
442  projet = Project(project_name)
443  projet.fill_data(file_param)
444  projet.get_date_init(file_utheo)
445
446  # .. Fill in data ..
447  # ==================
448  # ... Initialization ...
449  # ----------------------
450  bilan = DataDict()
451  bilan.init_range(projet.date_init, projet.deadline)
452  # ... Extract data from file ...
453  # ------------------------------
454  bilan.fill_data(file_data)
455  # ... Compute theoratical use from known data  ...
456  # ------------------------------------------------
457  bilan.theo_equation()
458
459  # .. Extract data depending on C.L. arguments ..
460  # ==============================================
461  if args.full:
462    selected_items = bilan.get_items_in_full_range(args.inc)
463  elif args.range:
464    selected_items = bilan.get_items_in_range(
465      args.range[0], args.range[1], args.inc
466    )
467  else:
468    selected_items = bilan.get_items(args.inc)
469
470  # .. Compute data to be plotted ..
471  # ================================
472  nb_items = len(selected_items)
473
474  xcoord = np.linspace(1, nb_items, num=nb_items)
475  dates = [item.date for item in selected_items]
476
477  cumul = np.array([item.conso for item in selected_items],
478                        dtype=float)
479  consos = []
480  consos.append(cumul[0])
481  consos[1:nb_items] = cumul[1:nb_items] - cumul[0:nb_items-1]
482  consos = np.array(consos, dtype=float)
483
484  if projet.project == "gencmip6":
485    alloc1 = 5.e6
486    alloc2 = projet.alloc - alloc1
487    conso_per_day   = 2 * alloc1 / projet.days
488    conso_per_day_2 = 2 * alloc2 / projet.days
489  else:
490    conso_per_day = projet.alloc / projet.days
491    conso_per_day_2 = None
492
493  theo_uses = np.array(
494    [100.*item.theo_use for item in selected_items],
495    dtype=float
496  )
497  real_uses = np.array(
498    [100.*item.real_use for item in selected_items],
499    dtype=float
500  )
501  theo_equs = np.array(
502    [100. * bilan.poly_theo(date.timetuple().tm_yday)
503      for date in dates],
504    dtype=float
505  )
506  theo_delay = np.array(
507    [100. * bilan.poly_delay(date.timetuple().tm_yday)
508      for date in dates],
509    dtype=float
510  )
511
512  run_mean = np.array([item.run_mean for item in selected_items],
513                       dtype=float)
514  pen_mean = np.array([item.pen_mean for item in selected_items],
515                       dtype=float)
516  run_std  = np.array([item.run_std for item in selected_items],
517                       dtype=float)
518  pen_std  = np.array([item.pen_std for item in selected_items],
519                       dtype=float)
520
521  # .. Plot stuff ..
522  # ================
523  # ... Initialize figure ...
524  # -------------------------
525  (fig, ax_conso, ax_theo, ax_jobs) = plot_init()
526
527  # ... Plot data ...
528  # -----------------
529  plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
530            consos, theo_uses, real_uses, theo_equs, theo_delay,
531            run_mean, pen_mean, run_std, pen_std)
532
533  # ... Tweak figure ...
534  # --------------------
535  title = "{} : Conso globale et suivi des jobs " \
536          "(moyenne journaliÚre)\n({:%d/%m/%Y} - {:%d/%m/%Y})".format(
537            projet.project.upper(),
538            projet.date_init,
539            projet.deadline
540          )
541
542  plot_config(
543    fig, ax_conso, ax_theo, xcoord, dates, title, 
544    conso_per_day, conso_per_day_2
545  )
546
547  # ... Save figure ...
548  # -------------------
549  img_in  = os.path.join(DIR["PLOT"], "{}.pdf".format(img_name))
550  img_out = os.path.join(DIR["SAVEPLOT"],
551                         "{}_{}.pdf".format(img_name, today))
552
553  plot_save(img_in, img_out, title, DIR)
554
555  # ... Publish figure on dods ...
556  # ------------------------------
557  if args.dods:
558    if args.verbose:
559      print("Publish figure on dods")
560    dods_cp(img_in, DIR)
561
562  if args.show:
563    plt.show()
564
565  exit(0)
566
Note: See TracBrowser for help on using the repository browser.