source: TOOLS/ConsoGENCMIP6/bin/plot_bilan_jobs.py @ 2526

Last change on this file since 2526 was 2526, checked in by labetoulle, 7 years ago
  • plot_bilan_jobs.py : add two month delay curve
  • homogenise all plots
  • Property svn:executable set to *
File size: 15.0 KB
Line 
1#!/usr/bin/env python
2# -*- coding: utf-8 -*-
3
4# this must come first
5from __future__ import print_function, unicode_literals, division
6
7# standard library imports
8from argparse import ArgumentParser
9import os
10import os.path
11import datetime as dt
12from dateutil.relativedelta import relativedelta
13import numpy as np
14
15# Application library imports
16from libconso import *
17
18
19########################################
20class DataDict(dict):
21  #---------------------------------------
22  def __init__(self):
23    self = {}
24
25  #---------------------------------------
26  def init_range(self, date_beg, date_end, inc=1):
27    """
28    """
29    delta = date_end - date_beg
30
31    (deb, fin) = (0, delta.days+1)
32
33    dates = (date_beg + dt.timedelta(days=i)
34             for i in xrange(deb, fin, inc))
35
36    for date in dates:
37      self.add_item(date)
38
39  #---------------------------------------
40  def fill_data(self, filein):
41    """
42    """
43    try:
44      data = np.genfromtxt(
45        filein,
46        skip_header=1,
47        converters={
48          0: string_to_date,
49          1: string_to_float,
50          2: string_to_percent,
51          3: string_to_percent,
52          4: string_to_float,
53          5: string_to_float,
54          6: string_to_float,
55          7: string_to_float,
56        },
57        missing_values="nan",
58      )
59    except Exception as rc:
60      print("Empty file {}:\n{}".format(filein, rc))
61      exit(1)
62
63    for date, conso, real_use, theo_use, \
64        run_mean, pen_mean, run_std, pen_std in data:
65      if date in self:
66        self.add_item(
67          date,
68          conso,
69          real_use,
70          theo_use,
71          run_mean,
72          pen_mean,
73          run_std,
74          pen_std,
75        )
76        self[date].fill()
77
78  #---------------------------------------
79  def add_item(self, date, conso=np.nan,
80               real_use=np.nan, theo_use=np.nan,
81               run_mean=np.nan, pen_mean=np.nan,
82               run_std=np.nan, pen_std=np.nan):
83    """
84    """
85    self[date] = Conso(date, conso, real_use, theo_use,
86                       run_mean, pen_mean, run_std, pen_std)
87
88  #---------------------------------------
89  def theo_equation(self):
90    """
91    """
92    (dates, theo_uses) = \
93      zip(*((item.date, item.theo_use)
94            for item in self.get_items_in_full_range()))
95
96    (idx_min, idx_max) = \
97        (np.nanargmin(theo_uses), np.nanargmax(theo_uses))
98
99    x1 = dates[idx_min].timetuple().tm_yday
100    x2 = dates[idx_max].timetuple().tm_yday
101
102    y1 = theo_uses[idx_min]
103    y2 = theo_uses[idx_max]
104
105    m = np.array([[x1, 1.], [x2, 1.]], dtype="float")
106    n = np.array([y1, y2], dtype="float")
107
108    poly_ok = True
109    try:
110      poly_theo = np.poly1d(np.linalg.solve(m, n))
111    except np.linalg.linalg.LinAlgError:
112      poly_ok = False
113
114    if poly_ok:
115      delta = (dates[0] + relativedelta(months=2) - dates[0]).days
116
117      poly_delay = np.poly1d(
118        [poly_theo[1], poly_theo[0] - poly_theo[1] * delta]
119      )
120
121      self.poly_theo = poly_theo
122      self.poly_delay = poly_delay
123
124  #---------------------------------------
125  def get_items_in_range(self, date_beg, date_end, inc=1):
126    """
127    """
128    items = (item for item in self.itervalues()
129                   if item.date >= date_beg and
130                      item.date <= date_end)
131    items = sorted(items, key=lambda item: item.date)
132
133    return items[::inc]
134
135  #---------------------------------------
136  def get_items_in_full_range(self, inc=1):
137    """
138    """
139    items = (item for item in self.itervalues())
140    items = sorted(items, key=lambda item: item.date)
141
142    return items[::inc]
143
144  #---------------------------------------
145  def get_items(self, inc=1):
146    """
147    """
148    items = (item for item in self.itervalues()
149                   if item.isfilled())
150    items = sorted(items, key=lambda item: item.date)
151
152    return items[::inc]
153
154
155class Conso(object):
156  #---------------------------------------
157  def __init__(self, date, conso=np.nan,
158               real_use=np.nan, theo_use=np.nan,
159               run_mean=np.nan, pen_mean=np.nan,
160               run_std=np.nan, pen_std=np.nan):
161    self.date     = date
162    self.conso    = conso
163    self.real_use = real_use
164    self.theo_use = theo_use
165    self.poly_theo = np.poly1d([])
166    self.poly_delay = np.poly1d([])
167    self.run_mean = run_mean
168    self.pen_mean = pen_mean
169    self.run_std  = run_std
170    self.pen_std  = pen_std
171    self.filled   = False
172
173  #---------------------------------------
174  def __repr__(self):
175    return "{:.2f} ({:.2%})".format(self.conso, self.real_use)
176
177  #---------------------------------------
178  def isfilled(self):
179    return self.filled
180
181  #---------------------------------------
182  def fill(self):
183    self.filled = True
184
185
186########################################
187def plot_init():
188  paper_size  = np.array([29.7, 21.0])
189  fig, (ax_conso, ax_jobs) = plt.subplots(
190    nrows=2,
191    ncols=1,
192    sharex=True,
193    squeeze=True,
194    figsize=(paper_size/2.54)
195  )
196  ax_theo = ax_conso.twinx()
197
198  return fig, ax_conso, ax_theo, ax_jobs
199
200
201########################################
202def plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
203              consos, theo_uses, real_uses, theo_equs, theo_delay,
204              run_mean, pen_mean, run_std, pen_std):
205  """
206  """
207  line_style = "-"
208  if args.full:
209    line_width = 0.05
210  else:
211    line_width = 0.1
212
213  ax_conso.bar(
214    xcoord, consos, width=1, align="center", color="linen",
215    linewidth=line_width, label="conso (heures)"
216  )
217
218  ax_theo.plot(
219    xcoord, real_uses, line_style,
220    color="forestgreen", linewidth=1, markersize=8,
221    solid_capstyle="round", solid_joinstyle="round",
222    label="conso\nréelle (%)"
223  )
224  ax_theo.plot(
225    xcoord, theo_equs, "--",
226    color="firebrick", linewidth=0.5,
227    solid_capstyle="round", solid_joinstyle="round"
228  )
229  ax_theo.plot(
230    xcoord, theo_uses, line_style,
231    color="firebrick", linewidth=1, markersize=8,
232    solid_capstyle="round", solid_joinstyle="round",
233    label="conso\nthéorique (%)"
234  )
235  ax_theo.plot(
236    xcoord, theo_delay, ":",
237    color="firebrick", linewidth=0.5,
238    solid_capstyle="round", solid_joinstyle="round",
239    label="retard de\ndeux mois (%)"
240  )
241
242  line_width = 0.
243  width = 1.05
244
245  ax_jobs.bar(
246    xcoord, run_mean, width=width, align="center",
247    # yerr=run_std/2, ecolor="green",
248    color="lightgreen", linewidth=line_width,
249    antialiased=True, label="jobs running"
250  )
251  ax_jobs.bar(
252    xcoord, pen_mean, bottom=run_mean, width=width, align="center",
253    # yerr=pen_std/2, ecolor="darkred",
254    color="firebrick", linewidth=line_width,
255    antialiased=True, label="jobs pending"
256  )
257
258
259########################################
260def plot_config(fig, ax_conso, ax_theo, xcoord, dates, title,
261                conso_per_day):
262  """
263  """
264  # ... Config axes ...
265  # -------------------
266  # 1) Range
267  conso_max = np.nanmax(consos)
268  if args.max:
269    ymax = conso_max  # + conso_max*.1
270  else:
271    ymax = 2. * conso_per_day
272
273  if conso_max > ymax:
274    ax_conso.annotate(
275      "{:.2e} heures".format(conso_max),
276      ha="left",
277      va="top",
278      fontsize="xx-small",
279      bbox=dict(boxstyle="round", fc="w", ec="0.5", color="gray",),
280      # xy=(np.nanargmax(consos)+1.2, ymax),
281      xy=(np.nanargmax(consos)+1.2, ymax*0.9),
282      textcoords="axes fraction",
283      xytext=(0.01, 0.8),
284      arrowprops=dict(
285        arrowstyle="->",
286        shrinkA=0,
287        shrinkB=0,
288        color="gray",
289      ),
290    )
291
292  xmin, xmax = xcoord[0]-1, xcoord[-1]+1
293  ax_conso.set_xlim(xmin, xmax)
294  ax_conso.set_ylim(0., ymax)
295  ax_theo.set_ylim(0., 100)
296
297  # 2) Ticks labels
298  (date_beg, date_end) = (dates[0], dates[-1])
299  date_fmt = "{:%d-%m}"
300
301  if date_end - date_beg > dt.timedelta(weeks=9):
302    maj_xticks = [x for x, d in zip(xcoord, dates)
303                     if d.weekday() == 0]
304    maj_xlabs  = [date_fmt.format(d) for d in dates
305                     if d.weekday() == 0]
306  else:
307    maj_xticks = [x for x, d in zip(xcoord, dates)]
308    maj_xlabs  = [date_fmt.format(d) for d in dates]
309
310  ax_conso.ticklabel_format(axis="y", style="sci", scilimits=(0, 0))
311
312  ax_jobs.set_xticks(xcoord, minor=True)
313  ax_jobs.set_xticks(maj_xticks, minor=False)
314  ax_jobs.set_xticklabels(
315    maj_xlabs, rotation="vertical", size="x-small"
316  )
317
318  for ax, y, label in (
319    (ax_conso, conso_per_day, "heures"),
320    (ax_jobs, conso_per_day / 24, "cœurs"),
321  ):
322    yticks = list(ax.get_yticks())
323    yticks.append(y)
324    ax.set_yticks(yticks)
325    ax.axhline(y=y, color="blue", alpha=0.5,
326               label="conso journaliÚre\nidéale ({})".format(label))
327
328  ax_theo.spines["right"].set_color("firebrick")
329  ax_theo.tick_params(colors="firebrick")
330  ax_theo.yaxis.label.set_color("firebrick")
331
332  for x, d in zip(xcoord, dates):
333    if d.weekday() == 0 and d.hour == 0:
334      for ax in (ax_conso, ax_jobs):
335        ax.axvline(x=x, color="black", alpha=0.5,
336                   linewidth=0.5, linestyle=":")
337
338  # 3) Define axes title
339  for ax, label in (
340    (ax_conso, "heures"),
341    (ax_theo, "%"),
342    (ax_jobs, "cœurs"),
343  ):
344    ax.set_ylabel(label, fontweight="bold")
345    ax.tick_params(axis="y", labelsize="small")
346
347  # 4) Define plot size
348  fig.subplots_adjust(
349    left=0.08,
350    bottom=0.09,
351    right=0.93,
352    top=0.93,
353    hspace=0.1,
354    wspace=0.1,
355  )
356
357  # ... Main title and legend ...
358  # -----------------------------
359  fig.suptitle(title, fontweight="bold", size="large")
360  for ax, loc in (
361    (ax_conso, "upper left"),
362    (ax_theo, "upper right"),
363    (ax_jobs, "upper left"),
364  ):
365    ax.legend(loc=loc, fontsize="x-small", frameon=False)
366
367
368########################################
369def get_arguments():
370  parser = ArgumentParser()
371  parser.add_argument("-v", "--verbose", action="store_true",
372                      help="verbose mode")
373  parser.add_argument("-f", "--full", action="store_true",
374                      help="plot the whole period")
375  parser.add_argument("-i", "--increment", action="store",
376                      type=int, default=1, dest="inc",
377                      help="sampling increment")
378  parser.add_argument("-r", "--range", action="store", nargs=2,
379                      type=string_to_date,
380                      help="date range: ssaa-mm-jj ssaa-mm-jj")
381  parser.add_argument("-m", "--max", action="store_true",
382                      help="plot with y_max = allocation")
383  parser.add_argument("-s", "--show", action="store_true",
384                      help="interactive mode")
385  parser.add_argument("-d", "--dods", action="store_true",
386                      help="copy output on dods")
387
388  return parser.parse_args()
389
390
391########################################
392if __name__ == '__main__':
393
394  # .. Initialization ..
395  # ====================
396  # ... Command line arguments ...
397  # ------------------------------
398  args = get_arguments()
399
400  # ... Turn interactive mode off ...
401  # ---------------------------------
402  if not args.show:
403    import matplotlib
404    matplotlib.use('Agg')
405
406  import matplotlib.pyplot as plt
407  # from matplotlib.backends.backend_pdf import PdfPages
408
409  if not args.show:
410    plt.ioff()
411
412  # ... Files and directories ...
413  # -----------------------------
414  project_name, DIR, OUT = parse_config("bin/config.ini")
415
416  (file_param, file_utheo, file_data) = \
417      get_input_files(DIR["SAVEDATA"],
418                      [OUT["PARAM"], OUT["UTHEO"], OUT["BILAN"]])
419
420  img_name = os.path.splitext(
421               os.path.basename(__file__)
422             )[0].replace("plot_", "")
423
424  today = os.path.basename(file_param).strip(OUT["PARAM"])
425
426  if args.verbose:
427    fmt_str = "{:10s} : {}"
428    print(fmt_str.format("args", args))
429    print(fmt_str.format("today", today))
430    print(fmt_str.format("file_param", file_param))
431    print(fmt_str.format("file_utheo", file_utheo))
432    print(fmt_str.format("file_data", file_data))
433    print(fmt_str.format("img_name", img_name))
434
435  # .. Get project info ..
436  # ======================
437  projet = Project(project_name)
438  projet.fill_data(file_param)
439  projet.get_date_init(file_utheo)
440
441  # .. Fill in data ..
442  # ==================
443  # ... Initialization ...
444  # ----------------------
445  bilan = DataDict()
446  bilan.init_range(projet.date_init, projet.deadline)
447  # ... Extract data from file ...
448  # ------------------------------
449  bilan.fill_data(file_data)
450  # ... Compute theoratical use from known data  ...
451  # ------------------------------------------------
452  bilan.theo_equation()
453
454  # .. Extract data depending on C.L. arguments ..
455  # ==============================================
456  if args.full:
457    selected_items = bilan.get_items_in_full_range(args.inc)
458  elif args.range:
459    selected_items = bilan.get_items_in_range(
460      args.range[0], args.range[1], args.inc
461    )
462  else:
463    selected_items = bilan.get_items(args.inc)
464
465  # .. Compute data to be plotted ..
466  # ================================
467  nb_items = len(selected_items)
468
469  xcoord = np.linspace(1, nb_items, num=nb_items)
470  dates = [item.date for item in selected_items]
471
472  cumul = np.array([item.conso for item in selected_items],
473                        dtype=float)
474  consos = []
475  consos.append(cumul[0])
476  consos[1:nb_items] = cumul[1:nb_items] - cumul[0:nb_items-1]
477  consos = np.array(consos, dtype=float)
478
479  conso_per_day = projet.alloc / projet.days
480
481  theo_uses = np.array(
482    [100.*item.theo_use for item in selected_items],
483    dtype=float
484  )
485  real_uses = np.array(
486    [100.*item.real_use for item in selected_items],
487    dtype=float
488  )
489  theo_equs = np.array(
490    [100. * bilan.poly_theo(date.timetuple().tm_yday)
491      for date in dates],
492    dtype=float
493  )
494  theo_delay = np.array(
495    [100. * bilan.poly_delay(date.timetuple().tm_yday)
496      for date in dates],
497    dtype=float
498  )
499
500  run_mean = np.array([item.run_mean for item in selected_items],
501                       dtype=float)
502  pen_mean = np.array([item.pen_mean for item in selected_items],
503                       dtype=float)
504  run_std  = np.array([item.run_std for item in selected_items],
505                       dtype=float)
506  pen_std  = np.array([item.pen_std for item in selected_items],
507                       dtype=float)
508
509  # .. Plot stuff ..
510  # ================
511  # ... Initialize figure ...
512  # -------------------------
513  (fig, ax_conso, ax_theo, ax_jobs) = plot_init()
514
515  # ... Plot data ...
516  # -----------------
517  plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
518            consos, theo_uses, real_uses, theo_equs, theo_delay,
519            run_mean, pen_mean, run_std, pen_std)
520
521  # ... Tweak figure ...
522  # --------------------
523  title = "{} : Conso globale et suivi des jobs " \
524          "(moyenne journaliÚre)\n({:%d/%m/%Y} - {:%d/%m/%Y})".format(
525            projet.project.upper(),
526            projet.date_init,
527            projet.deadline
528          )
529
530  plot_config(
531    fig, ax_conso, ax_theo, xcoord, dates, title, conso_per_day
532  )
533
534  # ... Save figure ...
535  # -------------------
536  img_in  = os.path.join(DIR["PLOT"], "{}.pdf".format(img_name))
537  img_out = os.path.join(DIR["SAVEPLOT"],
538                         "{}_{}.pdf".format(img_name, today))
539
540  plot_save(img_in, img_out, title, DIR)
541
542  # ... Publish figure on dods ...
543  # ------------------------------
544  if args.dods:
545    if args.verbose:
546      print("Publish figure on dods")
547    dods_cp(img_in, DIR)
548
549  if args.show:
550    plt.show()
551
552  exit(0)
553
Note: See TracBrowser for help on using the repository browser.