source: TOOLS/ConsoGENCMIP6/bin/plot_bilan_jobs.py @ 2632

Last change on this file since 2632 was 2632, checked in by labetoulle, 8 years ago

add minor ticks

  • Property svn:executable set to *
File size: 15.6 KB
Line 
1#!/usr/bin/env python
2# -*- coding: utf-8 -*-
3
4# this must come first
5from __future__ import print_function, unicode_literals, division
6
7# standard library imports
8from argparse import ArgumentParser
9import os
10import os.path
11import datetime as dt
12from dateutil.relativedelta import relativedelta
13import numpy as np
14
15# Application library imports
16from libconso import *
17
18
19########################################
20class DataDict(dict):
21  #---------------------------------------
22  def __init__(self):
23    self = {}
24
25  #---------------------------------------
26  def init_range(self, date_beg, date_end, inc=1):
27    """
28    """
29    delta = date_end - date_beg
30
31    (deb, fin) = (0, delta.days+1)
32
33    dates = (date_beg + dt.timedelta(days=i)
34             for i in xrange(deb, fin, inc))
35
36    for date in dates:
37      self.add_item(date)
38
39  #---------------------------------------
40  def fill_data(self, filein):
41    """
42    """
43    try:
44      data = np.genfromtxt(
45        filein,
46        skip_header=1,
47        converters={
48          0: string_to_date,
49          1: string_to_float,
50          2: string_to_percent,
51          3: string_to_percent,
52          4: string_to_float,
53          5: string_to_float,
54          6: string_to_float,
55          7: string_to_float,
56        },
57        missing_values="nan",
58      )
59    except Exception as rc:
60      print("Empty file {}:\n{}".format(filein, rc))
61      exit(1)
62
63    for date, conso, real_use, theo_use, \
64        run_mean, pen_mean, run_std, pen_std in data:
65      if date in self:
66        self.add_item(
67          date,
68          conso,
69          real_use,
70          theo_use,
71          run_mean,
72          pen_mean,
73          run_std,
74          pen_std,
75        )
76        self[date].fill()
77
78  #---------------------------------------
79  def add_item(self, date, conso=np.nan,
80               real_use=np.nan, theo_use=np.nan,
81               run_mean=np.nan, pen_mean=np.nan,
82               run_std=np.nan, pen_std=np.nan):
83    """
84    """
85    self[date] = Conso(date, conso, real_use, theo_use,
86                       run_mean, pen_mean, run_std, pen_std)
87
88  #---------------------------------------
89  def theo_equation(self):
90    """
91    """
92    (dates, theo_uses) = \
93      zip(*((item.date, item.theo_use)
94            for item in self.get_items_in_full_range()))
95
96    (idx_min, idx_max) = \
97        (np.nanargmin(theo_uses), np.nanargmax(theo_uses))
98
99    x1 = dates[idx_min].timetuple().tm_yday
100    x2 = dates[idx_max].timetuple().tm_yday
101
102    y1 = theo_uses[idx_min]
103    y2 = theo_uses[idx_max]
104
105    m = np.array([[x1, 1.], [x2, 1.]], dtype="float")
106    n = np.array([y1, y2], dtype="float")
107
108    poly_ok = True
109    try:
110      poly_theo = np.poly1d(np.linalg.solve(m, n))
111    except np.linalg.linalg.LinAlgError:
112      poly_ok = False
113
114    if poly_ok:
115      delta = (dates[0] + relativedelta(months=2) - dates[0]).days
116
117      poly_delay = np.poly1d(
118        [poly_theo[1], poly_theo[0] - poly_theo[1] * delta]
119      )
120
121      self.poly_theo = poly_theo
122      self.poly_delay = poly_delay
123
124  #---------------------------------------
125  def get_items_in_range(self, date_beg, date_end, inc=1):
126    """
127    """
128    items = (item for item in self.itervalues()
129                   if item.date >= date_beg and
130                      item.date <= date_end)
131    items = sorted(items, key=lambda item: item.date)
132
133    return items[::inc]
134
135  #---------------------------------------
136  def get_items_in_full_range(self, inc=1):
137    """
138    """
139    items = (item for item in self.itervalues())
140    items = sorted(items, key=lambda item: item.date)
141
142    return items[::inc]
143
144  #---------------------------------------
145  def get_items(self, inc=1):
146    """
147    """
148    items = (item for item in self.itervalues()
149                   if item.isfilled())
150    items = sorted(items, key=lambda item: item.date)
151
152    return items[::inc]
153
154
155class Conso(object):
156  #---------------------------------------
157  def __init__(self, date, conso=np.nan,
158               real_use=np.nan, theo_use=np.nan,
159               run_mean=np.nan, pen_mean=np.nan,
160               run_std=np.nan, pen_std=np.nan):
161    self.date     = date
162    self.conso    = conso
163    self.real_use = real_use
164    self.theo_use = theo_use
165    self.poly_theo = np.poly1d([])
166    self.poly_delay = np.poly1d([])
167    self.run_mean = run_mean
168    self.pen_mean = pen_mean
169    self.run_std  = run_std
170    self.pen_std  = pen_std
171    self.filled   = False
172
173  #---------------------------------------
174  def __repr__(self):
175    return "{:.2f} ({:.2%})".format(self.conso, self.real_use)
176
177  #---------------------------------------
178  def isfilled(self):
179    return self.filled
180
181  #---------------------------------------
182  def fill(self):
183    self.filled = True
184
185
186########################################
187def plot_init():
188  paper_size  = np.array([29.7, 21.0])
189  fig, (ax_conso, ax_jobs) = plt.subplots(
190    nrows=2,
191    ncols=1,
192    sharex=True,
193    squeeze=True,
194    figsize=(paper_size/2.54)
195  )
196  ax_theo = ax_conso.twinx()
197
198  return fig, ax_conso, ax_theo, ax_jobs
199
200
201########################################
202def plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
203              consos, theo_uses, real_uses, theo_equs, theo_delay,
204              run_mean, pen_mean, run_std, pen_std):
205  """
206  """
207  line_style = "-"
208  if args.full:
209    line_width = 0.05
210  else:
211    line_width = 0.1
212
213  ax_conso.bar(
214    xcoord, consos, width=1, align="center", color="linen",
215    linewidth=line_width, label="conso (heures)"
216  )
217
218  ax_theo.plot(
219    xcoord, real_uses, line_style,
220    color="forestgreen", linewidth=1, markersize=8,
221    solid_capstyle="round", solid_joinstyle="round",
222    label="conso\nréelle (%)"
223  )
224  ax_theo.plot(
225    xcoord, theo_equs, "--",
226    color="firebrick", linewidth=0.5,
227    solid_capstyle="round", solid_joinstyle="round"
228  )
229  ax_theo.plot(
230    xcoord, theo_uses, line_style,
231    color="firebrick", linewidth=1, markersize=8,
232    solid_capstyle="round", solid_joinstyle="round",
233    label="conso\nthéorique (%)"
234  )
235  ax_theo.plot(
236    xcoord, theo_delay, ":",
237    color="firebrick", linewidth=0.5,
238    solid_capstyle="round", solid_joinstyle="round",
239    label="retard de\ndeux mois (%)"
240  )
241
242  line_width = 0.
243  width = 1.05
244
245  ax_jobs.bar(
246    xcoord, run_mean, width=width, align="center",
247    # yerr=run_std/2, ecolor="green",
248    color="lightgreen", linewidth=line_width,
249    antialiased=True, label="jobs running"
250  )
251  ax_jobs.bar(
252    xcoord, pen_mean, bottom=run_mean, width=width, align="center",
253    # yerr=pen_std/2, ecolor="darkred",
254    color="firebrick", linewidth=line_width,
255    antialiased=True, label="jobs pending"
256  )
257
258
259########################################
260def plot_config(fig, ax_conso, ax_theo, xcoord, dates, title,
261                conso_per_day, conso_per_day_2):
262  """
263  """
264  from matplotlib.ticker import AutoMinorLocator
265
266  # ... Config axes ...
267  # -------------------
268  # 1) Range
269  conso_max = np.nanmax(consos)
270  if args.max:
271    ymax = conso_max  # + conso_max*.1
272  else:
273    ymax = 3. * max(conso_per_day, conso_per_day_2)
274
275  if conso_max > ymax:
276    ax_conso.annotate(
277      "{:.2e} heures".format(conso_max),
278      ha="left",
279      va="top",
280      fontsize="xx-small",
281      bbox=dict(boxstyle="round", fc="w", ec="0.5", color="gray",),
282      # xy=(np.nanargmax(consos)+1.2, ymax),
283      xy=(np.nanargmax(consos)+1.2, ymax*0.9),
284      textcoords="axes fraction",
285      xytext=(0.01, 0.8),
286      arrowprops=dict(
287        arrowstyle="->",
288        shrinkA=0,
289        shrinkB=0,
290        color="gray",
291      ),
292    )
293
294  xmin, xmax = xcoord[0]-1, xcoord[-1]+1
295  ax_conso.set_xlim(xmin, xmax)
296  ax_conso.set_ylim(0., ymax)
297  ax_theo.set_ylim(0., 100)
298
299  # 2) Ticks labels
300  (date_beg, date_end) = (dates[0], dates[-1])
301  date_fmt = "{:%d-%m}"
302
303  if date_end - date_beg > dt.timedelta(weeks=9):
304    maj_xticks = [x for x, d in zip(xcoord, dates)
305                     if d.weekday() == 0]
306    maj_xlabs  = [date_fmt.format(d) for d in dates
307                     if d.weekday() == 0]
308  else:
309    maj_xticks = [x for x, d in zip(xcoord, dates)]
310    maj_xlabs  = [date_fmt.format(d) for d in dates]
311
312  ax_conso.ticklabel_format(axis="y", style="sci", scilimits=(0, 0))
313
314  ax_jobs.set_xticks(xcoord, minor=True)
315  ax_jobs.set_xticks(maj_xticks, minor=False)
316  ax_jobs.set_xticklabels(
317    maj_xlabs, rotation="vertical", size="x-small"
318  )
319
320  for ax, y, label in (
321    (ax_conso, conso_per_day, "heures"),
322    (ax_jobs, conso_per_day / 24., "cœurs"),
323  ):
324    minor_locator = AutoMinorLocator()
325    ax.yaxis.set_minor_locator(minor_locator)
326
327    yticks = list(ax.get_yticks())
328    yticks.append(y)
329    ax.set_yticks(yticks)
330    ax.axhline(y=y, color="blue", alpha=0.5,
331               label="conso journaliÚre\nidéale ({})".format(label))
332
333  if conso_per_day_2:
334    yticks.append(conso_per_day_2)
335    ax_conso.axhline(y=conso_per_day_2, color="blue", alpha=0.5)
336    ax_jobs.axhline(y=conso_per_day_2 / 24., color="blue", alpha=0.5)
337
338  ax_theo.spines["right"].set_color("firebrick")
339  ax_theo.tick_params(colors="firebrick")
340  ax_theo.yaxis.label.set_color("firebrick")
341
342  for x, d in zip(xcoord, dates):
343    if d.weekday() == 0 and d.hour == 0:
344      for ax in (ax_conso, ax_jobs):
345        ax.axvline(x=x, color="black", alpha=0.5,
346                   linewidth=0.5, linestyle=":")
347
348  # 3) Define axes title
349  for ax, label in (
350    (ax_conso, "heures"),
351    (ax_theo, "%"),
352    (ax_jobs, "cœurs"),
353  ):
354    ax.set_ylabel(label, fontweight="bold")
355    ax.tick_params(axis="y", labelsize="small")
356
357  # 4) Define plot size
358  fig.subplots_adjust(
359    left=0.08,
360    bottom=0.09,
361    right=0.93,
362    top=0.93,
363    hspace=0.1,
364    wspace=0.1,
365  )
366
367  # ... Main title and legend ...
368  # -----------------------------
369  fig.suptitle(title, fontweight="bold", size="large")
370  for ax, loc in (
371    (ax_conso, "upper left"),
372    (ax_theo, "upper right"),
373    (ax_jobs, "upper left"),
374  ):
375    ax.legend(loc=loc, fontsize="x-small", frameon=False)
376
377
378########################################
379def get_arguments():
380  parser = ArgumentParser()
381  parser.add_argument("-v", "--verbose", action="store_true",
382                      help="verbose mode")
383  parser.add_argument("-f", "--full", action="store_true",
384                      help="plot the whole period")
385  parser.add_argument("-i", "--increment", action="store",
386                      type=int, default=1, dest="inc",
387                      help="sampling increment")
388  parser.add_argument("-r", "--range", action="store", nargs=2,
389                      type=string_to_date,
390                      help="date range: ssaa-mm-jj ssaa-mm-jj")
391  parser.add_argument("-m", "--max", action="store_true",
392                      help="plot with y_max = allocation")
393  parser.add_argument("-s", "--show", action="store_true",
394                      help="interactive mode")
395  parser.add_argument("-d", "--dods", action="store_true",
396                      help="copy output on dods")
397
398  return parser.parse_args()
399
400
401########################################
402if __name__ == '__main__':
403
404  # .. Initialization ..
405  # ====================
406  # ... Command line arguments ...
407  # ------------------------------
408  args = get_arguments()
409
410  # ... Turn interactive mode off ...
411  # ---------------------------------
412  if not args.show:
413    import matplotlib
414    matplotlib.use('Agg')
415
416  import matplotlib.pyplot as plt
417  # from matplotlib.backends.backend_pdf import PdfPages
418
419  if not args.show:
420    plt.ioff()
421
422  # ... Files and directories ...
423  # -----------------------------
424  project_name, DIR, OUT = parse_config("bin/config.ini")
425
426  (file_param, file_utheo, file_data) = \
427      get_input_files(DIR["SAVEDATA"],
428                      [OUT["PARAM"], OUT["UTHEO"], OUT["BILAN"]])
429
430  img_name = os.path.splitext(
431               os.path.basename(__file__)
432             )[0].replace("plot_", "")
433
434  today = os.path.basename(file_param).strip(OUT["PARAM"])
435
436  if args.verbose:
437    fmt_str = "{:10s} : {}"
438    print(fmt_str.format("args", args))
439    print(fmt_str.format("today", today))
440    print(fmt_str.format("file_param", file_param))
441    print(fmt_str.format("file_utheo", file_utheo))
442    print(fmt_str.format("file_data", file_data))
443    print(fmt_str.format("img_name", img_name))
444
445  # .. Get project info ..
446  # ======================
447  projet = Project(project_name)
448  projet.fill_data(file_param)
449  projet.get_date_init(file_utheo)
450
451  # .. Fill in data ..
452  # ==================
453  # ... Initialization ...
454  # ----------------------
455  bilan = DataDict()
456  bilan.init_range(projet.date_init, projet.deadline)
457  # ... Extract data from file ...
458  # ------------------------------
459  bilan.fill_data(file_data)
460  # ... Compute theoratical use from known data  ...
461  # ------------------------------------------------
462  bilan.theo_equation()
463
464  # .. Extract data depending on C.L. arguments ..
465  # ==============================================
466  if args.full:
467    selected_items = bilan.get_items_in_full_range(args.inc)
468  elif args.range:
469    selected_items = bilan.get_items_in_range(
470      args.range[0], args.range[1], args.inc
471    )
472  else:
473    selected_items = bilan.get_items(args.inc)
474
475  # .. Compute data to be plotted ..
476  # ================================
477  nb_items = len(selected_items)
478
479  xcoord = np.linspace(1, nb_items, num=nb_items)
480  dates = [item.date for item in selected_items]
481
482  cumul = np.array([item.conso for item in selected_items],
483                        dtype=float)
484  consos = []
485  consos.append(cumul[0])
486  consos[1:nb_items] = cumul[1:nb_items] - cumul[0:nb_items-1]
487  consos = np.array(consos, dtype=float)
488
489  if projet.project == "gencmip6":
490    alloc1 = 5.e6
491    alloc2 = projet.alloc - alloc1
492    conso_per_day   = 2 * alloc1 / projet.days
493    conso_per_day_2 = 2 * alloc2 / projet.days
494  else:
495    conso_per_day = projet.alloc / projet.days
496    conso_per_day_2 = None
497
498  theo_uses = np.array(
499    [100.*item.theo_use for item in selected_items],
500    dtype=float
501  )
502  real_uses = np.array(
503    [100.*item.real_use for item in selected_items],
504    dtype=float
505  )
506  theo_equs = np.array(
507    [100. * bilan.poly_theo(date.timetuple().tm_yday)
508      for date in dates],
509    dtype=float
510  )
511  theo_delay = np.array(
512    [100. * bilan.poly_delay(date.timetuple().tm_yday)
513      for date in dates],
514    dtype=float
515  )
516
517  run_mean = np.array([item.run_mean for item in selected_items],
518                       dtype=float)
519  pen_mean = np.array([item.pen_mean for item in selected_items],
520                       dtype=float)
521  run_std  = np.array([item.run_std for item in selected_items],
522                       dtype=float)
523  pen_std  = np.array([item.pen_std for item in selected_items],
524                       dtype=float)
525
526  # .. Plot stuff ..
527  # ================
528  # ... Initialize figure ...
529  # -------------------------
530  (fig, ax_conso, ax_theo, ax_jobs) = plot_init()
531
532  # ... Plot data ...
533  # -----------------
534  plot_data(ax_conso, ax_theo, ax_jobs, xcoord, dates,
535            consos, theo_uses, real_uses, theo_equs, theo_delay,
536            run_mean, pen_mean, run_std, pen_std)
537
538  # ... Tweak figure ...
539  # --------------------
540  title = "{} : Conso globale et suivi des jobs " \
541          "(moyenne journaliÚre)\n({:%d/%m/%Y} - {:%d/%m/%Y})".format(
542            projet.project.upper(),
543            projet.date_init,
544            projet.deadline
545          )
546
547  plot_config(
548    fig, ax_conso, ax_theo, xcoord, dates, title, 
549    conso_per_day, conso_per_day_2
550  )
551
552  # ... Save figure ...
553  # -------------------
554  img_in  = os.path.join(DIR["PLOT"], "{}.pdf".format(img_name))
555  img_out = os.path.join(DIR["SAVEPLOT"],
556                         "{}_{}.pdf".format(img_name, today))
557
558  plot_save(img_in, img_out, title, DIR)
559
560  # ... Publish figure on dods ...
561  # ------------------------------
562  if args.dods:
563    if args.verbose:
564      print("Publish figure on dods")
565    dods_cp(img_in, DIR)
566
567  if args.show:
568    plt.show()
569
570  exit(0)
571
Note: See TracBrowser for help on using the repository browser.