source: TOOLS/ConsoGENCMIP6/bin/plot_bilan.py @ 2437

Last change on this file since 2437 was 2437, checked in by labetoulle, 8 years ago

Add plot_bilan_jobs.py and do some cleaning

  • Property svn:executable set to *
File size: 12.7 KB
Line 
1#!/usr/bin/env python
2# -*- coding: utf-8 -*-
3
4# this must come first
5from __future__ import print_function, unicode_literals, division
6
7# standard library imports
8from argparse import ArgumentParser
9import os
10import os.path
11import datetime as dt
12import numpy as np
13
14# Application library imports
15from gencmip6 import *
16from gencmip6_path import *
17
18
19########################################
20class DataDict(dict):
21  #---------------------------------------
22  def __init__(self):
23    self = {}
24
25  #---------------------------------------
26  def init_range(self, date_beg, date_end, inc=1):
27    """
28    """
29    delta = date_end - date_beg
30
31    (deb, fin) = (0, delta.days+1)
32
33    dates = (date_beg + dt.timedelta(days=i)
34             for i in xrange(deb, fin, inc))
35
36    for date in dates:
37      self.add_item(date)
38
39  #---------------------------------------
40  def fill_data(self, filein):
41    """
42    """
43    try:
44      data = np.genfromtxt(
45        filein,
46        skip_header=1,
47        converters={
48          0: string_to_date,
49          1: string_to_float,
50          2: string_to_percent,
51          3: string_to_percent,
52          4: string_to_float,
53          5: string_to_float,
54          6: string_to_float,
55          7: string_to_float,
56        },
57        missing_values="nan",
58      )
59    except Exception as rc:
60      print("Empty file {}:\n{}".format(filein, rc))
61      exit(1)
62
63    for date, conso, real_use, theo_use, \
64        run_mean, pen_mean, run_std, pen_std in data:
65      if date in self:
66        self.add_item(
67          date,
68          conso,
69          real_use,
70          theo_use,
71          run_mean,
72          pen_mean,
73          run_std,
74          pen_std,
75        )
76        self[date].fill()
77
78  #---------------------------------------
79  def add_item(self, date, conso=np.nan,
80               real_use=np.nan, theo_use=np.nan,
81               run_mean=np.nan, pen_mean=np.nan,
82               run_std=np.nan, pen_std=np.nan):
83    """
84    """
85    self[date] = Conso(date, conso, real_use, theo_use,
86                       run_mean, pen_mean, run_std, pen_std)
87
88  #---------------------------------------
89  def theo_equation(self):
90    """
91    """
92    (dates, theo_uses) = \
93      zip(*((item.date, item.theo_use)
94            for item in self.get_items_in_full_range()))
95
96    (idx_min, idx_max) = \
97        (np.nanargmin(theo_uses), np.nanargmax(theo_uses))
98
99    x1 = dates[idx_min].timetuple().tm_yday
100    x2 = dates[idx_max].timetuple().tm_yday
101
102    y1 = theo_uses[idx_min]
103    y2 = theo_uses[idx_max]
104
105    m = np.array([
106      [x1, 1.],
107      [x2, 1.]
108    ], dtype="float")
109    n = np.array([
110      y1,
111      y2
112    ], dtype="float")
113
114    try:
115      (a, b) = np.linalg.solve(m, n)
116    except np.linalg.linalg.LinAlgError:
117      (a, b) = (None, None)
118
119    if a and b:
120      for date in dates:
121        self[date].theo_equ = date.timetuple().tm_yday*a + b
122
123  #---------------------------------------
124  def get_items_in_range(self, date_beg, date_end, inc=1):
125    """
126    """
127    items = (item for item in self.itervalues()
128                   if item.date >= date_beg and
129                      item.date <= date_end)
130    items = sorted(items, key=lambda item: item.date)
131
132    return items[::inc]
133
134  #---------------------------------------
135  def get_items_in_full_range(self, inc=1):
136    """
137    """
138    items = (item for item in self.itervalues())
139    items = sorted(items, key=lambda item: item.date)
140
141    return items[::inc]
142
143  #---------------------------------------
144  def get_items(self, inc=1):
145    """
146    """
147    items = (item for item in self.itervalues()
148                   if item.isfilled())
149    items = sorted(items, key=lambda item: item.date)
150
151    return items[::inc]
152
153
154class Conso(object):
155  #---------------------------------------
156  def __init__(self, date, conso=np.nan,
157               real_use=np.nan, theo_use=np.nan,
158               run_mean=np.nan, pen_mean=np.nan,
159               run_std=np.nan, pen_std=np.nan):
160    self.date     = date
161    self.conso    = conso
162    self.real_use = real_use
163    self.theo_use = theo_use
164    self.theo_equ = np.nan
165    self.run_mean = run_mean
166    self.pen_mean = pen_mean
167    self.run_std  = run_std
168    self.pen_std  = pen_std
169    self.filled   = False
170
171  #---------------------------------------
172  def __repr__(self):
173    return "{:.2f} ({:.2%})".format(self.conso, self.real_use)
174
175  #---------------------------------------
176  def isfilled(self):
177    return self.filled
178
179  #---------------------------------------
180  def fill(self):
181    self.filled = True
182
183
184########################################
185def plot_init():
186  paper_size  = np.array([29.7, 21.0])
187  fig, ax_conso = plt.subplots(figsize=(paper_size/2.54))
188  ax_theo = ax_conso.twinx()
189
190  return fig, ax_conso, ax_theo
191
192
193########################################
194def plot_data(ax_conso, ax_theo, xcoord, dates,
195              consos, theo_uses, real_uses, theo_equs,
196              run_mean, pen_mean, run_std, pen_std):
197  """
198  """
199  line_style = "-"
200  if args.full:
201    line_width = 0.05
202  else:
203    # line_style = "+-"
204    line_width = 0.1
205
206  ax_conso.bar(xcoord, consos, width=1, align="center", color="linen",
207               linewidth=line_width, label="conso (heures)")
208
209  ax_theo.plot(xcoord, theo_equs, "--",
210               color="firebrick", linewidth=0.5,
211               solid_capstyle="round", solid_joinstyle="round")
212  ax_theo.plot(xcoord, theo_uses, line_style, color="firebrick",
213               linewidth=1, markersize=8,
214               solid_capstyle="round", solid_joinstyle="round",
215               label="conso théorique (%)")
216  ax_theo.plot(xcoord, real_uses, line_style, color="forestgreen",
217               linewidth=1, markersize=8,
218               solid_capstyle="round", solid_joinstyle="round",
219               label="conso réelle (%)")
220
221
222########################################
223def plot_config(fig, ax_conso, ax_theo, xcoord, dates, title, conso_per_day):
224  """
225  """
226  # ... Config axes ...
227  # -------------------
228  # 1) Range
229  if args.max:
230    ymax = gencmip6.alloc
231  else:
232    ymax = np.nanmax(consos) + np.nanmax(consos)*.1
233
234  xmin, xmax = xcoord[0]-1, xcoord[-1]+1
235  ax_conso.set_xlim(xmin, xmax)
236  ax_conso.set_ylim(0., ymax)
237  ax_theo.set_ylim(0., 100)
238
239  # 2) Ticks labels
240  (date_beg, date_end) = (dates[0], dates[-1])
241  date_fmt = "{:%d-%m}"
242
243  if date_end - date_beg > dt.timedelta(weeks=9):
244    maj_xticks = [x for x, d in zip(xcoord, dates)
245                     if d.weekday() == 0]
246    maj_xlabs  = [date_fmt.format(d) for d in dates
247                     if d.weekday() == 0]
248  else:
249    maj_xticks = [x for x, d in zip(xcoord, dates)]
250    maj_xlabs  = [date_fmt.format(d) for d in dates]
251
252  ax_conso.ticklabel_format(axis="y", style="sci", scilimits=(0, 0))
253
254  ax_conso.set_xticks(xcoord, minor=True)
255  ax_conso.set_xticks(maj_xticks, minor=False)
256  ax_conso.set_xticklabels(maj_xlabs, rotation="vertical", size="x-small")
257
258  yticks = list(ax_conso.get_yticks())
259  yticks.append(conso_per_day)
260  ax_conso.set_yticks(yticks)
261
262  ax_conso.axhline(y=conso_per_day, color="blue", alpha=0.5,
263                   label="conso journaliÚre idéale (heures)")
264
265  for x, d in zip(xcoord, dates):
266    if d.weekday() == 0 and d.hour == 0:
267      ax_conso.axvline(x=x, color="black", alpha=0.5,
268                       linewidth=0.5, linestyle=":")
269
270  # 3) Define axes title
271  for ax, label in (
272    (ax_conso, "heures"),
273    (ax_theo, "%"),
274  ):
275    ax.set_ylabel(label, fontweight="bold")
276    ax.tick_params(axis="y", labelsize="small")
277
278  # 4) Define plot size
279  fig.subplots_adjust(
280    left=0.08,
281    bottom=0.09,
282    right=0.93,
283    top=0.93,
284  )
285
286  # ... Main title and legend ...
287  # -----------------------------
288  fig.suptitle(title, fontweight="bold", size="large")
289  for ax, loc in (
290    (ax_conso, "upper left"),
291    (ax_theo, "upper right"),
292  ):
293    ax.legend(loc=loc, fontsize="x-small", frameon=False)
294
295
296########################################
297def get_arguments():
298  parser = ArgumentParser()
299  parser.add_argument("-v", "--verbose", action="store_true",
300                      help="verbose mode")
301  parser.add_argument("-f", "--full", action="store_true",
302                      help="plot the whole period")
303  parser.add_argument("-i", "--increment", action="store",
304                      type=int, default=1, dest="inc",
305                      help="sampling increment")
306  parser.add_argument("-r", "--range", action="store", nargs=2,
307                      type=string_to_date,
308                      help="date range: ssaa-mm-jj ssaa-mm-jj")
309  parser.add_argument("-m", "--max", action="store_true",
310                      help="plot with y_max = allocation")
311  parser.add_argument("-s", "--show", action="store_true",
312                      help="interactive mode")
313  parser.add_argument("-d", "--dods", action="store_true",
314                      help="copy output on dods")
315
316  return parser.parse_args()
317
318
319########################################
320if __name__ == '__main__':
321
322  # .. Initialization ..
323  # ====================
324  # ... Command line arguments ...
325  # ------------------------------
326  args = get_arguments()
327  if args.verbose:
328    print(args)
329
330  # ... Turn interactive mode off ...
331  # ---------------------------------
332  if not args.show:
333    import matplotlib
334    matplotlib.use('Agg')
335
336  import matplotlib.pyplot as plt
337  # from matplotlib.backends.backend_pdf import PdfPages
338
339  if not args.show:
340    plt.ioff()
341
342  # ... Files and directories ...
343  # -----------------------------
344  (file_param, file_utheo, file_data) = \
345      get_input_files(DIR["SAVEDATA"],
346                      [OUT["PARAM"], OUT["UTHEO"], OUT["BILAN"]])
347
348  img_name = "bilan"
349  today = os.path.basename(file_param).strip(OUT["PARAM"])
350
351  if args.verbose:
352    print(file_param)
353    print(file_utheo)
354    print(file_data)
355    print(img_name)
356    print(today)
357
358  # .. Get project info ..
359  # ======================
360  gencmip6 = Project()
361  gencmip6.fill_data(file_param)
362  gencmip6.get_date_init(file_utheo)
363
364  # .. Fill in data ..
365  # ==================
366  # ... Initialization ...
367  # ----------------------
368  bilan = DataDict()
369  bilan.init_range(gencmip6.date_init, gencmip6.deadline)
370  # ... Extract data from file ...
371  # ------------------------------
372  bilan.fill_data(file_data)
373  # ... Compute theoratical use from known data  ...
374  # ------------------------------------------------
375  bilan.theo_equation()
376
377  # .. Extract data depending on C.L. arguments ..
378  # ==============================================
379  if args.full:
380    selected_items = bilan.get_items_in_full_range(args.inc)
381  elif args.range:
382    selected_items = bilan.get_items_in_range(
383      args.range[0], args.range[1], args.inc
384    )
385  else:
386    selected_items = bilan.get_items(args.inc)
387
388  # .. Compute data to be plotted ..
389  # ================================
390  nb_items = len(selected_items)
391
392  xcoord    = np.linspace(1, nb_items, num=nb_items)
393  dates   = [item.date for item in selected_items]
394
395  cumul     = np.array([item.conso for item in selected_items],
396                        dtype=float)
397  consos    = []
398  consos.append(cumul[0])
399  consos[1:nb_items] = cumul[1:nb_items] - cumul[0:nb_items-1]
400  consos    = np.array(consos, dtype=float)
401
402  conso_per_day = gencmip6.alloc / gencmip6.days
403
404  theo_uses = np.array([100.*item.theo_use for item in selected_items],
405                       dtype=float)
406  real_uses = np.array([100.*item.real_use for item in selected_items],
407                       dtype=float)
408  theo_equs = np.array([100.*item.theo_equ for item in selected_items],
409                       dtype=float)
410
411  run_mean = np.array([item.run_mean for item in selected_items],
412                       dtype=float)
413  pen_mean = np.array([item.pen_mean for item in selected_items],
414                       dtype=float)
415  run_std  = np.array([item.run_std for item in selected_items],
416                       dtype=float)
417  pen_std  = np.array([item.pen_std for item in selected_items],
418                       dtype=float)
419
420  # .. Plot stuff ..
421  # ================
422  # ... Initialize figure ...
423  # -------------------------
424  (fig, ax_conso, ax_theo) = plot_init()
425
426  # ... Plot data ...
427  # -----------------
428  plot_data(ax_conso, ax_theo, xcoord, dates,
429            consos, theo_uses, real_uses, theo_equs,
430            run_mean, pen_mean, run_std, pen_std)
431
432  # ... Tweak figure ...
433  # --------------------
434  title = "Consommation {}\n({:%d/%m/%Y} - {:%d/%m/%Y})".format(
435    gencmip6.project.upper(),
436    gencmip6.date_init,
437    gencmip6.deadline
438  )
439
440  plot_config(fig, ax_conso, ax_theo, xcoord, dates, title, conso_per_day)
441
442  # ... Save figure ...
443  # -------------------
444  img_in  = os.path.join(DIR["PLOT"], "{}.pdf".format(img_name))
445  img_out = os.path.join(DIR["SAVEPLOT"],
446                         "{}_{}.pdf".format(img_name, today))
447
448  plot_save(img_in, img_out, title)
449
450  # ... Publish figure on dods ...
451  # ------------------------------
452  if args.dods:
453    dods_cp(img_in)
454
455  if args.show:
456    plt.show()
457
458  exit(0)
459
Note: See TracBrowser for help on using the repository browser.