source: XIOS/dev/dev_olga/src/node/grid.hpp @ 1099

Last change on this file since 1099 was 1099, checked in by mhnguyen, 7 years ago

Updating 2-level server

+) Make some changes in the way data rebuilt on each level of server
+) Make some changes in the order of functions call during close context to make sure that each server receives the global indexes before calculating index to send to next level
+) Modify some functions to make sure data sent to the correct server pool

Test
+) On Curie
+) Only test_client

  • Property copyright set to
    Software name : XIOS (Xml I/O Server)
    http://forge.ipsl.jussieu.fr/ioserver
    Creation date : January 2009
    Licence : CeCCIL version2
    see license file in root directory : Licence_CeCILL_V2-en.txt
    or http://www.cecill.info/licences/Licence_CeCILL_V2-en.html
    Holder : CEA/LSCE (Laboratoire des Sciences du CLimat et de l'Environnement)
    CNRS/IPSL (Institut Pierre Simon Laplace)
    Project Manager : Yann Meurdesoif
    yann.meurdesoif@cea.fr
  • Property svn:executable set to *
File size: 16.4 KB
Line 
1#ifndef __XIOS_CGrid__
2#define __XIOS_CGrid__
3
4/// XIOS headers ///
5#include "xios_spl.hpp"
6#include "group_factory.hpp"
7
8#include "declare_group.hpp"
9#include "domain.hpp"
10#include "axis.hpp"
11#include "scalar.hpp"
12#include "array_new.hpp"
13#include "attribute_array.hpp"
14#include "distribution_server.hpp"
15#include "client_server_mapping.hpp"
16#include "utils.hpp"
17#include "transformation_enum.hpp"
18
19namespace xios {
20
21   /// ////////////////////// Déclarations ////////////////////// ///
22
23   class CGridGroup;
24   class CGridAttributes;
25   class CDomainGroup;
26   class CAxisGroup;
27   class CScalarGroup;
28   class CGrid;
29   class CDistributionClient;
30   class CDistributionServer;
31   class CServerDistributionDescription;
32   class CClientServerMapping;
33   class CGridTransformation;
34
35   ///--------------------------------------------------------------
36
37   // Declare/Define CGridAttribute
38   BEGIN_DECLARE_ATTRIBUTE_MAP(CGrid)
39#  include "grid_attribute.conf"
40   END_DECLARE_ATTRIBUTE_MAP(CGrid)
41
42   ///--------------------------------------------------------------
43
44   class CGrid
45      : public CObjectTemplate<CGrid>
46      , public CGridAttributes
47   {
48         /// typedef ///
49         typedef CObjectTemplate<CGrid>   SuperClass;
50         typedef CGridAttributes SuperClassAttribute;
51
52      public:
53
54         typedef CGridAttributes RelAttributes;
55         typedef CGridGroup      RelGroup;
56
57         enum EEventId
58         {
59           EVENT_ID_INDEX, EVENT_ID_ADD_DOMAIN, EVENT_ID_ADD_AXIS, EVENT_ID_ADD_SCALAR
60         };
61
62         /// Constructeurs ///
63         CGrid(void);
64         explicit CGrid(const StdString& id);
65         CGrid(const CGrid& grid);       // Not implemented yet.
66         CGrid(const CGrid* const grid); // Not implemented yet.
67
68         /// Traitements ///
69//         void solveReference(void);
70
71         void checkEligibilityForCompressedOutput();
72
73         void solveDomainAxisRef(bool areAttributesChecked);
74
75         void checkMaskIndex(bool doCalculateIndex);
76
77 //        virtual void toBinary  (StdOStream& os) const;
78//         virtual void fromBinary(StdIStream& is);
79
80         void addRelFileCompressed(const StdString& filename);
81
82         /// Tests ///
83         bool isCompressible(void) const;
84         bool isWrittenCompressed(const StdString& filename) const;
85
86      public:
87
88         /// Accesseurs ///
89         StdSize getDimension(void) const;
90
91         StdSize  getDataSize(void) const;
92
93         /// Entrées-sorties de champs ///
94         template <int n>
95         void inputField(const CArray<double,n>& field, CArray<double,1>& stored) const;
96         template <int n>
97         void outputField(const CArray<double,1>& stored, CArray<double,n>& field) const;
98
99         void outputField(int rank, const CArray<double,1>& stored, double* field);
100         void inputField(int rank, const double* const field, CArray<double,1>& stored);
101
102         void outputCompressedField(int rank, const CArray<double,1>& stored, double* field);
103
104         virtual void parse(xml::CXMLNode& node);
105
106         /// Destructeur ///
107         virtual ~CGrid(void);
108
109      public:
110
111         /// Accesseurs statiques ///
112         static StdString GetName(void);
113         static StdString GetDefName(void);
114
115         static ENodeType GetType(void);
116
117         /// Instanciateurs Statiques ///
118         static CGrid* createGrid(CDomain* domain);
119         static CGrid* createGrid(CDomain* domain, CAxis* axis);
120         static CGrid* createGrid(const std::vector<CDomain*>& domains, const std::vector<CAxis*>& axis,
121                                  const CArray<int,1>& axisDomainOrder = CArray<int,1>());
122         static CGrid* createGrid(StdString id, const std::vector<CDomain*>& domains, const std::vector<CAxis*>& axis,
123                                  const std::vector<CScalar*>& scalars, const CArray<int,1>& axisDomainOrder = CArray<int,1>());
124         static CGrid* createGrid(const std::vector<CDomain*>& domains, const std::vector<CAxis*>& axis,
125                                  const std::vector<CScalar*>& scalars, const CArray<int,1>& axisDomainOrder);
126         static StdString generateId(const std::vector<CDomain*>& domains, const std::vector<CAxis*>& axis,
127                                     const std::vector<CScalar*>& scalars, const CArray<int,1>& axisDomainOrder = CArray<int,1>());
128         static StdString generateId(const CGrid* gridSrc, const CGrid* gridDest);
129         static CGrid* cloneGrid(const StdString& idNewGrid, CGrid* gridSrc);
130
131      public:
132
133         /// Entrées-sorties de champs (interne) ///
134         void storeField_arr(const double* const data, CArray<double,1>& stored) const;
135         void restoreField_arr(const CArray<double,1>& stored, double* const data) const;
136
137         /// Traitements protégés ///
138         void computeIndexServer(void);
139         void computeIndex(void);
140         void computeIndexScalarGrid();
141         void computeCompressedIndex();
142
143         void solveDomainRef(bool checkAtt);
144         void solveAxisRef(bool checkAtt);
145         void solveScalarRef(bool checkAtt);
146         void solveDomainAxisRefInheritance(bool apply = true);
147         void solveTransformations();
148         void solveDomainAxisBaseRef();
149
150         CDomain* addDomain(const std::string& id=StdString());
151         CAxis* addAxis(const std::string& id=StdString());
152         CScalar* addScalar(const std::string& id=StdString());
153         void sendAddDomain(const std::string& id="");
154         void sendAddAxis(const std::string& id="");
155         void sendAddScalar(const std::string& id="");
156         void sendAllDomains();
157         void sendAllAxis();
158         void sendAllScalars();
159
160         static void recvAddDomain(CEventServer& event);
161         void recvAddDomain(CBufferIn& buffer);
162         static void recvAddAxis(CEventServer& event);
163         void recvAddAxis(CBufferIn& buffer);
164         static void recvAddScalar(CEventServer& event);
165         void recvAddScalar(CBufferIn& buffer);
166
167         static bool dispatchEvent(CEventServer& event);
168         static void recvIndex(CEventServer& event);
169         void recvIndex(vector<int> ranks, vector<CBufferIn*> buffers);
170         void sendIndex(void);
171         void sendIndexScalarGrid();
172
173         void computeDomConServer();
174         std::map<int, int> getDomConServerSide();
175         std::map<int, StdSize> getAttributesBufferSize();
176         std::vector<std::map<int, StdSize> > getDataBufferSize(const std::string& id = "");
177         std::vector<StdString> getDomainList();
178         std::vector<StdString> getAxisList();
179         std::vector<StdString> getScalarList();
180         std::vector<CDomain*> getDomains();
181         std::vector<CAxis*> getAxis();
182         std::vector<CScalar*> getScalars();
183         CDomain* getDomain(int domainIndex);
184         CAxis* getAxis(int axisIndex);
185         CScalar* getScalar(int scalarIndex);
186         std::vector<int> getAxisOrder();
187         std::vector<int> getGlobalDimension();
188         bool isScalarGrid() const;
189         std::vector<int> getAxisPositionInGrid() const;
190
191         bool doGridHaveDataToWrite();
192         bool doGridHaveDataDistributed();
193         size_t getWrittenDataSize() const;
194         int getNumberWrittenIndexes() const;
195         int getTotalNumberWrittenIndexes() const;
196         int getOffsetWrittenIndexes() const;
197
198         CDistributionServer* getDistributionServer();
199         CDistributionClient* getDistributionClient();
200         CGridTransformation* getTransformations();
201
202         void transformGrid(CGrid* transformGridSrc);
203         void completeGrid(CGrid* transformGridSrc = 0);
204         void doAutoDistribution(CGrid* transformGridSrc);
205         bool isTransformed();
206         void setTransformed();
207         bool isGenerated();
208         void setGenerated();
209         void addTransGridSource(CGrid* gridSrc);
210         std::map<CGrid*, std::pair<bool,StdString> >& getTransGridSource();
211         bool hasTransform();
212
213      public:
214
215         /// Propriétés privées ///
216         bool isChecked;
217         bool isDomainAxisChecked;
218         bool isIndexSent;
219
220         CArray<int, 1> storeIndex_client;
221
222         map<int, CArray<int, 1> > storeIndex_toSrv;
223         map<int, CArray<int, 1> > storeIndex_fromSrv;
224         std::vector<map<int,int> > nbSenders;
225
226         map<int, CArray<size_t, 1> > outIndexFromClient, compressedOutIndexFromClient;
227         CArray<size_t,1> indexFromClients;
228         void checkMask(void);
229         void createMask(void);
230         void modifyMask(const CArray<int,1>& indexToModify);
231
232         void computeGridGlobalDimension(const std::vector<CDomain*>& domains,
233                                         const std::vector<CAxis*>& axis,
234                                         const std::vector<CScalar*>& scalars,
235                                         const CArray<int,1>& axisDomainOrder);
236
237      private:
238       template<int N>
239       void checkGridMask(CArray<bool,N>& gridMask,
240                          const std::vector<CArray<bool,1>* >& domainMasks,
241                          const std::vector<CArray<bool,1>* >& axisMasks,
242                          const CArray<int,1>& axisDomainOrder,
243                          bool createMask = false);
244        template<int N>
245        void modifyGridMask(CArray<bool,N>& gridMask, const CArray<int,1>& indexToModify);
246
247        void setVirtualDomainGroup(CDomainGroup* newVDomainGroup);
248        void setVirtualAxisGroup(CAxisGroup* newVAxisGroup);
249        void setVirtualScalarGroup(CScalarGroup* newVScalarGroup);
250
251        void setDomainList(const std::vector<CDomain*> domains = std::vector<CDomain*>());
252        void setAxisList(const std::vector<CAxis*> axis = std::vector<CAxis*>());
253        void setScalarList(const std::vector<CScalar*> scalars = std::vector<CScalar*>());
254
255        CDomainGroup* getVirtualDomainGroup() const;
256        CAxisGroup* getVirtualAxisGroup() const;
257        CScalarGroup* getVirtualScalarGroup() const;
258
259        void checkAttributesAfterTransformation();
260        void setTransformationAlgorithms();
261        void computeIndexByElement(const std::vector<boost::unordered_map<size_t,std::vector<int> > >& indexServerOnElement,
262                                   CClientServerMapping::GlobalIndexMap& globalIndexOnServer);
263
264        void computeClientIndex();
265        void computeConnectedClients();
266
267      private:
268        CDomainGroup* vDomainGroup_;
269        CAxisGroup* vAxisGroup_;
270        CScalarGroup* vScalarGroup_;
271        std::vector<std::string> axisList_, domList_, scalarList_;
272        bool isAxisListSet, isDomListSet, isScalarListSet;
273
274        CDistributionClient* clientDistribution_;
275        CDistributionServer* serverDistribution_;
276        CClientServerMapping* clientServerMap_;
277        size_t writtenDataSize_;
278        int numberWrittenIndexes_, totalNumberWrittenIndexes_, offsetWrittenIndexes_;
279        std::vector<std::map<int,size_t> > connectedDataSize_;
280        std::vector<std::vector<int> > connectedServerRank_;
281        bool isDataDistributed_;
282        int positionDimensionDistributed_;
283         //! True if and only if the data defined on the grid can be outputted in a compressed way
284        bool isCompressible_;
285        std::set<std::string> relFilesCompressed;
286
287        bool isTransformed_;
288        bool isGenerated_;
289        std::vector<int> axisPositionInGrid_;
290        CGridTransformation* transformations_;
291        bool hasDomainAxisBaseRef_;
292        std::vector<int> globalDim_;
293        std::map<CGrid*, std::pair<bool,StdString> > gridSrc_;
294        bool hasTransform_;
295        CClientServerMapping::GlobalIndexMap globalIndexOnServer_;
296            // List order of axis and domain in a grid, if there is a domain, it will take value 1 (true), axis 0 (false)
297        std::vector<int> order_;
298   }; // class CGrid
299
300   ///--------------------------------------------------------------
301
302   template <int n>
303   void CGrid::inputField(const CArray<double,n>& field, CArray<double,1>& stored) const
304   {
305      if (this->getDataSize() != field.numElements())
306         ERROR("void CGrid::inputField(const  CArray<double,n>& field, CArray<double,1>& stored) const",
307                << "[ Awaiting data of size = " << this->getDataSize() << ", "
308                << "Received data size = "      << field.numElements() << " ] "
309                << "The data array does not have the right size! "
310                << "Grid = " << this->GetName())
311      this->storeField_arr(field.dataFirst(), stored);
312   }
313
314   template <int n>
315   void CGrid::outputField(const CArray<double,1>& stored, CArray<double,n>& field) const
316   {
317      if (this->getDataSize() != field.numElements())
318         ERROR("void CGrid::outputField(const CArray<double,1>& stored, CArray<double,n>& field) const",
319                << "[ Size of the data = " << this->getDataSize() << ", "
320                << "Output data size = "   << field.numElements() << " ] "
321                << "The ouput array does not have the right size! "
322                << "Grid = " << this->GetName())
323      this->restoreField_arr(stored, field.dataFirst());
324   }
325
326   template<int N>
327   void CGrid::checkGridMask(CArray<bool,N>& gridMask,
328                             const std::vector<CArray<bool,1>* >& domainMasks,
329                             const std::vector<CArray<bool,1>* >& axisMasks,
330                             const CArray<int,1>& axisDomainOrder,
331                             bool createMask)
332   {
333     int idx = 0;
334     int numElement = axisDomainOrder.numElements();
335     int dim = domainMasks.size() * 2 + axisMasks.size();
336     std::vector<CDomain*> domainP = this->getDomains();
337
338     std::vector<int> idxLoop(dim,0), indexMap(numElement), eachDimSize(dim);
339     std::vector<int> currentIndex(dim);
340     int idxDomain = 0, idxAxis = 0;
341    for (int i = 0; i < numElement; ++i)
342    {
343      indexMap[i] = idx;
344      if (2 == axisDomainOrder(i)) {
345          eachDimSize[indexMap[i]]   = domainP[idxDomain]->ni;
346          eachDimSize[indexMap[i]+1] = domainP[idxDomain]->nj;
347          idx += 2; ++idxDomain;
348      }
349      else if (1 == axisDomainOrder(i)) {
350        eachDimSize[indexMap[i]] = axisMasks[idxAxis]->numElements();
351        ++idx; ++idxAxis;
352      }
353      else {};
354    }
355
356    if (!gridMask.isEmpty() && !createMask)
357    {
358      for (int i = 0; i < dim; ++i)
359      {
360        if (gridMask.extent(i) != eachDimSize[i])
361          ERROR("CGrid::checkMask(void)",
362                << "The mask has one dimension whose size is different from the one of the local grid." << std::endl
363                << "Local size of dimension " << i << " is " << eachDimSize[i] << "." << std::endl
364                << "Mask size for dimension " << i << " is " << gridMask.extent(i) << "." << std::endl
365                << "Grid = " << this->GetName())
366      }
367    }
368    else {
369        CArrayBoolTraits<CArray<bool,N> >::resizeArray(gridMask,eachDimSize);
370        gridMask = true;
371    }
372
373    int ssize = gridMask.numElements();
374    idx = 0;
375    while (idx < ssize)
376    {
377      for (int i = 0; i < dim-1; ++i)
378      {
379        if (idxLoop[i] == eachDimSize[i])
380        {
381          idxLoop[i] = 0;
382          ++idxLoop[i+1];
383        }
384      }
385
386      // Find out outer index
387      idxDomain = idxAxis = 0;
388      bool maskValue = true;
389      for (int i = 0; i < numElement; ++i)
390      {
391        if (2 == axisDomainOrder(i))
392        {
393          maskValue = maskValue && (*domainMasks[idxDomain])(idxLoop[indexMap[i]] + idxLoop[indexMap[i]+1] * eachDimSize[indexMap[i]]);
394          ++idxDomain;
395        }
396        else if (1 == axisDomainOrder(i))
397        {
398          maskValue = maskValue && (*axisMasks[idxAxis])(idxLoop[indexMap[i]]);
399          ++idxAxis;
400        }
401      }
402
403      int maskIndex = idxLoop[0];
404      int mulDim = 1;
405      for (int k = 1; k < dim; ++k)
406      {
407        mulDim *= eachDimSize[k-1];
408        maskIndex += idxLoop[k]*mulDim;
409      }
410      *(gridMask.dataFirst()+maskIndex) &= maskValue;
411
412      ++idxLoop[0];
413      ++idx;
414    }
415
416   }
417
418   /*!
419     Modify the current mask of grid, the local index to be modified will take value false
420     \param [in/out] gridMask current mask of grid
421     \param [in] indexToModify local index to modify
422   */
423   template<int N>
424   void CGrid::modifyGridMask(CArray<bool,N>& gridMask, const CArray<int,1>& indexToModify)
425   {
426     bool valueToModify = false;
427     int num = indexToModify.numElements();
428     for (int idx = 0; idx < num; ++idx)
429     {
430       *(gridMask.dataFirst()+indexToModify(idx)) = valueToModify;
431     }
432   }
433   ///--------------------------------------------------------------
434
435   // Declare/Define CGridGroup and CGridDefinition
436   DECLARE_GROUP(CGrid);
437
438   ///--------------------------------------------------------------
439
440} // namespace xios
441
442#endif // __XIOS_CGrid__
Note: See TracBrowser for help on using the repository browser.