New URL for NEMO forge!   http://forge.nemo-ocean.eu

Since March 2022 along with NEMO 4.2 release, the code development moved to a self-hosted GitLab.
This present forge is now archived and remained online for history.
main_bpc_hpg.F90 in NEMO/branches/UKMO/BPC_miniapp/OpenMP – NEMO

source: NEMO/branches/UKMO/BPC_miniapp/OpenMP/main_bpc_hpg.F90 @ 10838

Last change on this file since 10838 was 10838, checked in by wayne_gaudin, 5 years ago

Ticket #2197 - extracted versions added
File size: 31.8 KB
Line 
1PROGRAM main_bpc_hpg
2
3!--------------------------------------------------------------------------------------------
4! 1. Declarations
5
6USE par_kind
7USE netcdf
8USE len_oce
9USE phycst
10USE in_out_manager ! I/O manager
11USE eosinsitu
12USE zpshde
13USE dynhpgs
14USE zdfmxl
15USE ldfslp
16USE traldf_iso
17USE traldf_iso_tile
18USE tiletype
19
20IMPLICIT NONE
21
22INTEGER :: ji, jj, jk, jt
23INTEGER :: jpi_in, jpj_in, jpk_in
24INTEGER :: istep,maxstep
25INTEGER :: iostat, ncid, dimid, varid, chunksize
26INTEGER :: x_dimid, y_dimid, z_dimid, i_dimid, h_dimid
27INTEGER :: x_varid, y_varid, z_varid, nav_lon_varid, nav_lat_varid, nav_lev_varid
28INTEGER :: hpgi_varid, hpgj_varid, ta_varid, sa_varid, hbpcgi_varid, hbpcgj_varid
29INTEGER :: numnam = 12  ! unit number for namelist
30INTEGER :: kpass = 1    ! for simple harmonic isopycnal diffusion
31INTEGER :: nlb10 = 7    ! w index just below 10 m depth
32
33REAL     :: fill = -99999.0   ! note that using REAL(wp) here gave errors in NF90_ENDDEF
34REAL(wp) :: r1_2 = 0.5_wp 
35REAL(wp) :: r2dt = 7200.   ! 1 hour timestep in seconds
36REAL(wp) :: zcoef, zUfac
37
38INTEGER         :: jsi, jsj, jsk   ! tile loop indices (copied into tile)
39TYPE(tile_type) :: tile 
40
41! Fields read in from files
42
43REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: in3d
44REAL(wp), DIMENSION(:,:,:,:), ALLOCATABLE :: in4d
45REAL(wp), DIMENSION(:,:),     ALLOCATABLE :: nav_lon, nav_lat
46REAL(wp), DIMENSION(:),       ALLOCATABLE :: nav_lev
47REAL(wp), DIMENSION(:,:),     ALLOCATABLE :: e1t, e1u, e1v, e2t, e2u, e2v
48REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: e3t_0, e3u_0, e3v_0, e3w_0 
49REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: tmask, umask, vmask, wmask 
50REAL(wp), DIMENSION(:,:,:,:), ALLOCATABLE :: ts_n, ts_pcbias
51REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: e3t_n
52REAL(wp), DIMENSION(:,:),     ALLOCATABLE :: sshn 
53REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: hpgi, hpgj, hbpcgi, hbpcgj
54
55! Fields calculated after input files have been read in
56
57REAL(wp), DIMENSION(:,:),     ALLOCATABLE :: r1_e1u, r1_e2v, e1e2t, r1_e1e2t, e1e2u, e1e2v, r1_e1e2u, r1_e1e2v, e1_e2v, e2_e1u
58REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: e3u_n, e3v_n, e3w_n, gdept_n, gdepw_n, gde3w_n, rhd, rhop, rn2b, avt, ahtu, ahtv
59REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: gtsu, gtsv, gtui, gtvi 
60INTEGER,  DIMENSION(:,:),     ALLOCATABLE :: mbkt, mbku, mbkv, mikt, miku, mikv, nmln
61REAL(wp), DIMENSION(:,:)  ,   ALLOCATABLE :: ssmask, gru, grv, risfdep, hmld, hmlp, hmlpt, uslpml, vslpml, wslpiml, wslpjml
62REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: uslp, vslp, wslpi, wslpj, akz, ah_wslp2, omlmask
63REAL(wp), DIMENSION(:,:,:,:), ALLOCATABLE :: ts_b, ts_a, rab_b
64REAL(wp), DIMENSION(:,:,:),   ALLOCATABLE :: ua, va
65
66REAL(wp), DIMENSION(:,:,:,:), ALLOCATABLE :: zftu, zftv    ! arrays used for diagnostics
67REAL(wp), DIMENSION(:,:)   , ALLOCATABLE  :: zri, zrj, zhi, zhj   ! NB: 3rd dim=1 to use eos
68REAL(wp), DIMENSION(:,:,:) , ALLOCATABLE  :: zti, ztj             !
69REAL(wp), DIMENSION(:,:,:) , ALLOCATABLE  :: zhpi, zhpj
70
71CHARACTER(LEN=256) :: meshfile, modelfile, pcbiasfile, outfile, out_diag 
72
73LOGICAL :: ln_linssh   ! True => linear free surface. e3t does not change with time 
74LOGICAL :: ln_zco, ln_zps, ln_sco   ! choice of hpg scheme. Only one logical should be true !
75REAL(wp):: rn_avt0, rn_Ud 
76
77LOGICAL :: ln_isfcav                ! set to false
78LOGICAL :: ln_traldf_msc, ln_traldf_blp,  ln_traldf_lap
79
80LOGICAL :: l_hst, l_ptr ! logicals for diagnostics
81
82INTEGER :: ji_len_3D_tile, jj_len_3D_tile, jk_len_3D_tile
83
84LOGICAL :: ln_tiled
85
86REAL(wp) :: sum_ua,sum_va,sum_ts_a, step_time
87REAL(wp) :: et
88
89!--------------------------------------------------------------------------------------------
90! 2. User inputs
91!           They include the namelist nam_pcb_hpg
92!                        the namelist nameos  in eos_init
93!
94
95NAMELIST/nam_bpc_hpg/ meshfile, modelfile, pcbiasfile, outfile, out_diag, ln_linssh, ln_zco, ln_zps, ln_sco, jpi_in, jpj_in, jpk_in, &
96&                     rn_avt0, rn_Ud, ji_len_3D_tile, jj_len_3D_tile, jk_len_3D_tile, &
97&                     maxstep,ln_tiled
98                 
99write(0,*) 'Starting'
100
101meshfile = 'mesh_mask.nc'
102modelfile = 'restart.nc'
103pcbiasfile = 'pcbias.nc'
104outfile  = 'hpg_Jan_2019.nc'
105out_diag = 'out_diag_Jan_2019.txt'
106ln_linssh = .False.
107ln_zco  = .False. ;  ln_zps = .False. ;  ln_sco = .False. 
108
109ji_len_3D_tile = 128 ; jj_len_3D_tile = 64 ; jk_len_3D_tile = 3      ! default values for tile lengths
110
111rn_avt0 = 1.2E-5  ! values used in experiment u-bd189 (need to check what this is !!!)
112rn_ud   = 0.011   ! values used in experiment u-bd189
113
114ln_isfcav = .False. 
115
116ln_traldf_msc = .False.; ln_traldf_blp = .False.;  ln_traldf_lap = .True.
117
118l_hst = .False. ; l_ptr = .False.
119
120nlb10 = 7
121
122ln_tiled=.false.
123maxstep=10
124
125OPEN( UNIT=numnam, FILE='nam_bpc_hpg', FORM='FORMATTED', STATUS='OLD' )
126READ( numnam, nam_bpc_hpg )
127CLOSE( numnam )
128
129OPEN( UNIT=6, FILE=out_diag, FORM='FORMATTED', STATUS='UNKNOWN' )
130WRITE(6, nam_bpc_hpg ) 
131
132!--------------------------------------------------------------------------------------------
133! 3. Read in the meshmask data
134
135chunksize = 32000000
136
137write(0,*) 'Opening mesh'
138
139iostat = NF90_OPEN(TRIM(meshfile), MODE=nf90_nowrite, NCID=ncid, CHUNKSIZE=chunksize)
140
141IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR opening meshfile: ', TRIM(nf90_strerror(iostat))
142
143iostat = NF90_INQ_DIMID(ncid, 'x', dimid)
144iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpi)
145iostat = NF90_INQ_DIMID(ncid, 'y', dimid)
146iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpj)
147iostat = NF90_INQ_DIMID(ncid, 'z', dimid)
148iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpk)
149IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading dimensions in meshfile: ', TRIM(nf90_strerror(iostat))
150
151write(0,*) 'jpi, jpj, jpk = ', jpi, jpj, jpk
152
153IF ( jpi /= jpi_in .OR. jpj /= jpj_in .OR. jpk /= jpk_in ) THEN
154   write(0,*) ' FATAL ERROR: the input dimensions in the meshmask file and namelist do not match.'
155   write(0,*) ' Change the nam_pcb_hpg namelist or the input file    ' 
156   STOP
157END IF
158 
159jpim1 = jpi - 1
160jpjm1 = jpj - 1
161jpkm1 = jpk - 1
162
163ALLOCATE( in3d(jpi,jpj,1), in4d(jpi,jpj,jpk,1) ) 
164
165ALLOCATE( nav_lon(jpi,jpj), nav_lat(jpi,jpj), nav_lev(jpk),                                                      &
166    &     e1t(jpi,jpj), e1u(jpi,jpj), e1v(jpi,jpj), e2t(jpi,jpj), e2u(jpi,jpj), e2v(jpi,jpj) ) 
167
168ALLOCATE( e3t_0(jpi,jpj,jpk), e3u_0(jpi,jpj,jpk), e3v_0(jpi,jpj,jpk), e3w_0(jpi,jpj,jpk),                        &
169    &     tmask(jpi,jpj,jpk), umask(jpi,jpj,jpk), vmask(jpi,jpj,jpk), wmask(jpi,jpj,jpk) )
170
171ALLOCATE( ts_n(jpi,jpj,jpk,jpts), ts_pcbias(jpi,jpj,jpk,jpts) )
172ALLOCATE( e3t_n(jpi,jpj,jpk), sshn(jpi,jpj) ) 
173
174ALLOCATE( hpgi(jpi,jpj,jpk), hpgj(jpi,jpj,jpk), hbpcgi(jpi,jpj,jpk), hbpcgj(jpi,jpj,jpk) ) 
175
176ALLOCATE( zri(jpi,jpj), zrj(jpi,jpj), zhi(jpi,jpj), zhj(jpi,jpj), zti(jpi,jpj,jpts), ztj(jpi,jpj,jpts),          &
177    &     zhpi(jpi,jpj,jpk), zhpj(jpi,jpj,jpk))
178
179iostat = NF90_INQ_VARID(ncid, 'nav_lon', varid)
180iostat = NF90_GET_VAR(ncid, varid, nav_lon(:,:))
181
182iostat = NF90_INQ_VARID(ncid, 'nav_lat', varid)
183iostat = NF90_GET_VAR(ncid, varid, nav_lat(:,:))
184IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading nav_lon or nav_lat: ', TRIM(nf90_strerror(iostat))
185
186iostat = NF90_INQ_VARID(ncid, 'nav_lev', varid)
187iostat = NF90_GET_VAR(ncid, varid, nav_lev(:))
188IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading nav_lev: ', TRIM(nf90_strerror(iostat))
189
190iostat = NF90_INQ_VARID(ncid, 'e1t', varid)
191iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
192!$OMP PARALLEL WORKSHARE
193e1t(:,:) = in3d(:,:,1)
194!$OMP END PARALLEL WORKSHARE
195
196iostat = NF90_INQ_VARID(ncid, 'e1u', varid)
197iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
198!$OMP PARALLEL WORKSHARE
199e1u(:,:) = in3d(:,:,1)
200!$OMP END PARALLEL WORKSHARE
201
202iostat = NF90_INQ_VARID(ncid, 'e1v', varid)
203iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
204!$OMP PARALLEL WORKSHARE
205e1v(:,:) = in3d(:,:,1)
206!$OMP END PARALLEL WORKSHARE
207
208iostat = NF90_INQ_VARID(ncid, 'e2t', varid)
209iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
210!$OMP PARALLEL WORKSHARE
211e2t(:,:) = in3d(:,:,1)
212!$OMP END PARALLEL WORKSHARE
213
214iostat = NF90_INQ_VARID(ncid, 'e2u', varid)
215iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
216!$OMP PARALLEL WORKSHARE
217e2u(:,:) = in3d(:,:,1)
218!$OMP END PARALLEL WORKSHARE
219
220iostat = NF90_INQ_VARID(ncid, 'e2v', varid)
221iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
222!$OMP PARALLEL WORKSHARE
223e2v(:,:) = in3d(:,:,1)
224!$OMP END PARALLEL WORKSHARE
225
226IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading e1, e2 fields: ', TRIM(nf90_strerror(iostat))
227
228iostat = NF90_INQ_VARID(ncid, 'e3t_0', varid)
229iostat = NF90_GET_VAR(ncid, varid, e3t_0(:,:,:))
230
231iostat = NF90_INQ_VARID(ncid, 'e3u_0', varid)
232iostat = NF90_GET_VAR(ncid, varid, e3u_0(:,:,:))
233
234iostat = NF90_INQ_VARID(ncid, 'e3v_0', varid)
235iostat = NF90_GET_VAR(ncid, varid, e3v_0(:,:,:))
236
237iostat = NF90_INQ_VARID(ncid, 'e3w_0', varid)
238iostat = NF90_GET_VAR(ncid, varid, e3w_0(:,:,:))
239
240IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading e3 fields: ', TRIM(nf90_strerror(iostat))
241
242iostat = NF90_INQ_VARID(ncid, 'tmask', varid)
243iostat = NF90_GET_VAR(ncid, varid, tmask(:,:,:))
244
245iostat = NF90_INQ_VARID(ncid, 'umask', varid)
246iostat = NF90_GET_VAR(ncid, varid, umask(:,:,:))
247
248iostat = NF90_INQ_VARID(ncid, 'vmask', varid)
249iostat = NF90_GET_VAR(ncid, varid, vmask(:,:,:))
250
251IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading mask fields: ', TRIM(nf90_strerror(iostat))
252
253iostat = NF90_CLOSE(ncid)
254IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR closing mesh file: ', TRIM(nf90_strerror(iostat))
255
256!--------------------------------------------------------------------------------------------
257! 4. Read in the models fields required
258
259write(0,*) 'Opening model fields'
260
261iostat = NF90_OPEN(TRIM(modelfile), MODE=nf90_nowrite, NCID=ncid, CHUNKSIZE=chunksize)
262IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR opening main fields file: ', TRIM(nf90_strerror(iostat))
263
264iostat = NF90_INQ_DIMID(ncid, 'x', dimid)
265iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpi)
266iostat = NF90_INQ_DIMID(ncid, 'y', dimid)
267iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpj)
268iostat = NF90_INQ_DIMID(ncid, 'z', dimid)
269iostat = NF90_INQUIRE_DIMENSION(ncid, dimid, LEN=jpk)
270IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading main field dimensions: ', TRIM(nf90_strerror(iostat))
271
272write(0,*) 'jpi, jpj, jpk = ', jpi, jpj, jpk
273
274IF ( jpi /= jpi_in .OR. jpj /= jpj_in .OR. jpk /= jpk_in ) THEN
275   write(0,*) ' FATAL ERROR: the input dimensions in the model fields file and namelist do not match.'
276   write(0,*) ' Change the nam_pcb_hpg namelist or the input file    ' 
277   STOP
278END IF
279
280iostat = NF90_INQ_VARID(ncid, 'tn', varid)
281iostat = NF90_GET_VAR(ncid, varid, in4d(:,:,:,:))
282!$OMP PARALLEL WORKSHARE
283ts_n(:,:,:,1) = in4d(:,:,:,1)
284!$OMP END PARALLEL WORKSHARE
285IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading ts_n(:,:,:,1) field: ', TRIM(nf90_strerror(iostat))
286
287iostat = NF90_INQ_VARID(ncid, 'sn', varid)
288iostat = NF90_GET_VAR(ncid, varid, in4d(:,:,:,:))
289!$OMP PARALLEL WORKSHARE
290ts_n(:,:,:,2) = in4d(:,:,:,1)
291!$OMP END PARALLEL WORKSHARE
292IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading ts_n(:,:,:,2) field: ', TRIM(nf90_strerror(iostat))
293
294IF ( .NOT.(ln_linssh) ) THEN
295   iostat = NF90_INQ_VARID(ncid, 'e3t_n', varid)
296   iostat = NF90_GET_VAR(ncid, varid, in4d(:,:,:,:))
297!$OMP PARALLEL WORKSHARE
298   e3t_n(:,:,:) = in4d(:,:,:,1)
299!$OMP END PARALLEL WORKSHARE
300   IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading e3t_n field: ', TRIM(nf90_strerror(iostat))
301ELSE
302!$OMP PARALLEL WORKSHARE
303   e3t_n(:,:,:) = e3t_0(:,:,:)
304!$OMP END PARALLEL WORKSHARE
305END IF
306
307IF ( ln_sco ) THEN
308   iostat = NF90_INQ_VARID(ncid, 'sshn', varid)
309   iostat = NF90_GET_VAR(ncid, varid, in3d(:,:,:))
310!$OMP PARALLEL WORKSHARE
311   sshn(:,:) = in3d(:,:,1)
312!$OMP END PARALLEL WORKSHARE
313   IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading sshn field: ', TRIM(nf90_strerror(iostat))
314ELSE 
315!$OMP PARALLEL WORKSHARE
316   sshn(:,:) = 0._wp 
317!$OMP END PARALLEL WORKSHARE
318END IF
319
320iostat = NF90_CLOSE(ncid)
321IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR closing main fields (file: ', TRIM(nf90_strerror(iostat))
322
323write(0,*) 'Opening pcbias fields'
324
325iostat = NF90_OPEN(TRIM(pcbiasfile), MODE=nf90_nowrite, NCID=ncid, CHUNKSIZE=chunksize)
326IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR opening pcbias (file: ', TRIM(nf90_strerror(iostat))
327
328iostat = NF90_INQ_VARID(ncid, 'tbias_p', varid)
329iostat = NF90_GET_VAR(ncid, varid, in4d(:,:,:,:))
330!$OMP PARALLEL WORKSHARE
331ts_pcbias(:,:,:,1) = in4d(:,:,:,1)
332!$OMP END PARALLEL WORKSHARE
333IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading ts_pcbias(:,:,:,1) field: ', TRIM(nf90_strerror(iostat))
334
335iostat = NF90_INQ_VARID(ncid, 'sbias_p', varid)
336iostat = NF90_GET_VAR(ncid, varid, in4d(:,:,:,:))
337!$OMP PARALLEL WORKSHARE
338ts_pcbias(:,:,:,2) = in4d(:,:,:,1)
339!$OMP END PARALLEL WORKSHARE
340IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR reading ts_pcbias(:,:,:,2) field: ', TRIM(nf90_strerror(iostat))
341
342iostat = NF90_CLOSE(ncid)
343IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR closing pcbias (file: ', TRIM(nf90_strerror(iostat))
344
345!--------------------------------------------------------------------------------------------
346! 5. Open the output file and define the dimensions and output names
347iostat = NF90_CREATE(TRIM(outfile), NF90_CLOBBER, ncid)
348IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR creating file: ', TRIM(nf90_strerror(iostat))
349
350iostat = NF90_DEF_DIM(ncid, 'x', jpi, x_dimid)
351IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining dimension: ', TRIM(nf90_strerror(iostat))
352iostat = NF90_DEF_DIM(ncid, 'y', jpj, y_dimid)
353IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining dimension: ', TRIM(nf90_strerror(iostat))
354iostat = NF90_DEF_DIM(ncid, 'z', jpk, z_dimid)
355IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining dimension: ', TRIM(nf90_strerror(iostat))
356
357iostat = NF90_DEF_VAR(ncid, 'nav_lon', NF90_FLOAT, (/ x_dimid,y_dimid /), nav_lon_varid)
358IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining nav_lon: ', TRIM(nf90_strerror(iostat))
359iostat = NF90_DEF_VAR(ncid, 'nav_lat', NF90_FLOAT, (/ x_dimid,y_dimid /), nav_lat_varid)
360IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining nav_lon: ', TRIM(nf90_strerror(iostat))
361iostat = NF90_DEF_VAR(ncid, 'nav_lev', NF90_FLOAT, (/ z_dimid /), nav_lev_varid)
362IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining nav_lon: ', TRIM(nf90_strerror(iostat))
363
364iostat = NF90_DEF_VAR(ncid, 'hpgi', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), hpgi_varid)
365IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining hpgi: ', TRIM(nf90_strerror(iostat))
366iostat = NF90_DEF_VAR(ncid, 'hpgj', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), hpgj_varid)
367IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining hpgj: ', TRIM(nf90_strerror(iostat))
368iostat = NF90_DEF_VAR(ncid, 'hbpcgi', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), hbpcgi_varid)
369IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining hbpcgi: ', TRIM(nf90_strerror(iostat))
370iostat = NF90_DEF_VAR(ncid, 'hbpcgj', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), hbpcgj_varid)
371IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining hbpcgj: ', TRIM(nf90_strerror(iostat))
372
373iostat = NF90_PUT_ATT(ncid, hpgi_varid, '_FillValue', fill)
374IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining fill hpgi_varid : ', TRIM(nf90_strerror(iostat))
375iostat = NF90_PUT_ATT(ncid, hpgj_varid, '_FillValue', fill)
376iostat = NF90_PUT_ATT(ncid, hbpcgi_varid, '_FillValue', fill)
377iostat = NF90_PUT_ATT(ncid, hbpcgj_varid, '_FillValue', fill)
378IF(ln_tiled) THEN
379  !iostat = NF90_DEF_VAR(ncid, 'ta', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), ta_varid)
380  !iostat = NF90_DEF_VAR(ncid, 'sa', NF90_FLOAT, (/ x_dimid,y_dimid,z_dimid /), sa_varid)
381  !iostat = NF90_PUT_ATT(ncid, ta_varid, '_FillValue', fill)
382  !iostat = NF90_PUT_ATT(ncid, sa_varid, '_FillValue', fill)
383ENDIF
384IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR defining fill hbpcgj_varid : ', TRIM(nf90_strerror(iostat))
385
386iostat = NF90_ENDDEF(ncid)
387IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR leaving define mode: ', TRIM(nf90_strerror(iostat))
388!set timers
389hpg_zco_time = 0.
390hpg_zps_time = 0.
391hpg_sco_time = 0.
392zps_hde_time = 0.
393eos_time     = 0.
394eos2d_time   = 0.
395diffusion_time = 0.
396step_time = 0.
397!--------------------------------------------------------------------------------------------
398! 6. Additional allocations for variables calculated in later sections
399
400#ifndef MANAGE
401
402#endif
403
404ALLOCATE( r1_e1u(jpi,jpj), r1_e2v(jpi,jpj),   e1e2t(jpi,jpj),    r1_e1e2t(jpi,jpj), e1e2u(jpi,jpj),              &
405    &     e1e2v(jpi,jpj),  r1_e1e2u(jpi,jpj), r1_e1e2v(jpi,jpj), e1_e2v(jpi,jpj),   e2_e1u(jpi,jpj) )   
406
407ALLOCATE( e3u_n(jpi,jpj,jpk), e3v_n(jpi,jpj,jpk), e3w_n(jpi,jpj,jpk) )
408
409ALLOCATE( gdept_n(jpi,jpj,jpk), gdepw_n(jpi,jpj,jpk), gde3w_n(jpi,jpj,jpk) )
410
411ALLOCATE( rhd(jpi,jpj,jpk), rhop(jpi,jpj,jpk), rn2b(jpi,jpj,jpk), avt(jpi,jpj,jpk), ahtu(jpi,jpj,jpk), ahtv(jpi,jpj,jpk) )
412
413ALLOCATE( gtsu(jpi,jpj, jpts), gtsv(jpi,jpj, jpts), gtui(jpi,jpj,jpts),  gtvi(jpi,jpj,jpts) ) 
414
415ALLOCATE( mbkt(jpi,jpj), mbku(jpi,jpj), mbkv(jpi,jpj), mikt(jpi,jpj), miku(jpi,jpj), mikv(jpi,jpj), nmln(jpi,jpj) )
416
417ALLOCATE( ssmask(jpi,jpj), gru(jpi,jpj), grv(jpi,jpj), risfdep(jpi,jpj),                                         &
418          hmld(jpi,jpj),     hmlp(jpi,jpj),     hmlpt(jpi,jpj),                                                  & 
419    &     uslpml(jpi,jpj),   vslpml(jpi,jpj),   wslpiml(jpi,jpj),   wslpjml(jpi,jpj) )
420
421ALLOCATE( uslp(jpi,jpj,jpk), vslp(jpi,jpj,jpk), wslpi(jpi,jpj,jpk), wslpj(jpi,jpj,jpk) )   
422
423ALLOCATE(  akz(jpi,jpj,jpk), ah_wslp2(jpi,jpj,jpk), omlmask(jpi,jpj,jpk) ) 
424
425ALLOCATE( ts_b(jpi,jpj,jpk,jpts), ts_a(jpi,jpj,jpk,jpts), rab_b(jpi,jpj,jpk,jpts) )
426
427ALLOCATE( ua(jpi,jpj,jpk), va(jpi,jpj,jpk) )
428
429IF(ln_tiled) ALLOCATE( zftu(jpi,jpj,jpk,jpts), zftv(jpi,jpj,jpk,jpts) )    ! arrays used for diagnostics ! tiled
430
431!--------------------------------------------------------------------------------------------
432! 6. Calculate mbkt, mbku, mbkv, ice-shelf fields, e3t_n, e3w_n, gdept, r1_e1u, r1_e2v
433
434!$OMP PARALLEL
435!$OMP WORKSHARE
436  mbkt(:,:) = 0 ; mbku(:,:) = 0 ; mbkv(:,:) = 0
437!$OMP END WORKSHARE
438!$OMP DO
439DO jk = 1, jpk
440  DO jj = 1, jpj
441    DO ji = 1, jpi
442      IF ( tmask(ji,jj,jk) == 1._wp ) mbkt(ji,jj) = jk 
443      IF ( umask(ji,jj,jk) == 1._wp ) mbku(ji,jj) = jk 
444      IF ( vmask(ji,jj,jk) == 1._wp ) mbkv(ji,jj) = jk 
445    END DO
446  END DO
447END DO 
448!$OMP END DO
449
450!$OMP DO
451DO jj = 1, jpj
452  DO ji = 1, jpi
453     mbkt(ji,jj) = MAX( mbkt(ji,jj) , 1) 
454     mbku(ji,jj) = MAX( mbku(ji,jj) , 1) 
455     mbkv(ji,jj) = MAX( mbkv(ji,jj) , 1) 
456  END DO
457END DO
458!$OMP END DO
459
460! set ice-shelf fields for no ice !
461mikt(:,:) = 1 ; miku(:,:) = 1 ; mikv(:,:) = 1  ; risfdep(:,:) = 0._wp 
462gtui(:,:,:) = 0._wp ; gtvi(:,:,:) = 0._wp
463 
464! The following code is taken from dommsk: dom_msk
465!$OMP WORKSHARE
466wmask (:,:,1) = tmask(:,:,1)
467!$OMP END WORKSHARE
468!$OMP DO
469DO jk = 2, jpk                   ! interior values
470   wmask (:,:,jk) = tmask(:,:,jk) * tmask(:,:,jk-1)
471END DO 
472!$OMP END DO
473
474! The following code is taken from domvvl: dom_vvl_interpol for case 'W' interpolation
475
476IF ( ln_linssh ) THEN 
477!$OMP WORKSHARE
478  e3w_n(:,:,:) = e3w_0(:,:,:)
479!$OMP END WORKSHARE
480
481ELSE 
482!$OMP WORKSHARE
483  e3w_n(:,:,1) = e3w_0(:,:,1) + e3t_n(:,:,1) - e3t_0(:,:,1)
484!$OMP END WORKSHARE
485  ! - ML - The use of mask in this formula enables the special treatment of the last w-point without indirect adressing
486!$OMP DO
487  DO jk = 2, jpk
488     e3w_n(:,:,jk) = e3w_0(:,:,jk) + ( 1.0_wp - 0.5_wp * tmask(:,:,jk) ) * ( e3t_n(:,:,jk-1) - e3t_0(:,:,jk-1) )  &
489   &                                          + 0.5_wp * tmask(:,:,jk)   * ( e3t_n(:,:,jk  ) - e3t_0(:,:,jk  )      )
490  END DO
491!$OMP END DO
492
493END IF 
494
495! The following code is taken from domhgr: SUBROUTINE dom_hgr
496!$OMP WORKSHARE
497e1e2t (:,:) = e1t(:,:) * e2t(:,:)   ;   r1_e1e2t(:,:) = 1._wp / e1e2t(:,:)
498e1e2u (:,:) = e1u(:,:) * e2u(:,:)   ;   r1_e1e2u(:,:) = 1._wp / e1e2u(:,:)
499e1e2v (:,:) = e1v(:,:) * e2v(:,:)   ;   r1_e1e2v(:,:) = 1._wp / e1e2v(:,:)
500
501e2_e1u(:,:) = e2u(:,:) / e1u(:,:)   ;   e1_e2v(:,:) = e1v(:,:) / e2v(:,:)
502!$OMP END WORKSHARE
503
504! The following code is taken from domvvl
505!$OMP DO
506DO jk = 1, jpk
507   DO jj = 1, jpj-1
508      DO ji = 1, jpi-1 
509!* from T- to U-point : hor. surface weighted mean
510         e3u_n(ji,jj,jk) = 0.5_wp * umask(ji,jj,jk) * r1_e1e2u(ji,jj)                                     &
511             &                       * (   e1e2t(ji  ,jj) * ( e3t_n(ji  ,jj,jk) - e3t_0(ji  ,jj,jk) )     &
512             &                           + e1e2t(ji+1,jj) * ( e3t_n(ji+1,jj,jk) - e3t_0(ji+1,jj,jk) ) )
513         e3u_n(ji,jj,jk) = e3u_n(ji,jj,jk) +  e3u_0(ji,jj,jk)
514
515!* from T- to V-point : hor. surface weighted mean
516         e3v_n(ji,jj,jk) = 0.5_wp * vmask(ji,jj,jk) * r1_e1e2v(ji,jj)                                     &
517             &                       * (   e1e2t(ji,jj  ) * ( e3t_n(ji,jj  ,jk) - e3t_0(ji,jj  ,jk) )     &
518             &                           + e1e2t(ji,jj+1) * ( e3t_n(ji,jj+1,jk) - e3t_0(ji,jj+1,jk) ) )
519         e3v_n(ji,jj,jk) = e3v_n(ji,jj,jk) +  e3v_0(ji,jj,jk)
520      END DO
521   END DO
522END DO
523!$OMP END DO
524
525! there needs to be an lbc_lnk call here for e3u_n and e3v_n
526!$OMP WORKSHARE
527e3u_n(jpi,:,:) = e3u_n(2,:,:) ; e3v_n(jpi,:,:) = e3v_n(2,:,:)
528e3u_n(:,jpj,:) = e3u_n(:,2,:) ; e3v_n(:,jpj,:) = e3v_n(:,2,:)
529!$OMP END WORKSHARE
530
531! The following code is taken from domvvl: dom_vvl_init
532
533!$OMP WORKSHARE
534gdept_n(:,:,1) = 0.5_wp * e3w_n(:,:,1)       ! reference to the ocean surface (used for MLD and light penetration)
535gdepw_n(:,:,1) = 0.0_wp
536gde3w_n(:,:,1) = gdept_n(:,:,1) - sshn(:,:)
537!$OMP END WORKSHARE
538
539!$OMP DO PRIVATE(zcoef)
540DO jk = 2, jpk                               ! vertical sum
541   DO jj = 1,jpj
542      DO ji = 1,jpi
543         !    zcoef = tmask - wmask    ! 0 everywhere tmask = wmask, ie everywhere expect at jk = mikt
544         !                             ! 1 everywhere from mbkt to mikt + 1 or 1 (if no isf)
545         !                             ! 0.5 where jk = mikt     
546         zcoef = ( tmask(ji,jj,jk) - wmask(ji,jj,jk) )
547         gdepw_n(ji,jj,jk) = gdepw_n(ji,jj,jk-1) + e3t_n(ji,jj,jk-1)
548         gdept_n(ji,jj,jk) =      zcoef  * ( gdepw_n(ji,jj,jk  ) + 0.5 * e3w_n(ji,jj,jk))  &
549            &                + (1-zcoef) * ( gdept_n(ji,jj,jk-1) +       e3w_n(ji,jj,jk)) 
550         gde3w_n(ji,jj,jk) = gdept_n(ji,jj,jk) - sshn(ji,jj)
551
552      END DO
553   END DO
554END DO
555!$OMP END DO
556
557!$OMP DO
558DO jj = 1, jpj
559  DO ji = 1, jpi
560    r1_e1u(ji,jj) = 1._wp / e1u(ji,jj)   
561    r1_e2v(ji,jj) = 1._wp / e2v(ji,jj)   
562  END DO
563END DO 
564!$OMP END DO
565
566!--------------------------------------------------------------------------------------------
567! 7. Initialise fields for calculation of isopycnal diffusion   
568
569!$OMP WORKSHARE
570uslp (:,:,:) = 0._wp   ;   uslpml (:,:) = 0._wp     
571vslp (:,:,:) = 0._wp   ;   vslpml (:,:) = 0._wp
572wslpi(:,:,:) = 0._wp   ;   wslpiml(:,:) = 0._wp
573wslpj(:,:,:) = 0._wp   ;   wslpjml(:,:) = 0._wp
574
575akz(:,:,:) = 0._wp     ;   ah_wslp2(:,:,:) = 0._wp    ! just to set values in the halo regions
576
577ts_b(:,:,:,:) = ts_n(:,:,:,:)   ! set set ts on before time-step to the same values as the now timestep
578
579! simplified choice of vertical diffusivity based on zdfphy
580avt  (:,:, 1 ) = 0._wp  ; avt  (:,:,jpk) = 0._wp
581avt(:,:,2:jpkm1) = rn_avt0
582!$OMP END WORKSHARE
583!$OMP END PARALLEL
584
585! simplified choice of horizontal diffusivity based on ldftra: ldf_tra_init
586! assumes Laplacian rather than bi-Laplacian isopycnal diffusion  (inn = 1)  l CASE nn_aht_ijk_t = 20
587zUfac = r1_2 *rn_Ud
588
589! from ldfc1d_c2d:ldf_c2d case  TRA with knn = 1
590!$OMP DO
591DO jj = 1, jpj 
592   DO ji = 1, jpi 
593      ahtu(ji,jj,:) = zUfac * MAX( e1u(ji,jj), e2u(ji,jj) )
594      ahtv(ji,jj,:) = zUfac * MAX( e1v(ji,jj), e2v(ji,jj) )
595   END DO
596END DO
597!$OMP END DO
598
599! taken from dommsk
600!ssmask (:,:) = MAXVAL( tmask(:,:,:), DIM=3 )   ! Causes a run time failure on GPU, work around below
601!$OMP DO
602DO jj = 1, jpj
603  DO ji = 1, jpi
604    ssmask(ji,jj)=MAXVAL(tmask(ji,jj,:), DIM=1)
605  END DO
606END DO 
607!$OMP END DO
608
609!--------------------------------------------------------------------------------------------
610! 8. Calculate the pressure gradients 
611
612CALL eos_init
613
614! IF istep == 1 calculate pressure gradients without the bias pressure correction (bpc) ; if istep == 2 calculate them with the bpc
615
616WRITE(0,*)"Stepping ",maxstep,"steps"
617IF ( ln_zco ) THEN
618   write(0,*) '  Calling hpg_zco'
619ELSE IF ( ln_zps ) THEN
620   write(0,*) '  Calling hpg_zps'
621ELSE IF ( ln_sco ) THEN
622   write(0,*) '  Calling hpg_sco'
623END IF
624IF(ln_tiled) THEN
625  WRITE(0,*)"  Tiled isopycnal diffusion",ji_len_3D_tile, jj_len_3D_tile, jk_len_3D_tile
626ELSE
627  WRITE(0,*)"  Non-Tiled isopycnal diffusion"
628ENDIF
629WRITE(0,*)
630
631step_time = TIMER()
632DO istep = 1, maxstep
633
634  IF ( istep == maxstep ) THEN 
635!$OMP PARALLEL WORKSHARE
636    ts_n(:,:,:,:) = ts_n(:,:,:,:) + ts_pcbias(:,:,:,:) 
637!$OMP END PARALLEL WORKSHARE
638  END IF 
639
640!$OMP PARALLEL WORKSHARE
641  ua(:,:,:) = 0.0_wp ; va(:,:,:) = 0.0_wp
642!$OMP END PARALLEL WORKSHARE
643
644
645  et = TIMER()
646  CALL eos_insitu_pot( ts_n, tmask, rhd, rhop, gdept_n )  ! now in situ density for hpg computation; ts, tmask, gdept are IN; rhd, rhop are OUT
647  eos_time = eos_time + (TIMER() - et)
648
649  IF( ln_zps ) THEN
650     CALL zps_hde( istep, jpts, ts_n, mbku, mbkv, e3w_n, gdept_n, tmask, umask, vmask,   &  ! Partial steps: before horizontal gradient
651               &                gtsu, gtsv, rhd, gru , grv,    &  ! of t, s, rd at the last ocean level
652               &                zti, zhi, zri, ztj, zhj, zrj )     
653  END IF
654
655  IF ( ln_zco ) THEN    ! z-coordinate
656     et = TIMER()
657     CALL hpg_zco( grav, r1_e1u, r1_e2v, e3w_n, rhd, ua, va, zhpi ,zhpj)     
658     hpg_zco_time = hpg_zco_time + (TIMER() - et)
659
660  ELSE IF ( ln_zps ) THEN  ! z-coordinate plus partial steps (interpolation)
661     et = TIMER()
662     CALL hpg_zps( grav, r1_e1u, r1_e2v, mbku, mbkv, gru, grv, e3w_n, rhd, ua, va, zhpi ,zhpj)
663     hpg_zps_time = hpg_zps_time + (TIMER() - et)
664
665  ELSE IF ( ln_sco ) THEN
666     et = TIMER()
667     CALL hpg_sco( grav, r1_e1u, r1_e2v, e3w_n, rhd, gde3w_n, ln_linssh, ua, va, zhpi ,zhpj )
668     hpg_sco_time = hpg_sco_time + (TIMER() - et)
669
670  END IF
671
672  IF (istep == 1) THEN 
673!$OMP PARALLEL WORKSHARE
674    hpgi(:,:,:) = ua(:,:,:)
675    hpgj(:,:,:) = va(:,:,:) 
676!$OMP END PARALLEL WORKSHARE
677  ELSE 
678!$OMP PARALLEL WORKSHARE
679    hbpcgi(:,:,:) = hpgi(:,:,:) - ua(:,:,:) 
680    hbpcgj(:,:,:) = hpgj(:,:,:) - va(:,:,:)   
681!$OMP END PARALLEL WORKSHARE
682  END IF 
683
684!$OMP PARALLEL DO
685  DO jk = 2, jpk                               ! vertical sum
686    DO jj = 1,jpj
687      DO ji = 1,jpi
688        IF ( umask(ji,jj,jk) == 0. ) ua(ji,jj,jk) = fill
689        IF ( vmask(ji,jj,jk) == 0. ) va(ji,jj,jk) = fill
690      END DO
691    END DO
692  END DO
693!$OMP END PARALLEL DO
694
695!$OMP PARALLEL WORKSHARE ! This doesn't seem to scale for OMP
696  sum_ua=SUM(ua)
697  sum_va=SUM(va)
698!$OMP END PARALLEL WORKSHARE
699
700!--------------------------------------------------------------------------------------------
701! 9. Calculate isopycnal diffusion
702
703  et = TIMER()
704
705  CALL eos_rab_3d( ts_b, gdept_n, tmask, rab_b ) 
706
707!$OMP PARALLEL WORKSHARE
708  rn2b(:,:,1) = 0._wp ; rn2b(:,:,jpk) = 0._wp 
709!$OMP END PARALLEL WORKSHARE
710
711  CALL bn2  ( ts_b, rab_b, gdepw_n, gdept_n, e3w_n, wmask, rn2b )
712
713  CALL zdf_mxl( rn2b, e3w_n, gdept_n, gdepw_n, avt, wmask, ssmask, mbkt, nlb10, nmln, hmld, hmlp, hmlpt )
714
715  CALL ldf_slp( ln_zps, ln_isfcav, rhd, rn2b, tmask, umask, vmask, wmask, gru, grv,          &
716   &            e1t, e2t, r1_e1u, r1_e2v, e3u_n, e3v_n, e3w_n, gdept_n, gdepw_n, mbku, mbkv,    &
717   &            mikt, miku, mikv, nmln, hmlp, hmlpt, risfdep,                                   &
718   &            omlmask, uslpml, vslpml, wslpiml, wslpjml, uslp, vslp, wslpi, wslpj )
719
720  IF(.NOT.ln_tiled) THEN
721    CALL tra_ldf_iso( ln_traldf_msc, ln_traldf_blp, ln_traldf_lap, ln_zps, ln_isfcav, jpts, kpass, r2dt, &
722        &             e1t, e1u, e1v, e2t, e2u, e2v, e1e2t, e1_e2v, e2_e1u, r1_e1e2t, mbku, mbkv, miku, mikv, &
723        &             umask, vmask, wmask, e3t_n, e3u_n, e3v_n, e3w_n, wslpi, wslpj, uslp, vslp, &
724        &             ahtu, ahtv, gtsu, gtsv, gtui, gtvi, ts_b , ts_b, &
725        &             akz, ah_wslp2, ts_a )
726  ELSE
727!$OMP PARALLEL DO
728    DO jsk = 1, jpkm1, jk_len_3D_tile
729     tile % jsk    = jsk
730     tile % jsk_2  = MAX(jsk,   2)
731     tile % jskm1  = MAX(jsk-1, 1)
732     tile % jek    = MIN(jsk + jk_len_3D_tile - 1, jpkm1) 
733     tile % jekp1  = MIN(tile % jek + 1, jpkm1)
734     tile % jskh = tile % jsk - nn_hls
735     tile % jekh = tile % jek + nn_hls
736 
737     DO jsj = nn_hls + 1, jpj - nn_hls, jj_len_3D_tile
738      tile % jsj  = jsj
739      tile % jsjm1 = jsj-1
740      tile % jej   = MIN(jsj + jj_len_3D_tile - 1, jpj - nn_hls)
741      tile % jejp1 = tile % jej+1 
742      tile % jsjh = tile % jsj - nn_hls
743      tile % jejh = tile % jej + nn_hls
744      DO jsi = nn_hls + 1, jpi - nn_hls, ji_len_3D_tile
745       tile % jsi   = jsi
746       tile % jsim1 = jsi-1
747       tile % jei   = MIN(jsi + ji_len_3D_tile - 1, jpi - nn_hls)
748       tile % jeip1 = tile % jei+1 
749       tile % jsih = tile % jsi - nn_hls
750       tile % jeih = tile % jei + nn_hls
751 
752       CALL tra_ldf_iso_tile( tile, ln_traldf_msc, ln_traldf_blp, ln_traldf_lap, ln_zps, ln_isfcav, jpts, kpass, r2dt, &
753        &             e1t, e1u, e1v, e2t, e2u, e2v, e1e2t, e1_e2v, e2_e1u, r1_e1e2t, mbku, mbkv, miku, mikv, &
754        &             umask, vmask, wmask, e3t_n, e3u_n, e3v_n, e3w_n, wslpi, wslpj, uslp, vslp, &
755        &             ahtu, ahtv, gtsu, gtsv, gtui, gtvi, ts_b , ts_b, ts_a, &
756        &             l_hst, l_ptr, akz, ah_wslp2, zftu, zftv  )
757 
758      END DO ! jis
759     END DO ! jjs
760    END DO ! jks
761!$OMP END PARALLEL DO
762  ENDIF
763  diffusion_time = diffusion_time + (TIMER() - et)
764
765!$OMP PARALLEL WORKSHARE
766  sum_ts_a=SUM(ts_a(:,:,:,1))
767!$OMP END PARALLEL WORKSHARE
768
769  WRITE(0,*) 'istep = ', istep
770  WRITE(0,*) 'UA SUM ',sum_ua
771  WRITE(0,*) 'VA SUM ',sum_va
772  WRITE(0,*) 'TSA SUM ',sum_ts_a
773  WRITE(0,*) 'Step time ', TIMER() - step_time
774  WRITE(0,*)
775
776END DO ! istep
777
778step_time = TIMER() - step_time
779
780!--------------------------------------------------------------------------------------------
781! 10. Write out the pressure gradient fields
782     
783write(0,*) 'writing fields: after pseudo time-steps; fields are written at tracer lats and lons for simplicity for now ' 
784
785!iostat = NF90_PUT_VAR(ncid, nav_lon_varid, nav_lon)
786!iostat = NF90_PUT_VAR(ncid, nav_lat_varid, nav_lat)
787!iostat = NF90_PUT_VAR(ncid, nav_lev_varid, nav_lev)
788!iostat = NF90_PUT_VAR(ncid, hpgi_varid, hpgi)
789!iostat = NF90_PUT_VAR(ncid, hpgj_varid, hpgj)
790!iostat = NF90_PUT_VAR(ncid, hbpcgi_varid, hbpcgi)
791!iostat = NF90_PUT_VAR(ncid, hbpcgj_varid, hbpcgj)
792IF(ln_tiled) THEN
793!   !iostat = NF90_PUT_VAR(ncid, ta_varid, ts_a(:,:,:,1) )
794!   !iostat = NF90_PUT_VAR(ncid, sa_varid, ts_a(:,:,:,2) )
795ENDIF
796!IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR putting variable: ', TRIM(nf90_strerror(iostat))
797!
798! Check Validation based on GPU PGI result
799IF ( ln_zco ) THEN    ! z-coordinate
800  WRITE(0,*)"ZCO: Difference in UA",sum_ua+409653003427.6933_wp
801  WRITE(0,*)"ZCO: Difference in VA",sum_va+407945220514.0470_wp
802ELSE IF ( ln_zps ) THEN  ! z-coordinate plus partial steps (interpolation)
803  WRITE(0,*)"ZPS: Difference in UA",sum_ua+409653003427.7428_wp
804  WRITE(0,*)"ZPS: Difference in VA",sum_va+407945220514.0659_wp
805ELSE IF ( ln_sco ) THEN
806  WRITE(0,*)"SCO: Difference in UA",sum_ua+409653003427.7501_wp
807  WRITE(0,*)"SCO: Difference in VA",sum_va+407945220514.1797_wp
808END IF 
809
810#ifndef MANAGE
811#endif
812!--------------------------------------------------------------------------------------------
813! 9. Close the output file and stop
814!
815iostat = NF90_PUT_VAR(ncid, hbpcgi_varid, hbpcgi)
816iostat = NF90_PUT_VAR(ncid, hbpcgj_varid, hbpcgj)
817IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR putting variable: ', TRIM(nf90_strerror(iostat))
818iostat = NF90_CLOSE(ncid)
819IF (iostat /= nf90_noerr) WRITE(numout,*) 'ERROR closing file: ', TRIM(nf90_strerror(iostat))
820
821IF ( ln_zco ) THEN    ! z-coordinate
822  WRITE(0,*)'hpg_zco  CPU time [s] is:             ', hpg_zco_time
823ELSE IF ( ln_zps ) THEN  ! z-coordinate plus partial steps (interpolation)
824  WRITE(0,*)'hpg_zps  CPU time [s] is:             ', hpg_zps_time
825ELSE IF ( ln_sco ) THEN
826  WRITE(0,*)'hpg_sco  CPU time [s] is:             ', hpg_sco_time
827END IF
828IF( ln_zps ) WRITE(0,*)'zps_hde  CPU time [s] is:             ', zps_hde_time
829WRITE(0,*)'eos_time CPU time [s] is:             ', eos_time
830WRITE(0,*)'isopycnal diffusion  CPU time [s] is: ', diffusion_time
831WRITE(0,*)'Total step time      CPU time [s] is: ', step_time
832write(0,*) 'finishing'
833
834END PROGRAM main_bpc_hpg
Note: See TracBrowser for help on using the repository browser.