pythonxarrayPython与大气科学

Python气象数据处理进阶之Xarray(1):Xarray的

2020-03-27  本文已影响0人  摸鱼咯

首先声明的是前一系列并没有完结,只是暂时新开一个新系列。关于画图部分目前也没有什么太好的想法,所以暂时搁置,等有想法了会继续写下去的。考虑到目前大家最感兴趣的还是数据读取和处理部分,并且这部分也是python处理数据的优势,因此就专门开一个系列来写这部分内容。这也是对“Python气象数据处理与绘图(1):数据读取”的深入。按目前的构想,这部分应该是以几个库使用为主。首先是数据读取部分,我使用的是Xarray,因此这个系列也从Xarray的介绍开始。主要内容还是围绕Xarray的官网文档进行。

1、Xarray中的数据结构是怎样的?

在Xarray中,数组是具有结构和标签的,它们分为以下几种:

1.DataArray:

带有标注或命名维度的多维数组。DataArray将metadata(例如维名称,坐标和属性)添加到基础的“未标记”的数据结构,例如numpy和Dask数组。

2.Dataset:

具有类似字典结构的尺寸对齐的DataArray对象的集合。因此,可以在单个DataArray的维度上执行的大多数操作都可以在数据集上执行。

3.Variable:

类似于NetCDF的变量,由dimensions, data, 和 attributes组成。变量和numpy数组之间的主要功能区别在于,对变量的数字运算可以通过维名称实现数组广播。

通俗的讲Variable< DataArray< Dataset (<指包含于的意思),这样解释并不完全准确,但是对于初学者来说这样理解是没有问题的。

Xarray中的数据结构是怎样被识别和标记的呢?

前边提到,可以通过对维命名的操作实现数据筛选和处理,实现数据的标记和命名是通过以下几个定义实现的:

1.Dimension:

维,维度的维,比如说在一个二维直角坐标系,维就是x和y,在一个二维圆柱投影地理坐标系,维就是lat和lon,我们通常下载的数据最多也就是四维,即时间维,高度维,纬度维和经度维。

2.Coordinate:

坐标或者说刻度。还是举例子解释,比如说Dimension是纬度维,那么对应的Coordinate就是纬度坐标(90°N,89°N,88°N........89°S,90°S)

3.Index:

索引号,也可以说位置标号。a[0]就代表a数组的第一个数,0就是index

这次不举一个例子,举一些例子。

#CN05.1格点资料
f = xr.open_dataset('CN05.1_Tmax_1961_2017_daily_05x05.nc')
print(f)
#<xarray.Dataset>
#Dimensions:    (latitude: 82, longitude: 142, time: 20574)
#Coordinates:
#  * longitude  (longitude) float64 69.75 70.25 70.75 71.25 ... 139.2 139.8 140.2
#  * latitude   (latitude) float64 14.75 15.25 15.75 16.25 ... 54.25 54.75 55.25
#  * time       (time) datetime64[ns] 1961-01-01 1961-01-02 ... 2017-04-30
#Data variables:
#    tmax       (time, latitude, longitude) float32 ...
#Attributes:
#    CDI:          Climate Data Interface version 1.6.5rc3 (http://code.zmaw.d...
#    Conventions:  CF-1.4
#    history:      Thu Aug 23 09:34:52 2018: cdo -r remapcon,grid05x05 daily/0...
 #   CDO:          Climate Data Operators version 1.6.5rc3 (http://code.zmaw.d...

我们可以看到,这个文件,是一个dataset,里边含有变量:Data variables,数据集的维度有经度纬度和时间,各自有各自的坐标Coordinates,同样数据集还有一些属性Attributes来表明数据集信息。
我们可以通过:

print(f.variables)
print(f.dims)
print(f.coords)

来分别查看数据集中所含有的变量,维,坐标。
再比如NCEP的位势高度资料

f = xr.open_dataset('hgt.1948.nc')
print(f)
#<xarray.Dataset>
#Dimensions:  (lat: 73, level: 17, lon: 144, time: 366)
#Coordinates:
#  * level    (level) float32 1000.0 925.0 850.0 700.0 ... 50.0 30.0 20.0 10.0
#  * lat      (lat) float32 90.0 87.5 85.0 82.5 80.0 ... -82.5 -85.0 -87.5 -90.0
#  * lon      (lon) float32 0.0 2.5 5.0 7.5 10.0 ... 350.0 352.5 355.0 357.5
#  * time     (time) datetime64[ns] 1948-01-01 1948-01-02 ... 1948-12-31
#Data variables:
#    hgt      (time, level, lat, lon) float32 ...
#Attributes:
#    Conventions:    COARDS
#    title:          mean daily NMC Reanalysis (1948)
#    description:    Data is from NMC initialized reanalysis\n(4x/day).  It co...
#    platform:       Model
#    history:        created 99/05/11 by Hoop (netCDF2.3)
#    References:  (http://www.esrl.noaa.gov/psd/data/gridded/data.ncep.reana...
#    dataset_title:  NCEP-NCAR Reanalysis 1

基本同上。
需要说明一点的是,ncl中数据存在short格式,在读取时需要使用short2flt()函数,但是在python中是不存在short格式的,默认均为float,无需考虑这点。

如何创建一个DataArray?

有时候我们可能通过其他手段读取了相关数据,但是数据是np.array格式的,我们需要将其转换为DataArray,亦或者我们需要输出一个NC文件,需要将计算后的数组转为DataArray格式,这就用到了创建的方法。

创建一个DataArray需要什么?
1.Data

废话,创建数据当然需要数据啦。数据可以是numpy ndarray,series,DataFrame等等格式的

2.coords:坐标列表或字典

如果是列表,则应为元组列表,其中第一个元素是维名称,第二个元素是对应的坐标array_like对象。个人建议用字典结构去定义

3.dims:维名称列表

如果省略,并且coords是元组列表,则维度名称取自coords。

4.attrs:属性
5.name:变量名

以上除了data以外,都不是必须的。
创建如下:

data = np.array([[1,2,3],[4,5,6]])
level = ['500', '850', '1000']
times = pd.date_range('2000-01-01', periods=2)
foo = xr.DataArray(data, coords=[times, level], dims=['time', 'level'])
print(foo)
#<xarray.DataArray (time: 2, level: 3)>
#array([[1, 2, 3],
#       [4, 5, 6]])
#Coordinates:
#  * time     (time) datetime64[ns] 2000-01-01 2000-01-02
#  * level    (level) <U4 '500' '850' '1000'

例子基本于官网一致,对标签略作了修改,level更加便于气象专业的理解。
刚刚说了,除了data以外,其他都是不必要的

foo = xr.DataArray(data)
print(foo)
#<xarray.DataArray (dim_0: 2, dim_1: 3)>
#array([[1, 2, 3],
#       [4, 5, 6]])
#Dimensions without coordinates: dim_0, dim_1

如果我们是从一个DataFrame数据转化为DataArray的话(这种操作通常是为了将Pandas和Xarray联合使用):

df = pd.DataFrame({'x': [0, 1], 'y': [2, 3]}, index=['a', 'b'])
df.index.name = 'abc'
df.columns.name = 'xyz'
print(df)
#xyz  x  y
#abc      
#a    0  2
#b    1  3
print(xr.DataArray(df))
#<xarray.DataArray (abc: 2, xyz: 2)>
#array([[0, 2],
#       [1, 3]])
#Coordinates:
#  * abc      (abc) object 'a' 'b'
#  * xyz      (xyz) object 'x' 'y'

会自动识别行列的名称和序号。
官方文档还给出了更复杂的实例,但是个人感觉很少用到,因此不写在这里了,通常用以上的例子可以完成大部分操作了。
在创建了数据之后,我们同样可以使用相关的操作获取DataArray的各种信息:

a = foo.values
a = foo.dims
a = foo.coords
a = foo.attrs

如果想对DataArray的值进行修改可以通过以下两种方法:

foo.values = foo.values +2
foo = foo +2

目前测试结果两者是等价的,但是我不知道官方为什么没给出第二种方法。
通过指令

foo.attrs['units'] = 'meters'

赋予属性信息,比如说给一个单位,备注等等。
通过指令

foo.name = 'hgt'

赋予名称信息
通过指令:

foo.rename('temperature')

改名,比如说通过hgt计算得到了一个新变量,需要改名,就可以用这个指令了。

在得到了一个DataArray之后,用于画图时,比如说我们需要获取他的经度和纬度(在这里,刚刚的例子是时间和高度),
那么可以直接通过

foo.coords['time']
foo['time']

这两种方式取出坐标信息。
要修改或者删除某坐标信息的话,原理和修改数据是一样的:

foo['time'] = pd.date_range('1999-01-02', periods=2)
del foo['time']

如何创建一个Dataset?

官网给出了一个以气候数据为例的Dataset结构:


Dataset结构

一个数据集,包含了数据主体(Temperature, Precipitation),维度坐标(latitude,longitude)

根据官网的例子,一个Dataset是这样创建的,其实与DataArray类似:

temp = 15 + 8 * np.random.randn(2, 2, 3)
precip = 10 * np.random.rand(2, 2, 3)
lon = [[-99.83, -99.32], [-99.79, -99.23]]
lat = [[42.25, 42.21], [42.63, 42.59]]

ds = xr.Dataset({'temperature': (['x', 'y', 'time'],  temp),
                 'precipitation': (['x', 'y', 'time'], precip)},
                coords={'lon': (['x', 'y'], lon),
                        'lat': (['x', 'y'], lat),
                        'time': pd.date_range('2014-09-06', periods=3),
                        'reference_time': pd.Timestamp('2014-09-05')})
#<xarray.Dataset>
#Dimensions:         (time: 3, x: 2, y: 2)
#Coordinates:
#    lon             (x, y) float64 -99.83 -99.32 -99.79 -99.23
#    lat             (x, y) float64 42.25 42.21 42.63 42.59
#  * time            (time) datetime64[ns] 2014-09-06 2014-09-07 2014-09-08
#    reference_time  datetime64[ns] 2014-09-05
#Dimensions without coordinates: x, y
#Data variables:
#    temperature     (x, y, time) float64 15.09 7.656 20.82 ... 2.477 10.53 17.56
#    precipitation   (x, y, time) float64 3.444 2.694 6.921 ... 7.351 2.099 5.972

实际上这个例子与我们通常接触的不太一样,因为大部分的数据的lat和lon是一个一维的。
对Dataset的操作与DataArray基本是一致的,就不重复了。

上一篇下一篇

猜你喜欢

热点阅读