数据仓库数据仓库大数据那些事

数仓入门基础-8-模型设计

2019-09-17  本文已影响0人  乌拉乌拉儿

1.事实表模型设计

    事实表有三种类型 : 事务事实表、周期快照事实表和累积快照事实表。
    事务事实表用来描述业务过程,眼踪空间或时间上某点的度量事件,保存的是最原子的数据,也称为“原子事实表“;
    周期快照事实表以具有规律性的、可预见的时间间隔记录事实 ,时间间隔如每 天、每月、每年等;
    累积快照事实表用来表述过程开始和结束之间的关键步骤事件 ,覆盖过程的整个生命周期,通常具有多个日期字段来记录关键时间点, 当过程随着生命周期不断变化时,记录也会随着过程的变化而被修改。

1.1设计原则

1:尽可能包含所有与业务过程相关的事实;
2:只选择与业务过程相关的事实;
3:分解不可加性事实为可加的组件,比如订单的优惠率,应该分解为订单原价金额与订单优惠金额两个事实存储在事实表中;
4:在选择维度和事实之前必须先声明粒度;
5:在同一个事实表中不能有多种不同粒度的事实;
6:事实的单位要保持一致,比如原订单金额、 订单优惠金额、订单运费金额这三个事实,应该采用一致的计量单位, 统一为元或分,以方便使用;
7:对事实的null值要处理,
8: 使用退化维度(存储到事实表中的维度列)提高事实表的易用性;

    在 Kimball 的维度建模中,通常按照星形模型的方式来设计,对于维度的获取采用的是通过事实表的外键关联专门的维表的方式,谨慎使用退化维度。而在大数据领域的事实表设计中,则大量采用退化维度的方式(事实宽表),在事实表中存储各种类型的常用维度信息。这样设计的目的主要是为了减少下游用户使用时关联多个表的操作,直接通过退化维度实现对事实表的过滤查询、控制聚合层次、排序数据以及定义主从关系等。 通过增加冗余存储的方式减少计算开销,提高使用效率。

1.2设计步骤

1.选择业务过程及确定事实表类型
    例如选择支付过程,分析每天用户支付金额情况,可以做周期快照事实表。
2.声明粒度
    粒度的声明是事实表设计中不可忽视的重要一步,粒度用于确定事实表中一行所表示业务的细节层次。在设计事实表的过程中,粒度定义得越细越好,建议从最 低级别的原子粒度开始,因为原子粒度提供了最大限度的灵活性,可以支持无法预期的各种细节层次的用户需求。
3.确定维度
    比如在淘宝订单付款事务事实表中,粒度为子订单, 相关的维度有买家、卖家、商品、收货人信息 、 业务类型、订单时间等维度。
4.确定事实
    事实可以通过回答“过程的度量是什么”来确定。应该选择与业务过程有关的所有事实,且事实的粒度要与所声明的事实表的粒度一致。
5.冗余维度(关联维度做大宽表

2.维表设计

    维度的设计过程就是确定维度属性的过程,如何生成维度属性,以及所生成的维度属性的优劣,决定了维度使用的方便性,成为数据仓库 易用性的关键。正如Kimball 所说的,数据仓库的能力直接与维度属性的质量和深度成正比。

2.1设计原则

    1.尽可能生成丰富的维度属性,比如淘宝商品维度有近百个维度属性,为下游的数据统计、分析、探查提供了良好的基础。
    2.尽可能多地给出包括一些富有意义的文字性描述。
    3.区分数值型属性和事实,数值型宇段是作为事实还是维度属性,可以参考字段的一般用途。 如果通常用于查询约束条件或分组统计,则是作为维度属性;如果通常 用于参与度量的计算, 则是作为事实。比如商品价格,可以用于查询约束条件或统计价格区间 的商品数量,此时是作为维度属性使用的;也可以用于统计某类目下商品的平均价格,此时是作为事实使用的。另外, 如果数值型字段是离散值,则作为维度属性存在的可能性较大;如果数 值型宇段是连续值 ,则作为度量存在的可能性较大,但并不绝对,需要同时参考宇段的具体用途。
    4.尽量沉淀出通用的维度属性,需要将尽可能多的通用的维度属性进行沉淀。一方面,可以提高下游使用的方便性,减少复杂度;另 一方面,可以避免下游使用解析时由于各自逻辑不同而导致口径不一致
    5.维度一致性,对于相同含义的字段进行整合,统一的命名,字段类型,方便维护与理解。

2.2设计步骤

上一篇下一篇

猜你喜欢

热点阅读