数据治理数据产品入门

搭建企业数据分析系统的过程(二)

2020-06-14  本文已影响0人  liujinying123

上一遍文章已经写了搭建企业数据分析系统整体框架、系统体系,这次就说说搭建过程中的步骤和遇到的问题。

一、搭建步骤

1、结合企业战略、业务需求确定数据体系;

2、数据采集:采集不同系统,不同渠道的数据来源;

3、数据存储:全域数据统一储存、制定数据仓库统一标准,包括数据域的划分、指标的定义、维表设计、事实表设计等;

4、数据处理与分析:结合业务目标、业务使用场景进行数据结果归集,执行机器学习算法,预测分析等;

5、数据应用层建设:数据可视化,决策依据。

按从下往上顺序进行建设。

二、搭建企业数据分析系统前,产品经理应提前准备工作

1、调研业务需求,确定核心场景,提前了解需要准备的核心数据。

2、了解数据仓库大宽表的统一标准格式

3、了解源业务系统核心流程、核心场景、核心数据;数据是否满足企业数据分析系统业务场景所需数据条件。

4、确定源业务系统与数据仓库统一数仓的映射关系。确定源业务系统与数据仓库统一数仓的映射关系主要目的是清楚的知道详细数据;为后面校验数据准确性做准备。

三、建设中注意细节

1、因业务需求需要有某场景数据,但是源业务系统中数据不完善,提取不到数据。所有在整理数据之前根据业务使用场景提前给源业务系统提需求。

2、注意可视化层显示的数据都是从最后的汇总输出大宽表中取得的数据。避免直接从可视化层读取整个原始数据,最大限度地减少数据传输,提升性能。

3、充分分利用缓存,缓存可以提升可视化层的整体性能。

4、能用增量同步数据就不要用全量同步,这最大限度地减少了数据传输。

四、总结

      数据分析系统是以“数据仓库”或“数据中台”的建设为基础,“数据仓库”或“数据中台”的建设非常复杂,从开始建设的时候进行考量,提前考虑业务场景数据完整性和准确性,使用性能和数据安全。

上一篇下一篇

猜你喜欢

热点阅读