天生的大数据企业-运营商大数据应用平台论述

一、运营商的困惑

二、天生的大数据企业

三、解决方案

四、大数据应用平台能做什么

对内：

开展用户行为模式的分析与大数据挖掘并支撑各类数据应用，包括：支持精细化营销、支持产品规划和创新、支持网络优化和投资等。长远来看，运营商应建立基于大数据驱动，以消费者为中心、以客户体验为重心的企业运营及组织变革模式。

对外：

运营商大数据对外应用的五模式：运营商大数据对外应用指的是，运营商将自有数据整合，通过数据挖掘生成结果数据集，以各种方式提供给企业客户，帮助企业了解用户，提高竞争力。目前主要分为5类模式：精准广告、数据报告、精准营销、能力开放和能力租用。

五、核心功能

1、标签库

多级细分标签体系，触及用户行为末端

全方位多维度标签：事实标签、模型标签、预测标签等

根据业务自定义丰富标签库，让业务更高效

2、用户画像

用户画像感性认识

通过营销维度进行筛选，定性了解目标用户画像

产品设想用户设定，通过算法与实际用户画像对比，调整用户定位，对产品与运营进行改进

产品用户特征提练，为科学决策提供数据支撑

专题营销持续追踪

实时了解周期性营销用户行为偏好变化，调整营销战略战术

动态了解专题营销用户群区域，数量变化，调整营销方向与策略

用户偏好全面把控

整体把握区域或个人用户关注热点与行为偏好

3、精准营销

4、可视化

数据可视化

人群分布、兴趣分布等

地图热力图、泡泡图、拆线图、雷达图等

操作可视化

可视化操作数据库

通过拖拽自定义标签

交互式操作

5、安全

大数据应用平台权限部分：

系统权限同数据权限挂钩，组织级别可定义到网格；可配置数据使用时的关键字段权限，全方位保障数据安全。

六、系统总体架构

平台主要通过5个层次的能力完成：数据存储管理、数据获取管理、数据分析管理、数据对外服务管理和数据应用管理等功能。

主要技术：Hadoop、 Spark、SparkStreaming、 SparkSql、Kafka、 HBase、 FlumeNG。

1、资源控制和作业调度

MR的任务和Spark的任务通过Yarn进行统一的资源控制与作业调度，提高集群资源利用率。

七、ETL架构

平台ETL架构具备多数据源采集、高效处理、可视化、可监控等特点。通过“采集--格式检查和转换--输出数据文件--错误记录”等一系列流程完成数据分析前的预处理。

其中数据采集部分通过配置xml文件一键完成对多源数据的清洗，方便快捷；数据转换既有传统的常规程序计算，也有针对大数据的map/reduce分布式计算框架，以及针对流式计算的spark计算框架等。

八、应用场景

1、基亍用户画像的精准营销平台

宽带网络感知和后向运营大数据应用，实现固网宽带DPI数据采集和用户画像标签应用的开发,并结合客户资料、业务订购信息等,把数据传递给客户画像标签平台，为后续的精准营销提供基础。

2、海量数据批处理

针对海量数据准实时装载瓶颈、流量清单生成瓶颈、海量数据汇总计算瓶颈、复杂迭代计算模型在大数据量下运算瓶颈。

3、数据清洗处理服务

企业数据复杂，保障数据安全，整合数据价值成为许多企业使用大数据的门槛。 数据清洗服务以数据价值和平台服务为导向，集成数据接入、整合、存储、计算监控的分布式数据系统，助企业迈入大数据时代。

更 多 精 彩 内 容 请 关 注 公 众 号（weikefangan），谢谢！