大数据产品经理必备的数据挖掘知识概述（一）认识数据

数据挖掘是大数据产品经理必备的技能，本文作者将会为大家详细地分享一些数据挖掘的相关知识。

想要在大数据这个领域汲取养分，让自己壮大成长。分享方向，行动以前先分享下一个大数据交流分享资源群870097548，欢迎想学习，想转行的，进阶中你加入学习。

了解数据挖掘知识是大数据产品经理必备的技能，经过了一段时间的深入学习，以及所负责项目中用到的数据挖掘内容，使我对数据挖掘有了更深一步的认识，但自认为还是小白阶段。

路漫漫其修远兮，在这里，先将总结出来的数据挖掘常见知识点与大家分享，后面陆续更新更多的知识点及项目案例。希望能与君共勉！

（此分享仅包含基础概念知识，旨在帮助大数据产品经理快速了解数据挖掘知识，并能在工作中与算法和开发团队顺利合作，对于更深入的研究如统计学等知识后面有机会再与大家分享~）

第一部分 认识数据（1.1 认识数据 1.2 数据可视化）

第二部分 数据预处理

第三部分 数据仓库相关知识

第四部分 频繁模式、关联和相关性

第五部分 分类挖掘

第六部分 聚类分析

第七部分 离群点检测

以上各部分，我将陆续与大家分享我的学习内容

第一部分 认识数据

1.1 认识数据

1.1.1 数据对象

什么是属性：是一个数据字段，表示数据对象的一个特征。在文献中，属性、维、特征和变量可以互相地使用。机器学习文献更倾向于使用术语“特征”，而统计学家则更愿意使用术语“变量”。数据挖掘和数据库的专业人士则用“属性”。例如，描述顾客对象的属性可能包括customer_ID、name和address.

属性向量：用来描述一个给定对象的一组属性称作属性向量（或特征向量）。涉及的属性（或变量）的数据分布称作“单变量”，分布涉及两个属性为“双变量”等等。

1.1.2 属性类型

属性类型：一个属性的类型由该属性可能具有的值得集合决定。属性可以是标称的、二元的、序数的或数值的。

（1）标称属性

标称属性的值是一些符号或是事物的名称。每个值代表某种类别、编码或状态，因此标称属性又被看做是分类。这些值，不必具有意义的序。

例如：hari_color（头发颜色）和marital_status（婚姻状况），是两个描述人的属性。hari_color(头发颜色)可能为黑色、棕色、红色、赤褐色、白色、灰色等、属性marital_status的值可能是单身、已婚、离异和丧偶。hair_color和marital_status都是标称属性，他们是无有意义的序。

（标称属性是有意义的序，并且不是定量的，因此，给定一个对象集，找出这种属性的均值（平均值）或中位数（中值）没有意义。然后，意见有意义的事情是使该属性最常出现的值，这个值称为众数，是一种中心趋势度量，后面我们将会介绍到）

（2）二元属性

二元属性是一种标称属性，只是两个类别或状态：0或1，其中0通常表示该属性不出现，二1 表示出现。二元属性又称布尔属性，如果两种状态对应于true和false的话。

（3）序数属性

序数属性其可能的值之间具有有意义的序或秩评定。其值如小、中、大；成绩A+、A、A-、B+；军阶有列兵、一等兵、专业军士、下士、中士等；

序数属性的中心趋势可以用它的众数和中位数（有序序列的中间值）表示，但是不能定义均值。

（4）数值属性

以上介绍的标称、二元和序数属性都是定性的。即，他们描述对象的特征，而不给出实际大小的数量。而数值属性是定量的，即她可度量的量，用整数或实数值表示。数值属性可以是区间标度的或比例标度的。

（5）离散属性与连续属性

机器学习领域开发的分类算法通常把属性分成离散的或是连续的。每种类型都可以用不同的方法处理。离散属性具有优先或无限可数个值，可以用或不用整数表示。如属性hari_color、smoker、medical_test和drink_size都有有限个值，因此是离散的。

如果属性不是离散的，则它是连续的。连续属性一般使用浮点变量表示。

1.1.3 数据的基本统计与描述

（1）中心趋势度量：均值、中位数和众数

均值：数据集的最常用、最有效的数值度量是均值。

这对应于数据库系统提供的内置聚集函数average（SQL的avg()）。

有时对于每个值可以有一个权重相关联，权重反应他们所依附的对应值的意义、重要性或出现的频率，公式如下：

这称做加权算数均值或加权平均。

中位数：对于倾斜（非对称）数据，数据中心的更好度量是中位数。中位数是有序数据值得中间值。它把数据较高的一半与较低的一半分开的值。

假定给定某属性X的N个值按递增排序，如果N是奇数，则中位数是该序集中的中间值；如果N是偶数，则中位数不唯一，它是最中间的两个值和它们之间的任意值。在X是数值属性的情况下，嘉定约定，中位数取做最中间两个值的平均值。

众数：众数是另一种中心趋势度量。数据集的整数是集合中出现最频繁的值。因此，可以对定性和定量属性确定众数。可能是最高频率对应多个不同值，导致多个众数。具有一个、两个、三个众数的数据集合分别称为单峰的，双峰的和三峰的。一般地，具有两个或更多众数的数据集是多峰的。在另一种极端的情况下，如果每个数据值仅出现一次，则它是没有众数的。

（2）度量数据散布：极差、四分位数、方差、标准方差、离群点

极差：设某数值属性集合，极差位其最大值(max)与最小值(min)之差。

分位数：假设属性X的数据以数值递增排序，想象我们可以挑选某些数据点，以便把数据分布划分成大小相等的连贯集。如图：

四分位数：3个数据点，他们把数据分布划分成4个相等部分，使得每部分表示数据分布的四分之一。通常称为四分位数。

方差和标准方差：方差和标准方差都是数据散布度量，他们指出数据分布的散布程度。低标准方差以为数据观察趋向于非常靠近均值，而高标准差表示数据散布在一个大的值域中。