行列统治数据
简书 賈小強
转载请注明原创出处,谢谢!
表:由行列组成的单元格,以这种形式组织数据在多种应用中广泛存在,非常有研究价值,下面将对这种以行列组织数据的形式在Excel,关系型数据(Oracle,MySQL),非关系型数据库(MongoDB)中的表现性形式和带来的影响进行分析
无约束的行列表
比如下面的数据,组织在Excel中的形式
Excel.png
特点:数据组织形式非常灵活,没有任何约束,想怎么组织数据就怎么组织,可能唯一的约束就在美不美观,从人的角度容不容易理解的问题,可以说是非常人性化的组织形式
范式化的行列表
如果上面的数据组织到关系型数据库中,那么可能变化成上篇文章中的形式
如何通过水平分表提升几十万倍效率
优点:数据进行了规范化,一般对一对多的关系进行了垂直分表,优点是通过规范化达到减少数据容易,保持数据一致性,修改效率高,在某些情况下,比如item特别多的的时候将数据以不同形式储存,可以提升非常多的查找效率
缺点:进行规范化的过程挺麻烦,以及一旦表结构定下来,后期几乎无法修改,连接查询是有代价的,比如不推荐连接10多张表
实际上在关系型数据库中多张表连接之后,也可以说形成了一张虚拟的行列表
非范式的行列表
上面的数据,如果在MongoDB中,又将变形成如下形式的数据
MongoDB.png
如果以JSON的形式整个集合也就形如
[
{
"_id" : ObjectId("5c879ca91bc14220c0e2f00b"),
"record" : "record1",
"item1" : 1.1,
"item2" : 2.1,
"item3" : 3.1
},
{
"_id" : ObjectId("5c879cf91bc14220c0e2f00c"),
"record" : "record2",
"item1" : 1.2,
"item2" : 2.2,
"item3" : 3.2
},
{
"_id" : ObjectId("5c879d1d1bc14220c0e2f00d"),
"record" : "record3",
"item1" : 1.3,
"item2" : 2.3,
"item3" : 3.3
},
{
"_id" : ObjectId("5c879d591bc14220c0e2f00e"),
"record" : "record4",
"item2" : 2.4,
"item3" : 3.4,
"item4" : 4.4
},
{
"_id" : ObjectId("5c879d841bc14220c0e2f00f"),
"record" : "record5",
"item2" : 2.5,
"item3" : 3.5,
"item4" : 4.5
},
{
"_id" : ObjectId("5c879da81bc14220c0e2f010"),
"record" : "record6",
"item2" : 2.6,
"item3" : 3.6,
"item4" : 4.6
}
]
优点:表头不再固定,从而具有了弹性的Scheme
缺点:在MongoDB中,这种形式组织数据不能从多个维度上连接查询,当然可以将一对多的关系写成嵌套文档,但是浪费磁盘空间,或者写成两个集合,然后通过代码连接,但是需要多一次查询
也许当看见MongoDB中嵌套文档的时候,也就说第一层的文档的值又是一个文档,以及值是一个数组,直觉并不容易想到行列组成的表,实际上嵌套文档也可以看成行列表,比如
{
"_id" : ObjectId("5c879ca91bc14220c0e2f00b"),
"record" : "record1",
"item1" : 1.1,
"item2" : 2.1,
"item3" : 3.1
}
可以看成
{
"_id" : ObjectId("5c879ca91bc14220c0e2f00b"),
"record" : "record1",
"info.type" : "type1",
"info.project" : "project11",
"item1" : 1.1,
"item2" : 2.1,
"item3" : 3.1
}
数组同理,这样的结局,无论套多少成,都将变成行列的表
行列表的优点
既然行列表在数据组织中如此常见,无论是关系型数据库,还是非关系型数据库都可以看成一张行列表,那么在它上面能进行什么样的操作?
所进行的操作无外乎下面一个SQL语句所能进行的有限操作,典型的为过滤出某些行某些列,这些行可能不并连续,但可以想象成他们组成了一行小的虚拟行列表
SELECT XXX
FROM YYY
WHRER ZZZ
GROUP BY
ORDER BY
LIMIT
因为对数据的操作典型的就是从大量数据中查找出符合条件某一部分的,这就是不同形式的数据库,以不同形式组织数据,然后又最终抽象到行列表的好处,当然在这样一个简单模型上进行聚合操作也是顺利成章的事情
简单,这就是为什么行列表如此普遍的原因
Happy learning !!