川普赢了,但美国的数据同行们却输了
文·blogchong
川普赢了!
今天全世界都在讨论一个事,那就是美国大选。是的,川普赢了!
我也很意外,因为前几天我还看到的是这个:
大选预测图结局有点出乎意料,说好的预测希拉里成果率80%的呢?
那个网上做大选预测的那个家伙,还有画这个好看蛇形预测图的家伙,你给我站出来!我保证不打死你!
预测 - 大选拔河图(蛇形图)是的,美国那边的数据同行们,被“啪啪”打脸了!
说好的“啤酒与尿布”呢?哦,对了,还有说好的“成功预测流感”呢?咋就不好使了。
莫非,是美国那边的数据同行们,水准下降了?!
好了,打住,不要偷偷得意了。
盆友圈里,有个数据同行盆友发了这样一个状态:“美国大选出乎意料的核心在于数据的不完整性。我们以为全世界的人都在互联网上,其实没有在互联网的人是多数。所以这个时候的大数据分析技术就是个伪命题,无法预测也是合理的。”
一语中的!
很多分析这次美国大选结果的盆友,很喜欢用的一个句话“农村包围城市”。
我们来看这张图,相信已经有不少盆友都看过:
美国大选选票分布图从地图上可以看出,支持希拉里的蓝色部分,分布在西部沿海,以及东北部,当然其中包括了我们耳熟能详的纽约,以及加州。这些地方人口相对比较密集,也是美国经济比较发达的地区。
就算在一个州里,只有相对发达的城市对希拉里的支持是比较彻底的,例如佛罗里达州:
美国大选佛罗里达州选票分布所以,确实是印证了“农村包围城市”的说法。
那么,这个现状对于之前我们说的数据预测有什么影响呢?
不可否认,互联网在美国的普及率也算是足够高了,但不得不承认的一个事实是:互联网上相对活跃的人群,肯定是经济能力相对较高,整体学识素质相对比较高的群体。
从这点来说,基于互联网的数据去做大选预测,本身就存在数据样本的不公平性。
也就印证了,盆友圈中的那句“其实很多人都不在互联网上的”,那部分人群是没有参与到预测中的。
还有一个比较重要的点就是:关键意见领袖(KOL)再加上社交媒体的影响力,使得数据预测进一步偏离了正确的方向。
我们都知道,现任美国总统奥巴马公开为希拉里拉选票,而苹果、Google、脸书等互联网领袖也都公开支持希拉里,当然还包括很多体育、娱乐明星等为希拉里站台。
这些人在互联网的公开影响力是不可忽视的,再结合社交网络的病毒式扩散,以“精英”阶层为主体的互联网,于是就这样被偏向了希拉里。
且不论国外,就算在国内。
就以微信热点传播为例,一些微信大号发表的一些对时事热点的看法,是很容易大面积覆盖朋友圈的,而作为吃瓜群众的我们也很容易受到这种意见领袖的影响(不受影响,你会转发吗)。
而今天虽然智能手机的普及率已经算是比较广了,但是作为经常吃瓜群众的我们,其实也算是“精英人士”了,我们是无法想象三四线城市的情况的,更何况那些农村地带呢?
你朋友圈中经常传播的热点,你那些依然拿着诺基亚的七大姑、八大姨听过吗?
你造中国农村人口有多少吗?
所以,基于互联网数据的选举预测,不可避免的使用了本身成分就不全面的基础数据,哪怕美国同行们用"看似"再精准,再智能的预测算法,结果一样是错的。
这里又回归到了我们的原始话题,并不是说预测的过程或者说算法存在问题,而是数据源存在问题。
这里告诉我们,作为大数据领域里开挖掘机的我们,在苦练开挖掘机技术的时候,不要忽视了前期数据收集,以及数据预处理的重要性。
很多时候,数据源的选取,以及数据的预处理过程,将会对你的后续挖掘结果产生巨大的影响,包括我们经常说的推荐。
当然,包括对数据源要求更严格的预测模型等。
最后,作为数据领域的我们,要正确的看待这一次的美国大选数据预测事件,一方面要严谨对待数据选择的问题,另一方面也不要就因此而否定数据挖掘的价值!
(全文完)