大数据 爬虫Python AI Sql大数据前沿Python,web开发,前端技术分享

什么样的大数据才具有价值?

2019-06-04  本文已影响3人  大数据架构师

在短短的几十年里,“技术天才”与社会的关系已经改变:他们从关在屋里的孤独者变成救世主,从反社会者变成社会的最大希望。许多人现在似乎相信,理解我们这个世界的最佳方式,就是坐在电脑屏幕前分析我们称之为“大数据”的海量信息。

在短短的几十年里,“技术天才”与社会的关系已经改变:他们从关在屋里的孤独者变成救世主,从反社会者变成社会的最大希望。许多人现在似乎相信,理解我们这个世界的最佳方式,就是坐在电脑屏幕前分析我们称之为大数据的海量信息。

关于这一点,我们只要看看 “谷歌流感趋势(Google Flu Trends)”。2008年,当谷歌推出这项服务时,硅谷的许多人将它鼓吹为表明大数据将很快淘汰传统分析方式的一个标志性产品。

但他们错了。

“谷歌流感趋势”不仅没有提供流感传播的精确描述,也无法实现大数据鼓吹者的美梦。这是因为,如果没有“厚数据”(丰富的、具有前后关联性的数据,它们只能通过丢开电脑、深入实际生活才能获得),大数据就没有意义。电脑极客们曾经因为不能适应社会生活而被嘲笑,他们被告知应该“多出去走走”。实际上,如果大数据的信徒们希望理解这个他们也在参与塑造的世界,他们真的需要多出去走走。

谷歌的失败与算法无关

“谷歌流感趋势”的目的是:找出人们在流感季节常用的搜索词,然后实时跟踪这些搜索词的使用高峰期。这样,谷歌就可以在新流感爆发之前发出警报,而且预警时间要比官方疾病防治中心的预警时间早大约两周。

什么样的大数据才是有意义的?

对很多人来说,“谷歌流感趋势”已经成为大数据的一个典型代表,它表现了大数据的巨大力量。在畅销书《大数据:一场改变生活、工作和思考方式的革命》(A Revolution That Will Transform How We Live, Work and Think)中,作者维克托•迈尔•舍恩柏格(Viktor Mayer-Schönberger)和肯尼斯•库克耶(Kenneth Cukier)宣称,与政府滞后的数据相比,“谷歌流感趋势”是更有用、更及时的流感指示器。

然而,著名的《科学》杂志本月刊登一篇文章告诉我们,自2011年8月以来,“谷歌流感趋势”几乎每周都会高估流感的盛行率。

而在2009年,就在“谷歌流感趋势”推出后不久,它竟然完全没有察觉猪流感的爆发。事实上,人们在流感季节的许多常用搜索词与流感无关,而与流感的通常爆发季节——冬季——密切相关。

许多人争论道,“谷歌流感趋势”的失败缘于大数据的不成熟。这种观点没有切中要害。当然,调整算法、提高数据收集技术将会让下一代大数据工具变得更有效。然而,大数据鼓吹者真正的狂妄之处不在于对一套不成熟的算法过于自信,而在于盲目地相信坐在电脑屏幕前捣鼓一些数字就可以充分理解世界。

为什么需要厚数据

大数据仅仅是大量的“薄数据”,它们是通过对人们的活动和行为进行跟踪而获得的。我们最常去的地方,我们在网上搜索的东西,我们每天睡了多久,我们有多少联系人,我们所听的音乐类型等等。这些数据是通过你浏览器中的“cookies”、你戴在手上的FitBit腕带或你手机上的GPS来收集的。这些信息无疑是重要的,但我们不能通过它们来获得对人的完整理解。

为了真正地了解人,我们不久需要大数据,而且需要厚数据。厚数据不仅包括事实,而且包括事实的前后联系。比如说,美国有86%的家庭每周会喝掉6夸脱以上的牛奶,但是她们为什么喝牛奶?他们是怎么喝的?一块包含三种颜色、绣着星星和条纹图案的布,这是薄数据;一面在风中飘扬的美国国旗,这是厚数据。

基于“我们做了什么”,大数据对我们进行简单化的理解;厚数据则试图通过我们与周围世界的联系来理解我们。只有理解人与周围世界的联系,人们才能从整体上认识这个世界,这恰恰也是谷歌、facebook等公司想要做的。

理解我们这个世界

想想硅谷的那些宏伟宣言。谷歌的宗旨是“组织全球信息,使人人皆可访问它们并从中获益。”马克·扎克伯格(Mark Zuckerberg)最近对投资者表示,在全球化和知识经济日益受到重视的当今世界,Facebook致力于一个新的使命:“理解这个世界”。他说:“人们每天在Facebook上发布数十亿条内容和链接。在他们的帮助下,我们通过专门的算法机制为世界上所有事物建立最清晰的模型。”甚至有一些小公司也参与了“理解这个世界”。去年,Jawbone公司的副总裁耶利米•罗宾逊(Jeremiah Robison)说,他们的健康跟踪设备Jawbone UP的目标是“理解(人的)行为变化的科学。”

这些目标的确很大。企业渴望更好地理解社会,这不足为怪。毕竟,了解与客户行为及社会文化相关的信息,这对企业经营来说是必不可少的。而且,在知识经济时代,这些信息本身已经成为一种通货,它们可以换来点击率、浏览量和广告收入。或者更简单地说,它们可以换来权力。在这个过程中,如果谷歌、facebook等公司能不断帮助我们增进对自身的集体知识,它们获得更多权力也是正当的。问题在于,如果它们声称计算机能够组织我们的所有数据,或能够向我们提供关于流感、健康或社会关系等各方面的完整理解,那么,它们从根本上小看了“数据”和“理解”的意义。

如果硅谷的大数据鼓吹者真想“了解世界”,那么他们不仅需要掌握大数据,也需要掌握厚数据。不幸的是,要获得后者,他们需要丢开电脑去实地体验这个世界,而不是仅仅通过谷歌眼镜(或通过facebook的虚拟现实设备)来观察世界。

人们的行为情境

如果你对一个领域高度熟悉,有能力填补信息空白并想象人们的行为原因,那么“薄数据”将是有用的。换句话说,如果你能够想象并重建人们的行为的发生情境,你所观察到的行为才是有意义的。如果缺乏对行为情境的了解,就不可能推出任何因果关系,也不可能理解人们的行为原因。

这就是为什么研究人员在科学实验中要竭尽全力控制实验室的环境,以创造一个各种影响因素都被考虑在内、彻底的人工场所。不过,真实世界并不是一个实验室。要确保你对陌生世界的情境有所了解,唯一的途径是实地观察并内化和解释正在发生的每一件事。

人们的背景知识

如果说大数据擅长观察人们的行为,那么它不擅长的就是理解人们对每样事物的背景知识。我是怎么知道每次刷牙时该用多少牙膏的?我是怎么知道何时该进入另一个交通通道的?眨眼是表示“真有趣”还是“我的眼睛进了东西”?这些都涉及人们的内在能力、无意识和背景知识,它们控制着人们的大多数行为。跟周围的事物一样,这些不可见的背景知识只有在观察者主动去看的情况下才能被发现。不过,它们却对每个人的行为有着重要影响。它能够解释事物与人的联系,以及事物对人的意义。

人类学及社会科学中有大量观察和解释人类行为的方法。研究人员不但观察人的行为,而且考查他们所处的情境和他们拥有的背景知识。这些方法有一个共同的特点:它们要求研究者深入混乱而真实的人类生活。

没有哪一个单独的工具能够成为理解人类的超级武器。尽管硅谷有许多出色的发明,不过我们对任何数字技术的期望都应该有个限度。“谷歌流感趋势”真正教给我们的是:不能仅仅问这些数据有多“大”,还要问这些数据有多“厚”。

上一篇下一篇

猜你喜欢

热点阅读