大数据到底能做什么
现在谈这个问题可能会让大家笑话,似乎所有人都知道大数据能干这个,能干那个,最后连我们自己都觉得可笑。大数据已经都不是被“妖魔化”了,是“娱乐化”。大数据似乎是个离我们忽远又忽近的事物了,变得不真实起来。
近两年来,大数据被应用到影视制片行业,基于对观众偏好的分析,去预测、设计观众喜欢的剧情,找观众喜爱的演员出演相关的角色,甚至可以去预测票房。这些所有的预测都是基于数据的基础上,经过一定的模型处理,得到接近真实的结论。从某种程度上给决策者决策的依据,比如《纸牌屋》和《星星》。
大数据还有一个重要的作用,就是解决人们的“选择”问题。别笑,无论你的年龄、性别、教育背景,人们目前都面临着前所未有的选择问题。讲的学术一些,这是由于“长尾效应”导致的问题;讲得通俗一些,就是由于日益增多的可选择的对象和我们自身的处理能力之间的矛盾。
科技的进步让人变得更懒,也就是我们自身的处理能力降低,无论是主观的还是客观的。而可被选择的对象却在日益增多。从纷繁复杂的商品(电商),到海量曲库中的乐曲;从婚恋网站的男女朋友,到交通管理的信号灯。
基于人工智能下的大数据,就是可以使人们“变懒”的一个手段。基于你的历史行为,判断出你可能的喜好,乃至需求,将最佳结果,推荐给你。这就是大数据,她是你的贴心管家,或者说是最懂你的朋友。
不要以为是海量数据就一定会有价值,在过往的工作中,我们经常发现来自甲方的数据源有80-90%的数据都是无用的。只有10%-20%的数据才会产生一定的价值。这就又让我想到Marry
Meeker打的那个比喻,“大数据的工作就像在一堆稻草中寻找一根针”。
何况,大多数领域本身业务属于早期,所拥有的数据非常贫乏。冷启动、稀疏性是大数据在诸多领域面临的挑战。
另一方面,对于不同领域,不同项目,没有放之四海而皆准的算法,必须要根据具体问题具体分析解决。在实际的工作中发现,不只是不同的领域(如文章推荐与商品推荐),甚至同一领域的不同单元(同属电商但不同类电商,如母婴类和服装类或者奢侈品类)也有所不同。