信息论第一讲

影响世界的三比特信息

三个关于信息价值的故事：

1、二战期间佐尔格给苏联一条信息“日军将南下”，让苏联调度西伯利亚60万军队西进莫斯科。—信息量不足1比特，只是再次明确了该事实，因为苏联对日军的战略动向已经有了大量调查。

2、英美盟军登陆法国诺曼底，巴顿佯装进军加莱。—德军不把鸡蛋放在一个篮里，在各个重要可能登陆海岸都有设防，结果在诺曼底让盟军损失惨重。

3、战国时期秦赵长平之战，秦军更换主帅白起，赵括误判，结果秦军全胜并坑杀45万赵军。—问题是信息的缺失。

启示：

1、不要重视金钱而要重视信息。在控制理论中有一种开关电路，只需要一比特或更小的信息量就能打开或关闭经过它的一个接近无限大的电流，即很小的信息能驱动很大的能量，它有四两拨千斤的效果。信息的作用取决于信息量的多少。

2、信息量与不确定性有关，众所周知的信息是没有信息量的。我们在讲话、写作、互动中如果不能产生出超出普遍认知的知识其实是没有信息量的。

3、在一个未知系统中，所做出的估计和真实情况之间的偏差就是信息损失，偏离越大损失越多。比如预测考试分数，只有消除信息损失，对正确答案的信息掌握更多才能越接近真实分数。

诺贝尔论文的信息量

所有的推断都不是绝对可信的，即使是已经被大量数据证实的结论，信息有不同的置信度。世界上没有绝对的可靠，只有可靠性高低的问题，信号和噪音的比例问题。

三个主要问题：

1、宇宙是如何诞生的？彭齐亚斯和威尔逊关于宇宙大爆炸的推论。

2、地球生命的共同点和起点？沃森和克里克的论文论述了生命体是如何工作的，G蛋白在其中起到通讯作用。科比尔卡的靶向药物1/3都与G蛋白相关。

3、人类文明的起点？

推断宇宙诞生的两个方法：3K背景辐射和空间换时间。给我们带来的启示：

1、信息是宇宙固有的属性。

2、在一个领域的贡献不在于内容的多少，而在于信息量的大多少。而信息量的多少取决于我们还未知的那些知识的含量，而不是大家都普遍了解的事情。

一篇好论文的特点；

1、信息量要足够大。

2、信息传播的效率高。让读者能充分理解你的核心思想。

大数据的四大应用

1、解决了人工智能问题，消除不确定性。它是香农信息论的本质，也是大数据思维的科学基础。如语音识别技术的突破。

2、带来了精准的服务。如搜索引擎的多维匹配，头条新闻推送。

3、动态调整做事的策略。如滴滴智能调度，实时交通流量监测。

4、发现未知领域的知识和规律。如临床药物匹配研发，天文学研究。