信息论 第一讲
2019-06-08 本文已影响0人
享受孤独的猫
1、香农告诉大家,信息可以衡量,但不是用重要性,而是用信息量,单位是“比特”。—>任何能丈量的事物才能进行有效的评价、比较、综合分析,将信息量单位标准化意味着信息作为人类新一轮的生产工具即将来到。
2、你可以把一个充满可能性的系统视为一个“信息源”,它里面的不确定性叫做“信息熵”,而“信息”就是用来消除这些不确定性的,所以搞清楚黑盒子里是怎么一回事,需要的“信息量”就等于黑盒子里的“信息熵”。
—> 一个充满可能性的系统称为信息源,里面的不确定性称为信息熵,为了消除这个不确定需要信息,在一个充满不同状态的要素的环境中,各个状态发生的可能性相等,则不确定性越大。只有掌握了黑盒中的信息,即发生的可能性,才能打开破解熵增的神秘之锁。
3、很多复杂交易背后其实都用到了信息的可度量性。商家只要将售价包装为略高于获胜概率的成本时,这桩生意永远是稳赚不赔的。比如赌场的获胜概率计算、金融产品的设计开发、天文学中行星观测推算。
4、信息量的大小不在于长短,而在于开创多少新知。那些长篇大论的新闻评论中未必言之有物,而短小精悍的学术论文却可能句句经典。