白话信息熵 - 换个视角,新的世界

2019-12-06  本文已影响0人  百万机器猫

一夜之间,「熵」风靡南北,台上,聊得开心,台下,你听懂了么?

前些天,朋友乐乐找到我,满脸愁容。

「机器猫,你常说,多读书。今天我听了一个厉害的分享,挺困扰的。」

我,...

「你看啊,宇宙有一个基本原理,熵增原理,发展的方向不变,所有的星星终将消失。」

我,...

「课上的老师说,熵增是不可逆的,而人生就是场反熵增。还举了世界首富贝索斯的例子,也说,人要反抗熵。」

我,默默点头。

「我特意查了字典,信息量越大,熵就越大,你看我读书,这不是故意增加了熵,这么做,对么?」

「读很多书,真的好么,是不是哪里出了问题!」

我想笑,忍住了。

找点信息的感觉

知乎上流传一个说法:没有比向他人解释,熵是一种无序程度的度量,更忽悠人的了。

乐乐,你这一段话里,出现了两个无关的熵:「熵增是不可逆的」,这是热力学的熵,而「信息量越大,熵越大」,这是信息的熵,是两回事。

好比活鱼和木鱼,都是鱼,但不一样。

Q1:什么是信息?

谈谈信息论创始人香农的故事。 回到70年前,那是电脑刚刚诞生,手机、互联网有如天方夜谭的年代。 一位年轻的博士香农,在思考个严肃的问题:计算机中的信息是什么?

当然,在他的脑海中,没有聊天,没有朋友圈。那时候,计算机是个严肃工具,解决数学、物理,那些各种各样的计算问题。

要解开这些难题,需要线索,这些线索,香农称之为信息。如果说,理解信息熵是道难题,那这篇文章就是帮你解题的信息。

那么,自然出现了一个问题,哪些是好信息,哪些是坏信息,该如何分辨。于是乎,「熵」幽灵般地出现了。

比如,一句话「向前」,看起来平常,没什么价值。如果是身处战场,周围是枪林弹雨,那么这句「向前」,是不是价值连城。

信息的价值,不在于信息本身,而在于背后解决了多么复杂的问题,问题的复杂决定了信息的价值。这个价值的数学化表示就是信息熵。

香农写到,「信息用来克服不确定性,信息熵本质上是对我们司空⻅惯的“不确定现象”的数学化表示。」

Q2:信息熵意味着什么?

想像你身处在迷宫之中,眼前有好多岔道,你是不是想拿到提示,这个提示排除掉无关的岔道越多,价值越大,信息熵也越大。

换到信息的视角,信息熵衡量解决了多大问题,会帮到你多少。

熵是一种度量,本身不是答案,知道熵这个词不重要,知道在信息领域的内涵,知道能带给你什么,才重要。

「乐乐,现在,你觉得,信息熵是好的,还是坏的」

乐乐:「像机器猫一样好,给我解决问题。」

深入信息的世界

理查德·费曼的父亲从小教育他:一只鸟,就算你会用世界上所有的语言去称呼它,你其实对这鸟还是一无所知。你所知道的,仅仅是不同地方的人怎么称呼这种鸟而已。你需要的是,好好看看这只鸟。

乐乐:「机器猫,听你这么一说,我好像有了点感觉,很有趣,但要我自己解释,又说不上来。来些举一反三吧。」

Q3:文字和信息的关系是什么?

乐乐:「文字不全是信息!」

在香农的世界里面,信息是解决问题的。如果没有解决问题,就不是信息啦。

解决问题也未必需要文字,一个眼神,一个暗示,也可以,和日常语境不一样。

Q4:信息熵高,是什么感觉?

熵的高低,是可以感觉到的。

比如下面哪句话的熵更大一点?

A. 太阳照常升起。
B. 今天出现日食。

乐乐:「日食,是因为罕见么。」

转换个视角,问你两个问题,第一个问题是,今天太阳会不会照常升起?第二个问题是,今天会不会出现日食?

第一个问题,人人能回答,而第二个问题,除了天文学家还有谁知道,两个问题复杂不同,所以熵不同。

信息的价值,不在于信息本身,而在于解决了多复杂的问题,谜题越复杂,可能的路径越多,信息熵越大,必须反复提。

信息熵大,你会觉得信息量很大。

乐乐:「不听错过一个亿!」

下回,别老说错过一个亿,说:这句话的熵好高,是不是更有面子。

Q5:有哪些常见误解呢?

我们对信息熵的感觉又不太准确。

再来做道题,下面这三句话,哪句话熵更大一点?

A. 改变自己。
B. 改变自己可以改变的。
C. 改变自己可以改变的变量。

乐乐:「我选A,没看懂!」

这是典型的错误哈,站在自己角度,哪个看不懂,就选哪个,看不懂 = 信息熵高。

正确的解答是站在信息角度思考,尝试用这三句话回答同一个问题:比如,如何突破自己。

同样的问题,你拿到线索越有效,排除掉的无关可能性越高,熵也就越高,看哪个信息排除的无关可能性最多?

这三句话,「改变自己」包含「改变自己可以改变的」,「改变自己可以改变的」包含「改变自己可以改变的变量」。

画成同心圆。

自身外的面积,即消除的无关可能。最里面那个圆「改变自己可以改变的变量」,消除的可能最多,所以熵最大。

可以这样想,越聚焦,熵越大。

乐乐:「也可以这样说,一个坑套另一个坑!」

Q6:信息熵,是客观,还是主观的?

再来个有意思的问题,同样的信息,你看到的熵,和我看到的熵,一样么。

信息熵因人而异的。如果我是小白,信息熵高,因为全是新知。如果我是专业老师,则信息熵低,因为早已知道。

有的人处理信息快,有的人处理信息慢,和知识储备有关。

信息熵是主观的,你的知识会改变信息的熵。

乐乐:「没你这样自吹自擂的!」

改些思考的视角

有一个人十分崇拜杨绛。高中快毕业的时候,他给杨绛写了一封长信,表达了自己对他的仰慕之情以及自己的一些人生困惑。

杨绛回信了,淡黄色的竖排红格信纸,毛笔字。除了寒暄和一些鼓励晚辈的句子外,杨绛的信里其实只写了一句话,诚恳而不客气:

「你的问题主要在于读书不多而想得太多」。

乐乐:「机器猫,我知道脚踏实地,但我还想知道信息熵,在生活里,该怎么用。」

Q7:生活中怎么使用?

你能分辨鸡汤和干货么,你知道怎么找经典么。

乐乐:「有时候行,有时候不行。」

如果感觉模糊,那需要一个探照灯,将信息分类,来加大亮度。

我归纳了这么个公式:

信息熵 = 问题的复杂度 ✖️ 解决的充分度

A、随手记

平时,随手写写,通常是低复杂 ✖️ 低解决,俗称朋友圈文字。一般是抒发随心的感受,记录生活中的记趣,给生活一些点缀。

毕竟,生活不用一直那么沉重,也不用永远解决问题,享受美好,在不经意间给些启发就好。

乐乐:「你是不是就想说,我平时写的,没什么信息。 」

B、干货文

低复杂 ✖️高解决,是一些干货文,聚焦具体的问题,给具体的技巧和可行的方法,场景不会太复杂,但解决比较到位,看完了,你会特想行动。这是学习的主要区域,让你一步一个脚印前进。

塔勒布曾经吐槽,让一个人死的最快的办法就是找一个家庭医生。过于追求完美, 低估了问题的复杂度,可能带来全局的损失。

我曾经也是喜欢追求干货,如果问题本身就小,那没问题,如果问题本身很大,简化问题,有时会适得其反。

如何判断问题的大小,可以看时间尺度。人生意义问题,我是谁,我从哪里来,问题最大,而今天中午吃什么,这就比较小。

乐乐:「大小合适,干货不累。」

C、鸡汤文

这可好玩了,鸡汤学。

什么是鸡汤,高复杂 ✖️ 低解决,问题是普世的,解决是通用的,问题是你想要的,但解决是你没用的。看鸡汤文,通常有个感觉,说的很有道理,但是没什么用。

比如「改变自己」,鸡汤文中喜欢用,谁都可以改变自己,但少有人知道如何去做,话是有道理的,但和问题解决没太大关系。

少看鸡汤,你以为能解决,但解决不了,更难受。

乐乐:「戳中我的痛点了~~~」

D、经典

别着急,还有第四类,高复杂 ✖️ 高解决,这些是经典。经典提升问题层次,也会给出有效的解决。经典可遇而不可求,经过扎实的研究,付出多年的努力才能得到。

乐乐:「太赞了,推荐我些书吧? 」

今年读了一些,《如何达成目标》、《情绪》、《终身成长》,都是这类。

在信息时代求生,你要学会区分信息,听从感觉,得到的可能是至理名言,也可能是故布疑阵,按我的公式探照一下,洞悉背后的真相。

Q8:举个实际运用的例子?

最后来个彩蛋:如何让别人觉得厉害,如何优雅地炮制干货。

今天聊了很多事实,也谈了很多观点,该如何分辨事实和观点么?

(挖)

事实和观点,似乎一目了然,但实际应用中会发现,事实中有观点,观点中有事实,而且事实和观点还往往会相互转换。

地球是圆的,大多数情况是事实,但严谨的测量后又发现,地球是略微椭圆的。

(埋)

两者的关键差异是,背后是否有证据,前者有证据(照片等),后者没证据。证据越强,越偏事实,证据越弱,越偏观点。

但要注意,有证据不代表是对的,没证据也不代表是错的,事实/观点 和 对 / 错 在不同层面上。比如:地球是圆的,不准确,地球是略微椭圆的。多维宇宙,很可能是对的,这是目前唯一的解释。

套路是:先把问简单题搞复杂(挖坑),再把复杂题弄清楚(埋坑)。相比直接给答案,效果更好。

是不是有点感觉了。

乐乐:「经典!」

还有什么?

夕阳无限好,只是近黄昏。

乐乐:「**机器猫,我有最后一个问题,难道信息熵大,就该信么。 **」

当然不是,熵不代表靠谱,就算靠谱,一下子来了多个信息,你该怎么办?

道理很多,就算告诉你,也未必相信。 信息之外,还有个因素是人。

如果不信任我,你不会获得信息,信息重要,信任也重要。

信息和信任两者相乘,成为你的选择。

遇一个好人,读一本好书,这些是信任,信任会让你的信息增值。

所以,多认识牛人,多读好书吧。

乐乐:「我懂了,今天学到了好多,谢谢你。 」

哈哈,这才刚入门,就够了吗,想不想逆袭。

卖个关子,下周见啦~

信息小贴士

1、学习有边界,知识有分岔,找到源头,顺流而下。
2、文字不全是信息,信息不全是文字。你的知识改变信息的熵。
3、信息熵 = 问题复杂度 ✖️ 解决充分度,换个角度,看世界。
4、读好书,遇好人,信任会让你的信息增值。

上一篇下一篇

猜你喜欢

热点阅读