从信息论中学习的心得

1，交叉验证

做任何事，我们都希望得到好的结果，而我们需要做的就是拿不同的数据去对比结果。为了满足结果的准确性，我们尽可能用多组数据验证，是好方法。比如了解你公司的情况，不仅要看财报、听听同事、高管的说法，也要看看比如上下游供应商的说法。这样信息才是比较综合的，不至于想当然。

2，等价信息

其次，在科学研究领域，当我们很难测得一个变量的时候，通常会用其他现象代替。就比如我们初中化学教材中的，如果判断物质的酸碱性。这时候我们可以借用PH试纸的颜色变化，对比标准模型得到一个大致的范围。我最近在复习一门考试，之前觉得内容非常多而且难，但是现在看书或者做试题的时候，主动地思考题目所给的信息到底是想告诉什么，有什么等价信息可以关联到书本的基本内容；这样很有意思了，也倒逼自己建立知识体系框架。

3，大数据思维

大数据解决了人类人为找规律慢的问题，他可以利用计算机的计算能力比较不同数据的差异，然后给你一个对不同因素影响力的量化评估。

4，奥卡姆剃刀

生活中的琐事绝大部分可以被切割掉，我们需要少做事，把事做好。

5，最大熵模型

告诉我们，不要做主观假设，而要用概率将事做得“平滑”。

6、思考的方法论：学习一门新的学科首先要了解用处和基本原理，思考如何在现实生活中如何运用，可以先忽略理论细节，这样就避免一开始就陷入“畏难”情绪中。比如最近在读《什么是数学》、《统计学习方法》等就是在用这个方法。