熵

熵增定律，一切事物都是从有序趋向无序

熵是描述一个系统无序的变量。

熵越小越有序，熵越大越无序。

一个系统的熵不会变小只会不变或增大，只有系统发生可逆的过程才会保持不变。

任何不可逆的过程将导致熵增，只有引入外部信息实现熵减。

一个比喻，一团烟雾总是在不断扩散，从原则上说，他们有种更加靠紧的可能。但事实总是在向另一种可能性发展，即风会将熵值很低一团烟雾吹成熵值很高的扩散的轻烟。

这就是熵增定律，解释了一切事物都是从有序趋向无序。