热力学第二定律和熵

在描述世间万物规律的物理定律中，只有热力学第二定律让我确信它永远不会被推翻。

—— 阿尔伯特·爱因斯坦

热力学第二定律既简单又深刻。物理学家用它来解释自然现象，企业家用它来解释管理艺术，社会学家用它来解释人类行为。

历史上热力学第二定律的具体表述有很多，而且看起来都各不相同。其中，现代学者普遍接受的一种表述是：

孤立系统的熵只会随着时间的推移而增加，不会减少。

其中，“孤立系统”是指不与外界进行能量和质量交换的系统。

我知道你会问。 “熵”是一个很难理解的概念。 “温度”和“压力”等概念很容易理解，因为我们可以触摸或感觉到它们。熵是看不见、摸不着、高度抽象、难以准确理解的。

直观上，熵衡量的是物体或系统的无序程度。

举个例子。上图中左右两个房间的陈设几乎一模一样，就像包含相同材质的两个系统一样。左边的房间明显比较乱，而右边的房间则比较整洁。所以我们可以认为左边凌乱的房间具有较高的熵，而右边整洁的房间具有较低的熵。

当然。对“熵”的直观理解并不足以满足求知若渴的学生，对“混沌”的解释并不能解决所有问题。我们先从奇怪的汉字“熵”说起。

1924年，德国物理学家普朗克来华讲学，作了《热力学第二定律的概念》的报告。胡刚夫在为马克斯·普朗克翻译时，苦于观众难以理解德文“entropie”一词，于是他即兴翻译了“entropy”一词。

基于卡诺热机，克劳修斯于1856 年推导出以下公式：

其中，Q代表热量，T代表温度，S代表熵。 代表增量，所以S代表熵的增量，Q代表热量的增量。克劳修斯推导出的上式的含义是，熵的变化等于热量的变化与温度的比值（商）。

克劳修斯是历史上第一位定义熵的科学家。这个定义适用于热力学背景，但它也提出了两个问题。

首先，克劳修斯只定义了熵的增量，但没有给出锚点。例如，什么情况下系统的熵值为1。克劳修斯的定义并没有给出明确的答案。

其次，这个定义很难直观地解释。 “热变化”与“温度”的比例是多少，让观看者有一种坠入云端的感觉。

现在正是提出要求的时候，当然也需要更加有力一些。

1877年，奥地利物理学家路德维希·玻尔兹曼从统计力学的角度给熵下了如下新的定义：

等式左边的S代表熵。等式右侧，K 是玻尔兹曼常数。 ln 函数是自然对数。这里是关键点，这里的W代表微观状态数。具体来说，对于系统的特定宏观状态，W是与该宏观状态匹配的微观状态的总数。

关于宏观状态和微观状态对应的数量，老师做了一个简单的类比。例如，我们抛掷两枚硬币，总共可能会出现三种宏观状态：两个正面、一个正面、一个反面、两个反面。

两个头（正和正）只有一种微状态对应，两个负（反和反）只有一种微状态对应，一正一负（正和反，负和反）对应有两种微状态）。

宏观状态与其对应的微观状态之间存在如下关系：如果系统处于固定的宏观状态，且不受其他因素干扰，则系统将在所有满足要求的微观状态之间进行切换，并在有限的时间内遍历它。时间。所有合理的微观状态。

以抛硬币为例。当系统处于“一头一尾”的宏观状态时，两枚硬币会自发地在“正面和反面”和“正面和反面”两个微观状态之间反复跳跃；但如果没有外界因素干扰，则不会跳转到“前进”或“后退”状态。

好的。这位学生可能对硬币的粗略示例不满意，因此老师将给出—— 个围棋棋盘和围棋棋子的更详细示例。

围棋棋盘有19条纵横棋道，361个交叉口。假设我们有180 颗黑子（白子已被扔到一边）。同学们不妨想象一下，这个棋盘是一个孤立的空间，180个棋子就像180个气体分子。接下来，我们考虑两种不同的宏观状态：

宏观状态一：180个棋子相对均匀地分布在棋盘的交叉点上，如下图所示。

宏观状态II：180个棋子集中在棋盘的右半部分，如下图所示。

在这个棋盘上，宏观状态指的是棋子的整体分布情况，微观状态指的是棋子的具体分布情况，以及各个格子交汇处有无黑子。

我们可以从玻尔兹曼的定义出发，定量分析和比较这两种宏观状态之间的差异。为了方便起见，我们在公式中暂时省略玻尔兹曼常数K（省略玻尔兹曼常数并不影响定量分析）。现在，玻尔兹曼熵暂时由以下公式定义：

Macrostate I，“180个棋子均匀分布在棋盘上”是比较常见的。利用组合数学的公式，我们可以更准确地估计出与宏观状态I相匹配的微观状态大约有10^108个。用公式表示，W(I)=10^108。因此，宏观状态I 的熵值大约为：

Macrostate II，“180个棋子集中在棋盘的右半边”是比较少见的。事实上，只有棋盘中间一列的九个棋子的排列是不确定的。因此，只有92,378 个微观状态对应于宏观状态II。用公式表示为W(II)=92378。因此，宏观状态II 的熵值大约为：

综上所述，W(I)W(II)，宏观态I对应的微观态总数较多；因此，宏观态I 的熵较高，宏观态II 的熵较低。

我们用下表来总结一下Go 情况下两种宏状态之间的差异。

老师知道某位同学还有问题，请提问。

好问题。直观上，与某个宏观状态匹配的微观状态数量越多，该状态通常越混乱。

例如，在上面的例子中，宏观状态I下的微观状态

与宏观状态II下的微观状态相比

明显更加混乱。

然而，上述直观理解也有一些例外。比如下图中的“整齐”排列。

这个状态的熵是更高还是更低？

从第一感觉来看，这种排列极其整齐，并不混乱，看起来应该是低熵状态。不过这个微观状态其实和宏观状态一“棋盘上均匀分布着180个棋子”的描述是比较一致的。

如果你把这些棋子想象成气体分子，那么从

状态更改为

国家需要更少的能源。

并从

状态更改为

国家需要更多的能源。

因此，下图应视为宏观态I所属的微观态，其熵较大，接近S(I)=243.1。

从上面的例子可以看出，将“熵”解释为“混沌”足够直观，但不够严谨。玻尔兹曼对“微观状态数”的定义是对“混沌程度”的准确解释。

嗯，当然。前面我们提到了“熵”的两个定量定义：克劳修斯的“热与温度的商”和玻尔兹曼的“微观态数”。

这两个定义应该是兼容的，而且在热力学的范围内，确实可以通过数学推导来证明这两个定义的等价性。然而，如果我们从信息的角度来看待“熵”，我们不仅可以将上述两个定义联系在一起，而且还可以进一步扩展“熵”概念的应用范围。要求学生考虑以下定义：

熵衡量了我们对宏观状态的无知。

要了解“无知”到什么程度，让我们回顾一下围棋棋盘的例子。

请先考虑宏观状态I，这是棋子均匀分布的宏观状态。

我们其实对宏观状态I知之甚少，基本不知道乌云下棋子的具体分布。几乎不可能分辨棋盘上的哪一点有棋子，哪一点没有棋子。

为了准确理解宏观状态I背后的具体微观状态，我们还需要知道棋盘上每个点的状态。这需要几乎361 位的二进制代码（每个点如果是太阳黑子则记录为1，如果是空点则记录为0），即361 位1 的信息。

（注1：bit的翻译不同地区有所不同，作者这里翻译为bit，请注意不要与byte混淆。1byte=8bit）

如果是宏观状态II，棋子集中在宏观状态的右半部分。

那么我们对它有了足够的了解，除了棋盘中间的一列不确定之外，我们几乎可以确定对应的微观状态——。

因此，我们只需要确定棋盘中间19个点的状态，就可以准确地知道宏观状态II背后的微观状态是什么。换句话说，我们丢失的信息不超过19 位。

根据上面的例子，我们可以得出结论，所谓对宏观状态的“无知”，就是确定相应的微观状态所缺乏的信息量。缺失信息量越大，该宏观状态的熵就越高。

嗯.好吧。

美国数学家克劳德·香农于1948年10月发表了论文《通信的数学理论》。这篇著名论文后来被认为是信息论的开创性工作。本文提出“信息熵”的概念，定义如下：

这里的H是香农定义的信息熵，W也是微观状态数。不难看出，香农对信息熵的定义与玻尔兹曼的定义几乎相同，仅存在一个常数差异。

信息熵定义中的对数函数通常以“2”为底，因为二进制在信息论实践中更常见。

根据香农定义计算，棋盘上宏观状态I和宏观状态II对应的信息熵如下：

即宏观状态I的信息熵为358，而宏观状态II的信息熵为16.5。这与我们之前的粗略估计非常接近，也是对我们对宏观状态“无知”的更准确衡量。

教师将信息熵添加到表格的最后一列，学生可以据此得出结论。

呃……我可以……

玻尔兹曼对熵的定义实际上采用了一个简化问题的假设：“每个微观状态出现的概率是相等的”。

这种假设在某些情况下是合理的，但在其他情况下是不合理的。美国物理学家乔赛亚·威拉德·吉布斯根据玻尔兹曼的定义对熵进行了一般性定义。公式如下：

其中， 代表各个微观状态出现的概率。熵的这个定义也称为吉布斯熵。

对应于吉布斯熵，信息熵一般由以下公式定义：

如果每个微观状态出现的概率相等，即

所以

与上面提到的简化定义一致。

“混沌”是对“熵”很好直观的理解，而微观态数是对熵更准确的理解。