热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律( 二 )


热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
而这个存在物就是“麦克斯韦妖” , 小妖精掌握和控制着高温系统和低温系统之间的分子通道 。 它利用了分子运动速度的统计分布性质 。 因为根据麦克斯韦分布 , 即使是低温区 , 也有不少高速分子 , 高温的系统中也有低速度的分子 , 通过这样一个能够控制分子运动的小妖精 , 在两系统的中间设置一个门 , 只允许快分子从低温往高温运动 , 慢分子则从高温往低温运动 , 在“小妖”的这种管理方式下 , 两边的温差会逐渐加大 , 高温区的温度会越来越高 , 低温区的温度越来越低 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
麦克斯韦认为 , 只有当我们能够处理的只是大块的物体而无法看出或处理借以构成物体分离的分子时 , 热力学第二定律才是正确的 , 并由此提出应当对热力学第二定律的应用范围加以限制 。
1929 年匈牙利物理学家利奥·希拉德在研究麦克斯韦妖的时候 , 将麦克斯韦的设计方案简化 , 构建了一个单分子版的实验模型 。
希拉德首次将信息的概念引入到热力学循环中 。 小妖精进行测量的目的是为了获得信息 , 从而知道分子是处于左边还说右边 , 而在这个获取信息的过程中会消耗能量 , 从而导致整体的熵的增加 。 如果把这个效果包含到热力学循环中来 , 热力学第二定律就不会被违反 , 那么麦克斯韦妖就被斩杀了!
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
希拉德第一次认识到信息的物理本质 , 将信息与能量消耗联系起来 。 可以说为后来的消息论奠定了基础 。
我们知道 , 自人类诞生之初 , 信息就已经产生 , 比如古代猿人通过声音告诉同伴捕猎成功 , 这也是信息 。 但是千百年来从未有科学家对信息展开系统研究 。 人通过获得、识别自然界和社会的不同信息来区别不同事物 , 得以认识和改造世界 。 在一切通讯和控制系统中 , 信息是一种普遍联系的形式 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
飞鸽传书
而香农对信息的认知可以说开人类之先河 , 彻底颠覆了人类的认知 。 香农是一个天才 , 从小对数学就极为痴迷 , 香农十分热衷于解答姐姐凯瑟琳交给他的数学题 。
而到了 22 岁的时候 , 他发表的硕士论文《A Symbolic Analysis of Relay and Switching Circuits》(继电器与开关电路的符号分析)就已经惊震世界 。 当时他已经注意到电话交换电路与 布尔代数 之间的类似性 , 即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来 , 并用1和0表示 。 于是他用布尔代数分析并优化开关电路 , 这就奠定了数字电路的理论基础 。如果说德布罗意的博士论文是世界上最伟大的博士论文 , 那香农的这篇就是世界上最伟大的硕士论文 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
不过 , 香农的确是一个非常有趣的人 , 他曾因为获得杂耍学博士而欣喜不已 , 到了晚年 , 依然热衷于像人们展示自己鼓捣的各式各样的小玩意小器械 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
玩杂耍的香农
香农在贝尔实验室为美国情报部门工作工作多年 , 在英文里情报和信息的英文都是“information” 。 这让他对于信息产生了独特的理解 。
【热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律】当时香农在研究探讨信息的本质和通信的理论极限问题 , 比如什么是信息 , 怎样从数学上定义衡量信息 , 数据压缩和数据传输可达到的极限在哪里 。
香农认为信息是能够用来消除不确定性的东西 , 举一个不是很恰当的例子 , 我不知道我这次考试的分数是多少 , 但是老师给我发了一个信息告知了我 , 我立马做出决定不告诉我妈这次的成绩 , 这其实就是一个获取新信息、消除不确定性的过程 , 这个过程可以看做是信息论原理的一个具象呈现 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图
香农本来打算直接用“不确定性”(uncertainty)来表达这个概念 , 但是这个概念太过于模糊 , 不确定性究竟指的是什么东西 , 它的意义是什么 , 就很难说明白 。
热力学|人类进入信息时代70年,3分钟带你搞懂背后的大BOSS——香农定律文章插图