克劳德·香农:科学、数学、工程集于一身的全才( 二 )


最后,他证明了对于发出的信息受到噪声干扰的情况,只有当H < C时,通信才是可靠的 。信息就像水一样,流量小于管道容量时,才可安全流过 。
虽然这是一种通信理论,但同时也是一种有关信息如何产生和传递的理论——信息论 。因此,现在香农被称作“信息论之父” 。
他的定理得出了一些与直觉相反的结论 。假设您在嘈杂的地方讲话 。确保您的消息通过的最佳方法是什么?也许是一遍又一遍地重复?这可能是大多数人的本能,但事实证明这样做效率并不高 。当然,重复的次数越多,沟通越可靠,但这是牺牲速度来换取可靠性 。香农告诉我们,我们可以做得远远比这更好 。重复消息是使用代码传输消息的一个例子,而使用不同的、更复杂的代码,可以在保持一定可靠性的同时,更快速地通信——一直到速度极限C 。

克劳德·香农:科学、数学、工程集于一身的全才

文章插图

香农站在一箱电子元件前 香农也有爱玩的一面,他经常将这一面带到他的工作中 。这是香农和他为一只名为特修斯的电子老鼠建造的迷宫的合影
香农理论的另一个出乎意料的结论是,无论信息的性质是什么,无论是莎士比亚十四行诗,贝多芬第五交响曲的录音还是黑泽明的电影,在进行传输之前,将其编码为比特一定是最有效率的 。因此,例如在无线电系统中,即使初始的声音和在空中传播的电磁信号都是模拟波形,基于香农定理,最好也要先将声波数字化为比特,然后再将这些比特映射为电磁波 。这一令人惊讶的结果是现代数字信息时代的基石,在这个时代,比特已成为信息的“通用货币” 。
04 跨界的天才
香农的通信理论是如此自然,他似乎是发现了,而不是发明了宇宙的信息传播定律 。他的理论与大自然的物理定律一样基础 。从这个意义上说,他是一位科学家 。
香农发明了新的数学来描述通信定律 。他首次引入的概念,例如概率模型的熵率,已经应用到广泛的数学分支的研究中,例如遍历理论(ergodic theory)(动力学系统的长期行为的研究) 。从这个意义上说,香农是一个数学家 。
但最重要的是,香农是一名工程师 。他的理论是受到了实际工程问题的启发 。尽管对当时的工程师来说,这些理论深奥难懂,但现已成为了所有现代(光学,水下,甚至星际)通信系统的基础标准框架 。就个人而言,我很幸运地参与了一个全球范围的,将香农的理论应用和扩展到无线通信的事业,在多代标准中将通信速度提高了两个数量级 。确实,当前推出的5G标准使用的不是一种而是两种实用的代码,它们都达到了香农的速度极限 。

克劳德·香农:科学、数学、工程集于一身的全才

文章插图

克劳德·香农在看一张土星照片
香农在70多年前就为所有这一切奠定了基础 。他是怎么做到的?通过锲而不舍地专注于问题的基本特征,而忽略所有其他方面 。他的交流模型的简单性就是这种风格的很好例证 。他还知道要专注于可能的事情,而不是立即可行的事情 。

克劳德·香农:科学、数学、工程集于一身的全才

文章插图

香农制作的一辆黄色的遥控巴士 。尽管香农在2001年去世了,但他的遗产仍然存在于构成我们现代世界的技术和他创造的设备(如这种遥控巴士)中
香农的作品说明了顶级科学的真正作用 。当我开始读研究生时,我的导师告诉我,最好的工作往往是在修剪知识树,而不是发展知识树 。那时候我无法理解这句话 。我一直认为,研究人员应当追求的是添加自己的树枝 。后来我有机会在自己的工作中运用了这种哲学,我才开始理解 。
当香农开始研究传播时,工程师已经掌握了大量技术 。正是他的工作将所有技术统一起来,将这些知识的枝条修剪成了一棵富有逻辑、一以贯之的、可爱的树,这棵树为几代科学家,数学家和工程师结出了累累硕果 。