为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策


为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

我们都熟悉"计量单位":1 分钟表示一段时间 , 1 米表示一段长度 ,  1 比特则表示一些信息 。但是请稍等一下——什么是"一些信息"?为什么用比特就能够表示一定量的信息?它们与二进制数字(由 0 和 1 组成)之间又有着怎样的联系呢?
▌用 1 个比特在二叉路口寻出一条路线
如果你想从两个等可能选项中做出抉择 ,  1 比特即是你所需要的信息量 。

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

想像一下你正处于两条路的分叉上(在下图中用 A 点标出) , 并且想要走到 D 点处 。请注意你并不知道这个俯视全貌的图 , 你只知道在自己面前有一个分叉 , 以及做出的决定 。如果你之前并没有得到关于选择哪条路的信息 , 那么 A 点的前叉就呈现两条相同可能的选择 。如果我们把指令(帮助你走到 D 点)用二进制数来表示(0=左 1=右) , 那么这一个二进制数字就给你提供了 1 比特的信息 , 并告诉了你该选择哪条路 。

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

事实上 , 由 0 和 1 构成的二进制数字可以用来代表从 A 到 D 的整个路程 。想象一下你沿路漫步到了另一个分叉 B 。因为你还不知道该选哪条路 , 这次一个二进制数字(1=右)还可以为你提供 1 比特的信息从而让你选择正确的路线 , 也就把你带到了 C 点处 。

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

▲ 1 比特的信息对应着在两个相同可能的选项之间的选择
请注意 , 在你做出两次选择后 , C 点即便是你从 A 点出发后所有可能的临时岔路(共四个)中的一个 。两个二进制数字给你提供了两比特的信息并且让你能够从四个(均等的)选项中做出选择 , 

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

.
第三个二进制数字(1=右)又给你提供了 1 比特的信息 , 并且可以让你再一次选择正确的道路 , 最终到达 D 点处 。
从 A 点出发到现在位置 , 有了八条总共可选择的路 , 所以三个二进制数字(就给你提供了 3 比特的信息)足够让你从八个相同可能的选项中做出选择 , 

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

请注意 , 你一旦在 A 点做出决定要走哪条路 , 八个中就会有一半的道路无法再进行选择了 。同样地 , 在连续的分叉口所做的决定就会让剩下可以选的终点数量缩减一半 。
▌在八种结果之间选择
对上面的情况 , 我们来概括下 。n 代表分叉的次数 。m 代表 n 次分叉后终点的数量 。如果你已经走过了 n 个分叉口 , 那么你就已经从

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

个终点中做出了选择 。
由于在每一个分叉口做的选择都需要 1 比特的信息 , 因此 n 个分叉口就需要 n 比特信息 , 那么你可以从 2^n 个均等的选项中做出选择 。
如下图所示 , 我们既可以用 0 至 7 这八个十进制数字来标记八个可能的每个终点 。如下表所示 , 这些十进制数字和二进制数字可以看成是两种相同的表示方法 。用二进制数字计数可以转成成用十进制数字 。

为什么用比特能表示一定量的信息?0与1世界中的信息、比特与决策

文章插图

用二进制来表示数字有许多优点 。比如用来标注每一个终点的二进制数字(例如:011)都能清楚地表达到某个岔路口所需向左或向右的指示 。这种表示方法可以被应用于许多布尔(即二进制)问题 。
▌在对数选择之间进行决策
若想知道任何一条路线的复杂程度 , 既可以参考最终"可能终点"的个数 , 也可以参考从头到尾必经的分叉口的总个数 。我们知道 , 当分叉口的数量增多时 , "可能的终点"的个数也会随之增多 。正如我们已经看到的一样 , 如果这里会遇到三个分叉口 , 那么就会有