什么是信息？

杨学志

比如说有一个袋子，里面有两个球，一个红色的， 一个白色的。 我们随机摸一个球出来，让你来说是什么颜色，然后放回去，继续。 如果只告诉你前提（两个球，一个红色，一个白色），而不告诉你摸出来的球的任何信息，随便你乱猜，你能够猜对的概率是50％。而如果有一个电平，摸出来红球就把电平置0，摸出来白球就把电平置1, 你看着这个电平来说就能完全说对了。

那么什么是信息呢？ 以这个红白球的例子来说，有些东西是确定的，比如一共有两个球，一个红的，一个白的， 摸球的方法是随机的而不是有所偏好。这些确定的东西，是我们已经知道的，不需要去猜，叫做先验信息。但是每一次摸出来的球的颜色，单靠猜，我们只能猜对一半。也就是说，这个事件对于我们来说具有不确定度。我们要想完全说对球的颜色，也就是消除这种不确定度，所需要的那个东西就是信息。这个例子当中，通过那个电平就可以获得球的颜色的所有信息，这不就是一个bit么？