資訊理論
1. 什麼是資訊(Information)？
(1) 我們如何得知在一本書中有多少的資訊？
(2) 書中的頁數和字數是重要的因素嗎？
(3) 一本書會比另外一本有更多的資訊嗎？
(4) 一本非常無聊或是特別有趣的書，哪個包含的資訊量較多？
(5) 一本400頁但都是廢話的書，會比一本電話簿含有更多的資訊嗎？
2. 藉由某段訊息(或者某本書)「讓人驚訝的程度」來測量資訊
例如：
一個總是走路到學校的朋友告訴你：「我今天走路到學校」，你一點都不會感到驚訝，因為你早就知道了。
但是如果你的朋友告訴你：「我今天坐著直升機到學校」。這樣的訊息會讓你很驚訝，也因此會告訴我們非常多的資訊。
3. 如何測量某段訊息的「驚訝值」？
看看要猜到那個資訊會有多困難。
如果你的朋友告訴你：「猜猜我今天是如何到學校的？」而答案是他走路到學校，這個時候你會有比較高的機會在第一次就猜到正確答案。
但如果答案是坐直升機，甚至太空船，那麼有可能得猜好幾次才能猜到答案。
某段訊息所包含的資訊量，是藉由是否容易被猜到來衡量。
最後修改: 2017年 04月 6日(Thu) 10:48