情報量

情報量(amount of information)とは

• 送受信する情報や記録する情報の量のこと。(←定義になっていない!)
• その情報の起こる確率も含めた情報の量の指標。
• 全く同質の2種類の状態を識別するのに必要な情報量を 単位情報量(1 bit)とする。(1 b とも書く)

1 b で表現できる情報の例:

• true/false, yes/no, 1/0, 表/裏, 勝ち/負け, on/off