コインの話ふたたび

• さっきの例では確率を考慮していなかった。
• 確率を例えば、次のように考えよう。
  • 表の確率: 0.499995
  • 裏の確率: 0.499995
  • 立つ確率: 0.00001
• すると各事象を伝える情報量は次のようになる。
  • $k_{表} = -\log_2 0.499995 = 1.000014427 {\rm bit}$
  • $k_{裏} =-\log_2 0.499995 = 1.000014427 {\rm bit}$
  • $k_{立} = -\log_2 0.000015 = 16.60964047 {\rm bit}$