演習問題 1.28

演習 1.28の解答です。

情報理論の問題となります。
情報の性質、つまり
「2つの無関係な出来事 の情報は の情報と の情報の和になる」
を満たすような の形は の対数以外にはありえない、ということを証明します。

prml exercise solution 1.28