演習 1.28の解答です。
情報理論の問題となります。
情報の性質、つまり
「2つの無関係な出来事 の情報は
の情報と
の情報の和になる」
を満たすような の形は
の対数以外にはありえない、ということを証明します。

prml exercise solution 1.28
機械学習の教科書の決定版【パターン認識と機械学習】の演習問題の全てを詳しく解答・解説
演習 1.28の解答です。
情報理論の問題となります。
情報の性質、つまり
「2つの無関係な出来事 の情報は
の情報と
の情報の和になる」
を満たすような の形は
の対数以外にはありえない、ということを証明します。
prml exercise solution 1.28