演習問題 2.10

演習2.10の解答です。

ディリクレ分布の平均、分散、共分散を求める問題。
ディリクレ分布が正規化されているという条件から、正規化項の式を求めて、それを使います。

期待値を計算する際は、①対象の関数、②確率密度関数、③積分をとるパラメータ　の３つをよく確認しましょう。
分散も共分散も期待値から計算されるので同じです。
今回の問題では、 $\rm{E}[\mu_j]$ の場合、
①対象の関数 $\mu_j$
②確率密度関数 $\rm{Dir}(\bm{\mu}|\bm{\alpha})$
③積分をとるパラメータ $\bm{\mu}$
です。

共分散の表記ですが、本では $\rm{cov}[\mu_j\mu_l]$ となっていますが、正しくは $\rm{cov}[\mu_j,\mu_l]$ です。

また、式(1.41)に従えば、 $\rm{cov}[\mu_j,\mu_l] = \rm{E}_{\mu_j\mu_l}[\mu_j\mu_l]-\rm{E}_{\mu_j}[\mu_j]\rm{E}_{\mu_l}[\mu_l]$ のように添え字付きになりますが、②確率密度関数が共通( $\rm{Dir}(\bm{\mu}|\bm{\alpha})$ )で、③積分をとるパラメータも共通( $\bm{\mu}$ )なので、添え字を省略しています。

prml exercise solution 2.10