演習問題 3.7

演習3.7の解答です。

線形基底関数モデルについて、その重み {\bf w} の事後分布を求める問題。
事前分布は(3.48)で、尤度は(3.10)で与えられているので、ベイズの公式に則って計算するだけです。
例によって求める値は確率分布なので、正規化係数は脇においておきます。

正規分布の総乗について、これが行列で表現できる事実は良く使います。

\prod_{n=1}^{N}{\mathcal N}(t_n|{\bf w}^{\mathrm T} {\bm \phi}({\bf x}_n), \beta^{-1}) = {\mathcal N}({\bm t}|{\bf \Phi}{\bf w}, \beta^{-1} {\bf I})

総乗はi.i.d.なターゲット t_1, \dots , t_N についての同時独立分布を表すので、それをまとめたベクトル {\bm t} = (t_1, \dots , t_N)^{\mathrm T} が起こる確率となります。ピンと来ない人は1.2.4節などを復習してみてください。

prml exercise solution 3.7