演習問題 2.60

演習2.60の解答です。

ヒストグラム的な確率密度分布モデルにおいて、ある i 番目の領域(Bin)の密度が一定値 h_i となるような分布を考える時、N個のサンプルの観測から、そのそれぞれの h_i の値を最尤推定する問題。

問題の意味が分かりにくいかもしれませんが、ノンパラメトリック法でも最尤推定の手順はパラメトリック法と変わりません。パラメトリック法の際に最尤推定したパラメータ(例えば\muとか\sigmaとか)を求めるのと同様、今回はパラメータがインデックスで表されるパラメータ群 h_i になっていると考えてください。

この問題の難しいところは、自分で j(n) という変数を考案しなければいけないところです。その j(n) がラグランジュの式の微分で消えるところまで先読みしないと難しいでしょう。ヒントなしでは無理だと思います。

答えのインデックスが i ではなく k になっていますが、すでにラグランジュの式の中に i があったため、別のインデックス記号として k を用いただけです。ラグランジュの式のインデックスを k に変えて、微分する変数を h_i としても意味は同じです。念のため。

prml exercise solution 2.60