鴨川η

not δ

PRML演習9.8

本題

負担率を固定した際に,式(9.40)を \(\boldsymbol{\mu_{k}}\) について最大化しようとすると式(9.17)で与えられる陽な解が得られることを示す.

式(9.40)を \(\boldsymbol{\mu_{k}}\) で微分する. 式(9.16)を)参考.

\begin{eqnarray} \frac{\partial}{\partial \mu_k} E_\boldsymbol{z} [\boldsymbol{X},\boldsymbol{Z}|\boldsymbol{\mu},\boldsymbol{\Sigma},\boldsymbol{\pi}] &=& \sum_{n=1}^{N} \gamma(z_{zk}) \boldsymbol{\Sigma_k^{-1}}(\boldsymbol{x_n}-\boldsymbol{\mu_k}) \end{eqnarray}

微分した式を0とおいて, \(\mu_k\) について求める.

\begin{eqnarray} \sum_{n=1}^{N} \gamma(z_{zk}) \boldsymbol{\Sigma_k^{-1}}(\boldsymbol{x_n}-\boldsymbol{\mu_k}) &=& 0 \\ \sum_{n=1}^{N} \gamma(z_{zk})(\boldsymbol{x_n}-\boldsymbol{\mu_k}) &=& 0 \\ \sum_{n=1}^{N} \gamma(z_{zk})\boldsymbol{\mu_k} &=& \sum_{n=1}^{N} \gamma(z_{zk}) \boldsymbol{x_n} \\ \boldsymbol{\mu_k} &=& \frac{1}{\sum_{n=1}^{N} \gamma(z_{zk})}\sum_{n=1}^{N} \gamma(z_{zk}) \boldsymbol{x_n} \end{eqnarray}

以上から式(9.17)が得られた.

所感

公式の答えは上巻のガウス分布の式を使っていますので,私の解答はちょっとやりかたが違ってるかもしれません.