GTMとBN

ビショップのGTMについて昨年からずっと取り組んでいて,何かひっかかるものがある.SOMは理論的にすっきりこないのに,なぜかうまくいくところがある.すっきりこないところに何かタネがある.GTMは,何か大事なことを忘れている気がする.なんとなく(おぼろながら)わかってきた気がしつつも,はっきりは捉え切れていない.ひとつめは,SOMの近傍関数に相当する概念がないこと,ふたつめは,正則化項に頼りすぎているのに,正則化項が期待通りに働かないように思えること.

ふと,Bayesian Networkの考え方を取り入れたらどうなるだろうかと思いついた.案外いけるかもしれない.