ベイズ的SOM理解

観測データ集合 D に対して，p(w|D)∝p(D|w)p(w) として w のMAP推定値を求めるのがSOMだとすると，N個のデータ集合 D₁,...,D_Nについて p(V)πp(D_n|w_n)p(w_n|V) = p(D|W,V)p(W|V)p(V) がSOM²　になる．ここで D は D₁,...,D_Nの直和で，WはW₁,...,W_Nの直和．すなわち p(W,V|D)∝p(D|W)p(W|V)p(V) のMAP推定をW,Vについて行うことに相当．1st (child) SOM （すなわちW）と2nd (parent) SOM （すなわちV）の階層性が簡単に表現できる．ここでWとVの直積をUとすれば，P(U|D)∝p(D|W,V)p(W,V)=p(D|U)p(U) となって，直積表現が得られる．

ベイズ的枠組みを使うと，こうした階層構造が簡単に表現できる．