SOMで表現される集合の持つ構造

わたしたちは,単なるニューラルネット,すなわち学習機械としてのSOMを研究しようと言うわけではない(もちろんわたしたちにとってSOMは扱いやすい多様体学習機械のひとつにすぎず,SOMでなければならないという強い制約はない.しかしそれは本題ではない).
SOM2,すなわち "SOM of SOMs" は,「SOMを用いて表現しうる,ある構造を持ったものの集合」が存在し,その部分集合の持つ上位の構造を機械学習しようというものである.従来のSOM が扱う対象は数ベクトルの集合であった.すなわち実数を体とするベクトル集合が操作の対象であった.ではSOM2が扱う対象は何なのか.ベクトル空間を作 るのか.計量は定義されうるのか.(SOM2アルゴリズムは,それが計量空間を作ることを前提としている.仮に計量は存在するとしても,適切な計量が何 なのかは未解決の問題である).実はそうした多くのことがわかっていない.

「学習されるもの(データ)」の構造は従来の幾何において述べ られてきた.一方,「学習するもの(学習機械)」の構造は情報幾何において研究されてきた.二つの世界を行き来するのが機械学習アルゴリズムである.しかしSOM2の考え方は,それぞれの世界の役割を変えてしまう.学習するものが学習されるものに変わる.学習するものの幾何構造が学習されるものの幾何構造になる.脳の持つ優れた情報処理能力(情報生成能力とすら言いたくなる)もまた,同じところに源を発しているのではなかろうか.

以上 は,きわめていいかげんな記述であり,用語の使い方を含めてまったく厳密さに欠く.(もし厳密に言えるのであれば,すでに問題が解決していると言ってよいだろう).またこのような抽象的な数学に立脚して研究を進めているわけでもない(特に学生にとっては,最小限の数学でできるテーマにしないと大変!).しかし研究を駆動している源(のひとつ)はこのようなあたりにあると言っていい.
広告を非表示にする