概要 | 1.統計神経力学と神経場理論
神経回路網は多数のニューロンを結合した大規模なシステムである。その特性を調べるのに、確率分布を用いてマクロな状態変換の力学を得る。これには、ランダム結合の回路網や、ランダムな記憶パターンを持つ連想記憶モデルなどがある。その力学を調べていくのが統計神経力学であるが、そこには状態遷移をめぐっていわゆる平均場近似がどこまで許されるかという、基本問題に突き当たる。そこから何が得られるのか、その構造を数学的に調べよう。さらに、ニューロンが空間に並んだ場の場合には、これを連続体とみて神経場のダイナミックスを論ずることができる。その数理的な方法について調べ、そこで生ずる多彩なパターン生成のダイナミックスを論ずる。
2.神経パルスの確率構造と情報幾何
ニューロンは確率的な揺らぎを伴い、神経パルスを確率的に発生する。ニューロン集団があるとき、その発生するパルスの確率分布には、各ニューロンの発火頻度の情報のみならず、二つのニューロンの発火の相関、さらに三つ以上のニューロンの高次の相関が含まれている。これを調べるには、確率分布全体からなる多様体の幾何学構造を調べる必要がある。これは情報幾何という体系をなし、不変性の原理のもとで、Fisher情報行列によるリーマン計量と共に、双対構造をなす二つのアファイン接続が導入される。ここでは、情報幾何の入門とその神経パルス解析への応用を述べる。
3.学習神経回路と多様体の特異構造
神経回路網は、その結合の重み(シナプスと呼ぶ)を自動的に変えることで、外部の情報構造に適合するように自己を変えていく。これが学習である。特に多層パーセプトロンと呼ぶ神経回路網を用いて、情報の入出力関係を学習させることができる。そこで、神経回路網の全体を多様体と考えて、その座標系としてシナプスの重みを用いる。これは多様体をなすが、その内部に対称性に由来する特異構造を含む。学習のダイナミックスを論ずるときに、この特異構造がその特性に重要な役割を果たす。これを情報幾何の立場から調べる。さらに、最近話題のスパース信号処理の学習とFinsler幾何についても触れてみたい。 |