近年、パターン認識の分野でもニューラルネットが盛んに利用されるようになっ てきた。それは、ひとつには多層パーセプトロンの学習法として考案された誤 差逆伝播法が、良い識別性能を持つ識別器を学習データから比較的簡単に構成 できる効果的な学習法であることが認識されるようになったためである。
ニューラルネットはその構造から、図 1 (a) のような階層的な ネットワークと図 1 (b) のような相互結合のある非階層的なネッ トワークに分類して考えることができる。階層型ネットワークは、図 1 (a) のように、ユニットが複数の階層をなすようにならび、 入力層から出力層へ向かう一方向の結合のみが許されるネットワークである。 現在、最もよく使われている多層パーセプトロンは、このタイプのネットワー クの代表例である。多層パーセプトロン以外では、Radial Basis Function (RBF) ネットワークなども階層型ニューラルネットと考えることができる。階 層型のネットワークでは、通常、各ユニットの出力がそのユニットへの入力の みによって決まる。そのため、静的ネットワークと呼ばれることもある。一方、 相互結合ネットワークは、図 1 (b) のように、任意のふたつの ユニット間に双方向の結合を許すようなネットワークである。その代表例は、 Hopfieldのネットワーク[8,9]と Boltzmann Machine [10,11,12] である。これらのネットワークは、ユ ニットの入出力関係が微分方程式により記述されるので、動的ネットワークと 呼ばれることもある。
以下では、多層パーセプトロンと Radial Basis Function (RBF) ネットワー クに関連する話題について、特に、統計的パターン認識の観点から概説する。
