パーセプトロン[5]の拡張としての多層パーセプトロンは、 Rumelhart らが誤差逆伝搬学習法[6,7]と呼ばれるネットワー クのパラメータを推定するためのアルゴリズムを提案して以来、パターン認識 や制御などのさまざまな問題に適用され、いくつかの問題で実際に役立つよう になってきた。また、理論的には、ネットワークの能力、学習アルゴリズムの 高速化、多変量データ解析との関係、汎化能力の高いネットワークを構成する ための方法などに関する多くの知見が得られている。
以下では、まず、多層パーセプトロンの原形である単純パーセプトロンについ て簡単に説明し、その拡張としての多層パーセプトロンがどんなモデルかを説 明し、その能力に関する理論的な結果について紹介する。