次へ: パターンごとの最急降下
上へ: パラメータ推定アルゴリズム
戻る: パラメータ推定アルゴリズム
最急降下法は最も簡単な最適化法であり、目的関数の1次微分に関する情報のみを用
いる。更新前のパラメータの推定値を
とすると、最急降下法によるパラメータの更新式は、対数尤度の1次微分
を用いて、
 |
(233) |
で与えられる。ここで、
は更新後のパラメータの推定値である。ま
た、
は、学習率と呼ばれるパラメータであり、降下量を制御するために用
いられる。
Takio Kurita
平成14年7月3日