ニューラルネットワークに対するSSVM公式による準ニュートン法学習アルゴリズム

カテゴリ: 部門大会

論文No: OS3-2

グループ名: 【C】平成14年電気学会電子・情報・システム部門大会講演論文集

発行日: 2002/09/02

タイトル(英語): Quasi-Newton Learning Algorithm using SSVM Method for Neural Networks

著者名: 小林 容子(テプコシステムズ),相吉英太郎 (慶應義塾大学)

著者名(英語): Yoko Kobayashi(TEPCO SYSTEMS CORPORATION),Eitaro Aiyoshi(Keio University)

キーワード: ニューラルネットワーク|準ニュートン法|Neural Networks|Quasi-Newton Method|SSVM Method

要約(日本語): 階層構造型のニューラルネットワークを工学的応用問題に適用する場合，ニューロン間の結合係数の更新に大規模な学習が必要なことや，入力と出力の関係に強い非線形性が存在することがネックになりやすい．こうした問題に対して有効な学習アルゴリズムとして，SSVM（Self-Scaling Variable Metric）公式による準ニュートン法を適用した．本論文では，ニューロン間の結合係数に関する出力誤差関数の勾配計算には，バックプロパゲーション法で用いる勾配計算方式を用い，それらの結合係数の更新には，代表的ないくつかの学習アルゴリズムを適用してベンチマーク計算を行った．その結果，非線形性の非常に強い問題に対して，SSVM公式による準ニュートン法が非常に有効であることがわかった．

PDFファイルサイズ: 575 Kバイト