ニューラルネットワークのL1正則化における進化型多目的最適化適用に関する検討

カテゴリ: 研究会(論文単位)

論文No: ST18088

グループ名: 【C】電子・情報・システム部門 システム研究会

発行日: 2018/09/27

タイトル(英語): EMO for the L1-normalization of Neural Networks

著者名: 北橋 未先(近畿大学),半田 久志(近畿大学)

著者名(英語): Misaki Kitahashi(Kindai University),Hisashi Handa(Kindai University)

キーワード: 進化型多目的最適化|ＭＯＥＡ／Ｄ|畳み込みニューラルネットワーク|Ｌ１正則化|EMO|MOEA/D|CNN|L1-normalization

要約(日本語): 本稿では、ニューラルネットワークのL１正則化の進化的アプローチについて検討する。本稿では、MOEA/Dの子個体生成を勾配降下法に置き換えたアルゴリズムを用いる。問題の目的を「本来の目的関数」と「パラメータのL1ノルム」の2つとすることで多目的最適化問題とみなし、MOEA/Dを適応して幅広い解集団を導出する。いくつかの方法で実験を行い、その比較と進化的アプローチの有用性について検討する。

要約(英語): In this presentation, we discuss an evolutionary multi-objective optimization approach for the L1-normalization of Neural Networks. We devise an algorithm of a mutant of MOEA/D whose reproduction is replaced with the gradient search. That is, the objective function of L1-normalization is divided into two objective functions: the cost function and L1-norm of parameters. Populated search by using MOEA/D realizes the global search capability.

原稿種別: 日本語

PDFファイルサイズ: 1,208 Kバイト