畳み込みニューラルネットワークにおける重みカーネルの分布に基づいた層ごとの最適なプルーニング

カテゴリ: 全国大会

論文No: 3-084

グループ名: 【全国大会】令和2年電気学会全国大会論文集

発行日: 2020/03/01

タイトル(英語): Optimal layer-by-layer Pruning based on Distributions of Weight Kernels in Convolutional Neural Networks

著者名: 五十嵐碧（東京都市大学）,瀬戸謙修（東京都市大学）

著者名(英語): Aoi Igarashi (Tokyo City University),Kenshu Seto (Tokyo City University)

キーワード: 畳み込みニューラルネットワーク|機械学習|プルーニング|タタミコミニューラルネットワーク|キカイガクシュウ|プルーニング

要約(日本語): 畳み込みニューラルネットワーク(CNN)の多層化が認識精度の向上に貢献しているが，同時に演算量が大幅に増加してしまうため，処理速度の低下や消費電力の増加が課題となっている。 CNNの演算量を削減する手法の一つにプルーニング(枝刈り)が挙げられる。 畳み込み層の重みフィルタの中で値が小さいもの、すなわち出力への影響が小さい重みをゼロにすることで計算量の削減と高速化が可能となる。 本研究では、各層の重みフィルタの削減率を重みのヒストグラムによる分布から探索し、ネットワークに応じた適切な削減率を決定する手法を提案する。 CIFAR10を使用した画像認識の実験では，パラメータ数をVGGで最大95%，ResNetで最大70％，MobileNetでは最大90%削減しても精度を80％以上に保つことができた．

本誌掲載ページ: 120-122 p

原稿種別: 日本語