ニューラルネットワークにおける非線形入力関数と活性化関数の同時学習法

スポンサーリンク

概要

論文の詳細を見る
ニューラルネットワークでは、回路構造、結合荷重、活性化関数を最適化することにより、最小規模のネットワークで所望の機能を実現することが望ましい。活性化関数の学習に関して、1個の活性化関数を複数の基本関数の線形和で表現し、そのパラメータを結合荷重と同時に学習する方法が提案されている。この方法では、ユニットの入力ポテンシャルが各入力の線形和であり、この線形和に対してユニット出力が同一値となるという制約がある。本稿では、入出力関数の自由度を高めるために、ユニットの入力部を高次多項式により非線形化する方法を提案する。上記の活性化関数の学習と同時にこの入力非線形関数の学習も行うことにより、複雑な分類問題に対応できるニューラルネットワークの自動最適化可能となる。いくつかの分類問題に対するシミュレーション実験により、学習の収束特性が向上することや、ネットワーク規模が小さくできることが確認された。
社団法人電子情報通信学会の論文
1999-05-20

著者

関連論文

もっと見る

スポンサーリンク