パターン分類を行う階層形ニューラルネットワークにおける活性化関数の比較

概要

論文の詳細を見る
多周波信号の分類を行う階層形ニュ-ラルネットワ-クにおける活性化関数の特性について議論する。経験則に基づいた単体の活性化関数またはその組み合わせのの選択法を提案する。活性化関数として、シグモイド関数、ラジアル基底関数、周期関数を取り上げる。これらの関数はそれぞれ独自の空間分離特性を持っている。各関数の単体、またはその組み合わせの特性をその内部表現を用いて解析した。つまり、多周波信号にノイズを加えた場合と加えない場合のおける隠れユニットの入出力分布およびその分類率及び、結合係数の解析である。シグモイド関数は隠れユニットが1個のときには有効でない。それに対して、周期関数、ラジアル基底関数は隠れユニットが1個の場合にも有効であった。隠れユニットを複数個用いた場合にはシグモイド関数は有効である。しかし、学習の収束速度は他の2個に比べて遅い。ラジアル基底関数は雑音の加わらない場合に有効である。一方、周期関数は雑音が加わった場合に有効である。これらの組み合わせと個々の特性には明確な相関はないが、それぞれの特性は残っており、最適な活性化関数の選択性の可能性がある。関数の選択は問題の特性に依存している。
社団法人電子情報通信学会の論文
1994-03-25

パターン分類を行う階層形ニューラルネットワークにおける活性化関数の比較

スポンサーリンク

概要

著者

関連論文

スポンサーリンク