非零対角成分をもつ相互結合形ニューラルネットワークの収束性の解析

概要

論文の詳細を見る
結合行列に非零対角成分を許容し, 対角項操作を行った相互結合形ニューラルネットワーク(RNN)は, 従来の零化対角項のモデルよりも少ない探索回数で, 組合せ最適化問題の最適解を検出できる. しかし, 対角項操作によって最適解の収束確率が向上する理由については, 十分な解析はなされていない. 本論文では, 対角項操作と最適解の収束確率との関係について, 引込み領域と安定性の二つの観点から理論的に解析する. 解析手法としては, 固有値解析と頂点安定性解析を利用する. 固有値解析では, 固有超平面の移動に着目する. また, 頂点安定性の解析では, 安定性を定量的に示す指標として, 頂点安定率を導出する. これらの解析から, 対角項操作によって, 固有超平面が中点(状態空間中心)の上りエネルギーこう配側に移動し, 下りこう配側に存在する頂点への引込み領域が拡大すること, また, 頂点安定率の単調減少性によって, 全頂点が安定状態から不安定状態へ不連続的に移行することがわかった. この結果, 対角項操作による最適解への収束確率の増大が, 非最適な頂点の引込み領域の減少と安定性の喪失に起因することが明らかになった. しかし, 最終的に引込み領域を最大にする頂点が, 必ずしも最適解と一致しないこと, また, 対角項の上昇により"最後まで安定な頂点"である最安定解が, 必ずしも最適解には一致しないことも判明した. これらの解析結果は, 5都市の巡回セールスマン問題の計算機シミュレーションにより検証された.
社団法人電子情報通信学会の論文
1997-10-25

非零対角成分をもつ相互結合形ニューラルネットワークの収束性の解析

スポンサーリンク

概要

著者

関連論文

スポンサーリンク