探索領域限定学習法と非探索領域の改良

概要

論文の詳細を見る
階層型ニューラルネットワークの学習問題への応用を主な目的とする"探索領域限定学習法"を提案する.本学習法は,目的関数とそのこう配のリプシッツ定数が利用可能である学習(最適化)問題に対して,明らかに最適解が存在しない領域("非探索領域"と呼ぶ)を求め,これを探索の対象外とする学習アルゴリズムである.非探索領域は,目的関数の下界が収束判定値より大きな領域として求められる.本論文では,まず,従来の下界を改良する手法を与え,新たな下界のクラスを導いている.更に,これらの下界が与える非探索領域の中で最大となる"極大非探索領域"を導出している.次に探索領域限定学習法として二つのアルゴリズムを提案している.1番目のアルゴリズムは,従来困難とされてきた「開球の和集合による多次元領域の被覆判定」問題に対する具体的算法を与えることによって構成され,探索点列が大域的(γ+γ′)-最適解に収束することを保証する.2番目のアルゴリズムは,1番目のアルゴリズムの簡略化であり,非探索領域を飛び越すようにステップサイズを調整する最急降下型のアルゴリズムとなっている.最後に,提案する二つのアルゴリズムにより,従来のアルゴリズムに比ベて良好な結果が得られることを数値例によって示している.
1994-09-25

探索領域限定学習法と非探索領域の改良

スポンサーリンク

概要

著者

関連論文

スポンサーリンク