多層パーセプトロンの特異領域を利用した探索法
スポンサーリンク
概要
- 論文の詳細を見る
多層パーセプトロンの探索空間には,隠れユニット数が一つ少ないモデルの最適解と等価な出力を出すパラメータ領域が特異領域を形成し,学習(探索)の停滞を招くため,回避や脱出を可能とする方法が模索されてきた.本稿では,その特異領域を避けるのではなく,逆に積極的に利用して,多層パーセプトロンの探索空間に多数存在する局所解の中から,与えられた隠れユニット数にふさわしい良質の解を得る探索法を提案し,シグモイド型,指数型の両モデルにおいて,人工データ,実データを用いて提案法の有効性を調べる.
- 社団法人電子情報通信学会の論文
- 2010-12-12
著者
関連論文
- 原始初期点を初期値とする変分ベイズ法に関する一考察
- 交差検証誤差最小化によるSV回帰ハイパーパラメータ最適化の高速化
- クラスタリングを用いた強化学習システムIPMBNの環境変化への適応について(ニューラルネットワーク画像復元及び一般)
- BN混合モデルを用いたオンライン型方策改善システムの動的環境への適応(ベイジアンネット2 : ポスターセッション)
- 正解ニッチェ表現をめぐるルール間生存競争
- 迷路問題におけるXCSの強化学習能力評価 (人工知能基礎論研究会(第53回)特集「シナリオ創発の科学へ向けて」および一般演題) -- (セッション(1)知識発見と学習)
- カーネルマシンにおける勾配方向への2次元パス追跡法
- 次数分布に基づく事前情報を用いた複雑ネットワークのクラスタリング
- 原始初期点とSubsamplingを用いたEM初期値生成法
- Loopy-BPにおける計算速度向上のためのネットワーク構造簡略化(ニューラルネットワーク画像復元及び一般)
- 多層パーセプトロンの特異領域を利用した探索法
- 多層パーセプトロンの特異領域を利用した探索法
- 多層パーセプトロンにおける固有ベクトル降下法と直線探索 (ニューロコンピューティング)
- 固有ベクトル降下法と可約性写像を用いた複素多層パーセプトロン探索法
- 多層パーセプトロンにおける固有ベクトル降下法と直線探索
- 複素BFGS法を用いた複素ニューラルネットワークの学習法(バイオサイバネティックス,ニューロコンピューティング,学生論文特集秀逸論文,学生論文)
- 多層パーセプトロンにおける固有ベクトル降下法と直線探索
- 特異領域を活用した多層パーセプトロン探索法
- 特異領域を利用した多層パーセプトロン探索法の探索枝刈り(バイオサイバネティックス,ニューロコンピューティング)
- 特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択
- 特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択