ある種のニューラルネットワークにおける平衡点の個数と引き込み領域について
スポンサーリンク
概要
- 論文の詳細を見る
安定平衡点の個数や各安定平衡点の引き込み領域に関する議論は,相互結合型ニューラルネットワーク(以下,ネットワークと略す)を連想記憶に応用する際に非常に重要となる問題である.しかしネットワークの動的振舞いが非常に複雑であるため,これを解明することは難しいと予想される.したがって,引き込み領域などの動的振舞いに関する従来の研究のほとんどが,各要素が1または-1等確率でとる記憶パターンの集合を外積則によって学習したネットワークを統計学的立場から議論しているものである.例えばMcElieceらは,一つの平衡点とのハミング距離がρn以下のすべての状態が1度の更新でその平衡点に収束するようにネットワークを構成しようとするとき,ネットワークに記憶させることのできる平衡点の個数は漸近的に(1-2ρ)^2/4 n/log_e(n)に近付くという結果を統計学的立場から導出している。本稿では,安定平衡点の個数と各平衡点の引き込み領域の関係が厳密な形で記述できるネットワークの一例を示す.我々の与えるネットワークの結合行列は,外積則や一般化逆行列によって構成されるそれとは全く異なる特殊な行列であり,したがって安定平衡点も特殊なものに限られる.それにも関わらず,ある引き込み領域に対する記憶容量(その引き込み領域を持つ平衡点が最大いくつ存在するか)が従来の結果に比べてかなり大きいような場合が存在する。
- 1995-03-27
著者
関連論文
- 凸2次計画問題に対する2段階逐次部分最適化アルゴリズムの実験的評価
- 一般の凸2次計画問題に対する分割法の大域収束性について
- 2次元離散2値セルラニューラルネットワークの安定条件
- 一般化固有値問題に基づくセルラニューラルネットワーク設計法の改良
- A-2-41 頂点数と枝数が固定されたグラフで実現可能なクラスター係数の値について(A-2.非線形問題,一般セッション)
- A-2-18 一般の凸二次計画問題に対する分割法の提案(A-2. 非線形問題,一般セッション)
- 2値ベクトル周期列を出力する区分線形RNNの状態軌道の収束性について
- サポートベクトル回帰のための分割法の大域収束性について
- サポートベクトルマシンとその効率的学習アルゴリズム(チュートリアル2)
- A-2-6 二値パターン周期列を出力する区分線形RNNの状態軌道の収束性 : 素子数が2の場合(A-2.非線形問題,一般講演)
- A-2-38 区分線形リカレントニューラルネットワークで実現可能な二値パターン周期列に関する一考察(A-2.非線形問題,一般講演)
- SVMの分割型学習アルゴリズムにおける変数選択について : 共役勾配法に基づく選択法の提案と実験的評価
- A-2-8 離散時間二値ニューラルネットワークの収束条件(A-2.非線形問題,一般講演)
- 反対称テンプレートを持つ1次元CNNが連結成分検出を行うための十分条件
- サポートベクトル回帰のためのSMOアルゴリズムの収束性解析
- 所望の2値ベクトル周期列を出力する区分線形ニューラルネットワークの設計
- A-2-1 Reducing the Number of Non-zero Coefficients in the Decision Function of an SVM(A-2. 非線形問題, 基礎・境界)
- A-1-37 3個のセルから成るCNNの完全安定性に関する一考察(A-1. 回路とシステム, 基礎・境界)
- サポートベクターマシンの分割型学習アルゴリズムの収束性解析
- A-2-14 非線形回帰問題に対するサポートベクターマシンの分割型学習アルゴリズムの効率化(A-2. 非線形問題)
- ファジーサポートベクターマシンの非線形回帰問題への応用
- A-2-18 CNN に関連する平面力学系の収束性に関する一考察
- ハイブリット型学習による隠れ素子付き連想記憶モデル
- SPICEを利用した制約条件付き最適化問題解法の一方法
- 2個のセルからなる空間不変結合セルラーニューラルネットワークが大域安定であるための必要十分条件
- A-1-15 DCNN に対する二つの完全安定条件の一般化
- トランジスタ回路におけるTadeusiewiczの漸近安定性に関する一考察
- 2個のセルからなるセルラーニューラルネットワークの完全安定性解析
- 結合の対称性が保証されたCNN連想記憶回路設計法
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- 隠れ素子付き相互結合型ネットワークにヘッブ則とBP法を適用した自己連想記憶モデル
- クラスター係数の最大値および極大値に関する考察(一般)
- クラスター係数の最大値および極大値に関する考察(一般)
- 一般の凸2次計画問題に対する分割法の大域収束性について
- 反対称テンプレートを持つ1次元CNNが連結成分検出を行うための十分条件
- 一般化固有値問題に基づくセルラニューラルネットワーク設計法の改良
- 結合の対称性が保証されたCNN連想記憶回路設計法
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- 区分線形出力関数をもつニューラルネットワークの安定性について
- 遅延特性を有するセルラーニューラルネットワークの完全安定性について
- 複数のホップフィールド型ネットワークを用いた連想記憶方式の提案
- 一年間のアメリカ滞在で感じた日本とアメリカの大学の違い
- ある種の巡回形結合行列をもつニューラルネットワークの平衡点の個数と引き込み領域について
- 区分線形特性をもつニューラルネットワークの大域的安定性に関する一考察
- 実係数をもつ多項式の非負値性の判定法
- ある種のニューラルネットワークにおける平衡点の個数と引き込み領域について
- テイパー結合係数をもつ1次元ニューラルネットワークの平衡点の実現について
- AS-1-1 次数保存2辺張り替えに基づくクラスター係数の制御(AS-1.ネットワークダイナミクス研究の展開,シンポジウムセッション)
- ベイズ超解像におけるSIFTを用いたパラメタ推定手法の提案(五感メディアの品質,コミュニケーションデザイン,画像符号化,食メディア,一般)
- ベイズ超解像におけるSIFTを用いたパラメタ推定手法の提案(五感メディアの品質,コミュニケーションデザイン,画像符号化,食メディア,一般)
- グラフラプラシアンの第2固有値を最大にする無向グラフ : 平均次数が2以下の場合
- 線形キャパシタ,多端子抵抗,直流電圧源からなる回路における蓄積エネルギーと消費エネルギーの関係
- 一様なRLGC伝送線路の特性インピーダンスの近似について
- Nonnegative Matrix Factorizationのための修正乗法型更新アルゴリズムとその大域的収束性 : ユークリッド距離最小化の場合
- CNNの安定性に関する一考察
- マルチエージェントネットワークにおける代数的連結度計算のための新しい連続時間アルゴリズム (非線形問題)
- A-2-23 星グラフに辺を加えたグラフの代数的連結度最大性について(A-2.非線形問題,一般セッション)
- D-20-5 非負制約付き凸2次計画問題に対する修正乗法型更新アルゴリズム(D-20.情報論的学習理論と機械学習,一般セッション)
- 2-Switch近傍において最大クラスター係数をもつグラフについて(一般)
- 接地キャパシタを用いたOTA回路の実現
- マルチエージェントネットワークにおける代数的連結度計算のための新しい連続時間アルゴリズム