リカレントニューラルネットワークの確率的記憶容量
スポンサーリンク
概要
- 論文の詳細を見る
本論文においては、リカレントニューラルネットワーク (RNN) で連想記憶を行う場合の記憶容量の上限に関する検討を行う。自己結合を持たないRNNを連想記憶に用いる際、あるパターンセットが記憶可能かどうかはパターンの組み合わせに依存する。そこで本研究においては確率的記憶容量という概念を導入し、"与えられた数のランダムパターンを平衡状態に記憶することができる確率" によりRNNの記憶容量を評価することを考える。次に確率的記憶容量を算出するために線形計画法を適用する方法について述べる。さらに、いくつかのユニット数に関して実際に算出した確率的記憶容量を示し、ユニット数が大きい場合も含めてその性質を評価する。
- 社団法人電子情報通信学会の論文
- 1996-05-24
著者
関連論文
- 畳み込み混合過程の伝達遅延に基づくBSSの信号源分離性能解析(ブロードバンド無線アクセス技術,無線信号処理,無線通信,一般)
- フィードフォワード形およびフィードバック形ブラインド信号源分離における信号分離および信号歪の解析(適応信号処理・音響信号処理, 信号処理, LSI, 及び一般)
- 2.画像領域分割の確率モデルと脳の視覚情報処理(ビジョンコンピューティングにおける確率的情報処理の展開)
- FFT方式のGPSにおける搬送周波数変動に対する相関計算の高速化(ディジタル信号処理,スペクトル拡散及び一般)
- 1-325 卒業生による達成度評価 : アンケート結果の年次推移((14)教育評価・自己点検・評価システム-V)
- 階層形ニューラルネットワークを用いた顔画像の階調度変換の検討
- 太さが一様でない線分パターンから骨格構造を抽出する重み付き競合学習法
- 多価関数を近似するフィードバック付き階層形ニューラルネットワーク
- FFT形GPSの相関計算における雑音抑制法の改善(画像信号処理及び一般)
- FFT形GPSの相関計算における雑音抑制法の改善(画像信号処理及び一般)
- 20aEA-1 領域ベースの隠れ変数を用いた画像の分割と修復(20aEA 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- パーシャルアニーリングの統計力学 : 相互作用がメキシカンハット型の場合(ハードウェア(2),ニューロハードウェア,一般)
- 22pVC-6 メキシカンハット型相互作用が時間変化する系のレプリカ解析II(22pVC 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 25pRJ-14 シナプス荷重が時間変化するニューラルネットワークモデルの定常状態の解析III(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 26pTE-7 メキシカンハット型相互作用が時間変化する系のレプリカ解析(ニューラルネットワーク,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aTL-8 シナプス荷重が時間変化するニューラルネットワークモデルの定常状態の解析II(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aTL-10 ソーラス符号のパーシャルアニーリング(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aWA-4 確率的フィルタリングを用いたアンサンブル学習の統計力学(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- シフトキーイング信号に対するニューラル復調器の構成
- PARAMETER ESTIMATION OF RBF NETWORKS FOR PATTERN CLASSIFICATION AND PDF ESTIMATION
- 領域ベースの隠れ変数と確率伝搬法を用いた画像領域分割(IBIS2010(情報論的学習理論ワークショップ))
- FFT方式のGPSにおける搬送周波数変動に対する相関計算の高速化(ディジタル信号処理,スペクトル拡散及び一般)
- A-4-22 ロバストな高速 RLS アルゴリズムにおける分布関数近似と収束性の関係
- (34)金沢大学電気・情報工学科における情報教育について(第10セッション 教育システム(V))
- 縦続相関アルゴリズムにおける重みの不要成長を避ける正則化法
- A distortion-free learning algorithm for feedforward multi-channel blind source separation
- FFTと階層形ニューラルネットワークによるブレイン・コンピュータ・インタフェイス : 特徴抽出と汎化能力の向上について(信号処理,LSI,及び一般)
- FFTと階層形ニューラルネットワークによるブレイン・コンピュータ・インタフェイス : 特徴抽出と汎化能力の向上について(信号処理,LSI,及び一般)
- FFTと階層形ニューラルネットワークによるブレイン・コンピュータ・インタフェイス : 特徴抽出と汎化能力の向上について(信号処理,LSI,及び一般)
- 反響音を有する畳み込み形混合過程に対するブラインドソースセパレーションの学習法
- 非線形混合過程に対する縦続形BSSの学習法の改善と分離特性の解析(ブロードバンド無線アクセス技術,無線信号処理,無線通信,一般)
- 非線形混合過程に対する縦続形BSSの学習法の改善と分離特性の解析(ブロードバンド無線アクセス技術,無線信号処理,無線通信,一般)
- 畳み込み混合過程の伝達遅延に基づくBSSの信号源分離性能解析(ブロードバンド無線アクセス技術,無線信号処理,無線通信,一般)
- フィードバック形オーバーコンプリートBSSにおける学習法の検討(システムLSIの応用と要素技術,専用プロセッサ,プロセッサ,DSP,画像処理技術,及び一般)
- フィードバック形オーバーコンプリートBSSにおける学習法の検討(システムLSIの応用と要素技術,専用プロセッサ,プロセッサ,DSP,画像処理技術,及び一般)
- フィードバック形オーバーコンプリートBSSにおける学習法の検討(システムLSIの応用と要素技術,専用プロセッサ,プロセッサ,DSP,画像処理技術,及び一般)
- フィードバック形オーバーコンプリートBSSにおける学習法の検討(システムLSIの応用と要素技術,専用プロセッサ,プロセッサ,DSP,画像処理技術,及び一般)
- A-4-35 オーバーコンプリート形BSSのフィードバック形構成における歪み低減法(A-4.信号処理,一般講演)
- A-4-34 畳み込み形BSSにおける伝達関数の遅延差による影響(A-4.信号処理,一般講演)
- A-4-21 スペクトルサプレッション法における雑音スペクトル推定の改善(A-4.信号処理,一般講演)
- 多チャネル信号源と畳み込み混合に対するフィードフォワード形BSSにおける信号歪み抑制形学習法(音響信号処理/一般)
- 多チャネル信号源と畳み込み混合に対するフィードフォワード形BSSにおける信号歪み抑制形学習法(音響信号処理/一般)
- オーバーコンプリート・ブラインド信号源分離のフィードバック形構成とその学習アルゴリズム(画像信号処理及び一般)
- オーバーコンプリート・ブラインド信号源分離のフィードバック形構成とその学習アルゴリズム(画像信号処理及び一般)
- オーバーコンプリート形ブラインド信号源分離の構成法と学習法(信号処理, 符号化とそれらを用いた知的マルチメディアシステム, 一般)
- オーバーコンプリート形ブラインド信号源分離の構成法と学習法(信号処理, 符号化とそれらを用いた知的マルチメディアシステム, 一般)
- オーバーコンプリート形ブラインド信号源分離の構成法と学習法(信号処理, 符号化とそれらを用いた知的マルチメディアシステム, 一般)
- A-4-17 オーバーコンプリート形ブラインド信号源分離の構成法と学習法(A-4.信号処理,基礎・境界)
- 階層形NNにおける活性化関数の一学習法
- Avoiding Weight-Illgrowth to Improve Generalization : Cascade Correlation Algorithm with Local Regularization
- 予測に基づく最小二乗法における有限精度の分析
- 予測に基づく最小2乗法における有限精度演算誤差の影響
- A Method to Avoid Local Minima in Automatic Optimum Order Assignment for Separate Form IIR Adaptive Filter
- IIRフィルタを用いたシステム推進問題における最適次数の検討
- エコーキャンセラに自動切替え組合せ高速適応アルゴリズムの応用
- システム推定と逆フィルタにおけるIIR適応フィルタの特性
- 相関入力を用いた機械学習に関する統計力学的解析II
- 二段の動的過程を用いた誤り訂正 : レプリカ法による理論解析
- 26pTE-6 側頭葉をモデル化したアトラクターネットワークの双安定性 : パーシャルアニーリングの場合(ニューラルネットワーク,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- オンライン学習の統計力学的解析
- 相関入力を用いた機械学習に関する統計力学的解析
- 周波数領域フィードフォワード形ブラインド信号源分離における信号歪みを抑制する学習法(プロセッサ, DSP, 画像処理技術及び一般)
- 周波数領域フィードフォワード形ブラインド信号源分離における信号歪みを抑制する学習法(プロセッサ, DSP, 画像処理技術及び一般)
- 周波数領域フィードフォワード形ブラインド信号源分離における信号歪みを抑制する学習法(プロセッサ, DSP, 画像処理技術及び一般)
- 周波数領域フィードフォワード形ブラインド信号源分離における信号歪みを抑制する学習法(プロセッサ, DSP, 画像処理技術及び一般)
- フィードフォワード形およびフィードバック形ブラインド信号源分離における信号分離および信号歪の解析(適応信号処理・音響信号処理, 信号処理, LSI, 及び一般)
- フィードフォワード形およびフィードバック形ブラインド信号源分離における信号分離および信号歪の解析(適応信号処理・音響信号処理, 信号処理, LSI, 及び一般)
- A-4-38 反響音を有する混合過程のBSSにおける指数重みステップサイズの効果(A-4. ディジタル信号処理)
- ゲート素子を内蔵する多入力ニューラルネットワークの構成と学習法
- C-6-4 学習時にエラー重みを付加したNNによるNiMH二次電池の残量予測と改良構造の検討(C-6.電子部品・材料)
- スペクトルサプレッション法によるノイズキャンセラの音質改善(音響信号処理/一般)
- スペクトルサプレッション法によるノイズキャンセラの音質改善(音響信号処理/一般)
- 可変ヒステリシスしきい値を用いる非対称ニューラルネットワークにおける記憶容量の限界としきい値の最適化
- 多地点ノイズキャンセラの収束特性に関する検討
- 有色入力信号におけるタップ自動分配帯域分割適応フィルタの特性
- SA-3-5 分割学習法に基づくステレオエコーキャンセラのSIMDマルチプロセッサ実現に適したメモリとタスクの割当(SA-3. エコーキャンセラとその実現)
- 相互結合形NNを用いた形状パターン認識
- 階層形神経回路網と線形信号処理法の信号分類能力の比較
- ゲート素子を内蔵するニューラルネットワークとその学習法
- 汎化能力獲得のためのデータ選択法と学習法
- 基本パーセプトロンの等比学習とその収束条件
- ブロック直交射影アルゴリズムのブロックサイズ最適化
- 対称学習によるパターン分類の収束特性
- 神経学習における正規化LMSアルゴリズムの収束条件
- 基本パーセプトロンの等比学習とその収束条件および雑音特性
- 基本パーセプトロンの等比学習とその収束条件
- リカレントニューラルネットワークの確率的記憶容量
- 遅延素子を用いたリカレントニューラルネットワークによるリミットサイクルの記憶
- 遅延素子を用いたリカレントニューラルネットワークによるリミットサイクルの記憶
- 階層形ニューラルネットワークにおける学習データ選択法
- 階層形ニューラルネットワークによる周波数分析に基づく信号分類 : データ数と計算量が制限された場合
- パターン分類を行う階層形ニューラルネットワークにおける活性化関数の比較
- 前処理を用いたステレオエコーキャンセラの収束解析
- 多段差分形カウンタープロパゲーションニューラルネットワーク
- 28aTD-2 領域ベースの隠れ変数とBPを用いた画像の分割と修復(28aTD 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 不等号条件を考慮した相互結合形NNによる対応付は形状認識
- 22aGA-2 領域ベースの隠れ変数とBPを用いた画像の分割と修復(II)(22aGA 情報統計力学2,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 領域ベースの隠れ変数とビリーフプロパゲーションを用いた画像の修復と領域分割(知的システム,一般)
- スイッチング状態空間モデルと変分ベイズ法を用いた画像の修復と領域分割(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 変分ベイズ法とMCMCを用いた画像の修復と領域分割(ポスターセッション,第14回情報論的学習理論ワークショップ)