複素バックプロパゲーション・ネットワークにおける重みパラメータと決定表面の構造
スポンサーリンク
概要
- 論文の詳細を見る
近年,階層型ニューラルネットワークの学習方式として提案されたバックプロパゲーション学習アルゴリズム(BP)が注目され,様々な分野に応用されている.複素パターンに対する学習アルゴリズムとして提案された複素BPは,その学習パラメータがすべて複素数となっており,実数値を用いる通常のBPを複素数に拡張したものであると言える.複素BPには,従来のBPには見られない2次元運動学習能力が備わっていることは既に報告した.本稿では,ネットワークアーキテクチャの観点から,複素BPの基本特性を解析的,実験的に調べ,従来のBPとの差異を明確にしたので報告する.得られた主要な結果は,次のとおりである(1)複素BPネットワークにおける重み係数は,従来のBPネットワークにおけるそれとは異なり,2次元運動に関係した制約を持っており,学習は基本的にその制約を保ちつつ行われる.(2)複素ニューロンの実部の決定表面と虚部の決定表面とは互いに直交しており,決定領域を均等に4つに分割する3層の複素BPネットワークにおける決定表面は基本的にこの構造を内包しており,中間ニューロンヘの総入力が十分大きいときに直交する.この意味で,複素BPは複素パターンに対する自然な学習アルゴリズムであると思われる・これらの特性は意図されたものではなく,複素数への拡張の結果として自ずと現れてきたものであることに注意されたい.
- 一般社団法人情報処理学会の論文
- 1992-11-15
著者
-
赤穂 昭太郎
電子技術総合研究所
-
秋山 泰
電子技術総合研究所情報アーキテクチャ部計算機構研究室
-
古谷 立美
電子技術総合研究所電子計算機部計算機方式研究室
-
新田 徹
電子技術総合研究所
-
古谷 立美
電子技術総合研究所情報アーキテクチャ部計算機構研究室
-
古谷 立美
電総研
-
赤穂 昭太郎
電子技術総合研究所情報科学部情報数理研究室
-
古谷 立美
電子技術総合研究所
-
新田 徹
電総研
関連論文
- IT野ニューロン集団の時間相関を取り入れたクラスタリング
- 29pXH-7 側頭葉の顔応答ニューロンの混合正規分布解析(29pXH ニューラルネットワーク(神経系のモデルを含む),領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 頑健なヤコビ核主成分分析に向けて(テーマ関連セッション5,コンピュータビジョンとパターン認識のための学習理論)
- 頑健なヤコビ核主成分分析に向けて(テーマ関連セッション5)
- 主成分曲線のあてはめによる放射対称歪曲の較正(一般セッション1,移動カメラ画像処理におけるパターン認識とメディア理解)
- 超球面を射影したヒルベルト空間における超平面あてはめ(テーマセッション,CV・パターン認識のための学習・最適化)
- 入力空間での計量に基づいた核主成分分析(一般セッション2,アンビエント環境知能)
- コンピュータとの対話におけるユーザの振舞いの解析
- 頑健なヤコビ核主成分分析を用いた部分空間あてはめ
- 極射影平面を利用した放射対称歪曲の較正(一般,顔・人物・ジェスチャ・行動)
- 並列構造記述モデルとそれを実現する高水準並列計算機
- 極射影平面を利用した放射対称歪曲の較正(一般,顔・人物・ジェスチャ・行動)
- カスタム価格設定推薦システム : 簡単な実装と予備実験(一般講演(モデルとデータの統合),機械学習とその応用)
- アナログニューラルネットによる最適化問題の効率的な解法
- ホップフィールド型ニューラルネットのコスト係数の制御
- ホップフィールド型ニューラルネットによる最適化問題の効率的な解法
- "進化するハードウェア"による有限オートマトンの学習
- ホップフィールド型ニューラルネットワークにおけるコスト係数の制御
- フィードバック付き多層ニューラルネットワーク
- しきい値動的制御法による巡回セールスマン問題の解法
- フィードバック付き多層ニューラルネットワーク
- 身振りと発話のマルチモーダルデータベース
- 並列連想プロセッサIXM2
- 意味記憶システムIX : 意味ネットマシンIXM2によるword disambiguationの実験
- クラスタ例からの学習 : クラスタ属性の利用
- 複素バックプロパゲーション学習アルゴリズムの学習特性
- 複素バックプロパゲーション・ネットワークにおける重みパラメータと決定表面の構造
- 非負値生産関数を持つ資源配分モデルの解析
- 複素バックプロパゲーション学習
- 入出力関数の傾きとバイアス値の動的な調整による局所安定点回避効果
- 複素バックプロパゲーション学習
- シミュレーテッドアニーリング法を用いたRNA二次構造予測
- メモリネットワーク : 大規模ニューラルネットワークのハードウェア化法
- μBRAIN : コネクショニストAIシステム : 状態ユニットを持ったニューラルネットワークによる時系列情報の処理
- NFS : ニューラルネットワークを用いたファジィ推論システム
- ニューラルネットワークを実現するメモリネットワーク
- μBRAIN : 知能体実現のための構造化ニューラルネットワーク
- NFS : ニューラルネットワークを用いたファジィ推論システム
- バックプロパゲーションアルゴリズムの学習能力
- 応用指向メモリ (メモリ)
- マイクロプロセッサ(PULCE)におけるマイクロ命令の静的使用特性
- モジュール型複合計算機 (ACE) の試み(分散処理)
- マイクロプロセッサア-キテクチャの一設計
- ETL[電子技術総合研究所]マイクロ処理ユニットのア-キテクチャ (マイクロコンピュ-タ)
- C.mmp マルチ・ミニ・プロセッサについて
- マルチプロセッサシステム用相互排斥モジュールの一設計
- 教師付き独立成分分析の提案とその顔画像分析への応用について
- EM法を用いた複数情報源からの概念獲得
- EM法を用いた複数情報源からの概念獲得
- 半定値計画緩和による多項式コスト関数の大域的最適化(IBIS2010(情報論的学習理論ワークショップ))
- 学習による不特定環境下の顔の追跡と向きの推定
- 幾何学的最適化法による独立成分分析
- 等質空間上の幾何学的最適化法
- 変分ベイズ法による混合指数型分布を用いたクラスタリング法(一般(ベイズ法など),脳インタフェースの技術と応用,一般)
- 情報幾何に基づく混合分布パラメータの次元縮小法
- 連続値ボルツマンマシンの分岐現象の解析
- EM アルゴリズムの幾何学
- ニューロコンピューティングと情報論的学習理論 (特集 情報論的学習理論--機械学習のさまざまな形)
- 研究詳解 指数型分布族の空間におけるデータ解析法について (特集「統計的機械学習」)
- 超球面上における小超球面あてはめとカルヒャー平均(一般セッション,光と色の解析・表現とその応用)
- 入力空間での計量に基づいた核主成分分析(一般セッション2,アンビエント環境知能)
- 入力空間での計量に基づいた核主成分分析(一般セッション2)
- Progressive Contrastive Divergence法
- 参加システムの嗜好パターンが異なる場合の集団協調フィルタリング (「プリファレンスモデリングと推薦システム」及び一般)
- D-2-23 幾何学的最適化法による独立成分分析
- 魚眼レンズを用いた眼球運動に伴う網膜画像獲得システムの試作
- マルチモーダル独立成分分析 : 複数情報源からの共通特徴抽出法(情報論的学習理論論文小特集)
- 教師付き独立成分分析を用いた顔の同定について
- ベイジアンネットの学習の知能システムへの応用
- 回帰大作戦 : 1次元低い超平面あてはめとしての回帰(分類・回帰・クラスタリング,テキスト・Webマイニング,一般)
- 8. 線形と非線形をつなぐサポートベクトルマシン(確率を手なずける秘伝の計算技法-古くて新しい確率・統計モデルのパラダイム-)
- 入力空間でのマージンを最大化するサポートベクタマシン(情報論的学習理論論文小特集)
- 球面カメラのエピポーラ幾何学とその計算(PRMU一般, データ工学とメディア理解との融合)
- 球面カメラのエピポーラ幾何学とその計算(PRMU一般, データ工学とメディア理解との融合)
- 情報幾何と機械学習
- 超球面上の点列への小超球面あてはめ : 球面最小二乗法
- 順序中の欠損対象の補完 (特集:「アクティブマイニング」および一般) -- (セッション4 クラスタリング,応用)
- 球面上の点列への小円あてはめ : カメラ運動の平滑化に向けて(一般セッション(4))(ユビキタスコンピューティングのためのパターン認識・メディア理解,一般)
- 独立成分分析(Independent Component Analysis)
- [チュートリアル講演]カーネルマシン(統計的学習理論及び一般)
- 較生画像における直線度に基づく放射対称歪曲の較正(一般セッション,PRMUのフロンティア・グランドチャレンジ)
- 正規対数尤度の最小二乗誤差推定
- 1次元低い超平面あてはめにおける最適抽出可能性(一般セッション,医用画像処理分野における計測・認識・理解)
- ランダムサンプリングに基づく超曲面あてはめ(一般セッション,医用画像処理分野における計測・認識・理解)
- 1次元低い超平面あてはめにおける最適抽出可能性(一般セッション,医用画像処理分野における計測・認識・理解)
- ランダムサンプリングに基づく超曲面あてはめ(一般セッション,医用画像処理分野における計測・認識・理解)
- ランダムサンプリングに基づく超曲面あてはめ(一般セッション,医用画像処理分野における計測・認識・理解)
- 1次元低い超平面あてはめにおける最適抽出可能性(一般セッション,医用画像処理分野における計測・認識・理解)
- 曲線あてはめにおける特徴空間についての一考察 (マルチメディア・仮想環境基礎)
- 曲線あてはめにおける特徴空間についての一考察 (パターン認識・メディア理解)
- 回帰大作戦 : 1次元低い超平面あてはめとしての回帰
- 名著復刻シリーズ, 符号理論, 宮川洋, 岩垂好裕, 今井秀樹(共著), "名著復刻シリーズ符号理論", (社)電子情報通信学会(2001-10), A5判, 定価(本体3,000円+税)
- D-4-1 順序列からの学習 : 潜在変数モデルによるランク付け
- サポートベクターマシンって何?(アイ・サイ問答教室)(「人間を内部に含んだ系のモデリングと設計特集号」)
- EMアルゴリズム : クラスタリングへの適用と最近の発展
- ECM法を用いた確率分布の位置,尺度,回転パラメータの推定法
- 統計的推論とAIの推論 (AIの手法と周辺の基礎理論)
- 多層パーセプトロンの学習における中間層に付加したノイズの影響とネットワークの構造化
- 独立なノイズの付加による多層パーセプトロンの構造化学習
- 神経回路網におけるスパース化と記憶容量について(基研研究会「非可逆な多体系への統計物理及びその周辺分野からのアプローチ」報告,研究会報告)