KL変換を実現する3層線形パーセプトロンの教師付き学習則 : Baldi-Hornikの定理の拡張
スポンサーリンク
概要
- 論文の詳細を見る
誤差逆伝搬法による3層パーセプトロンの恒等写像学習能力について, (1) 線形パーセプトロンがKarhunen-Loeve (KL) 変換と等価な変換を実現すること, および (2) シグモイド関数を用いた3層非線形パーセプトロンが線形パーセプトロンの能力を上回らないことが理論的に証明されている. しかし, どちらの場合も中間層素子の重みベクトルが直接KL基底に対応するわけではなく, それらの張る部分空間がKL基底のそれと一致するのみである. そのため, KL変換と異なり誤差減少に対する各成分の寄与の順が定まらず, 各素子が獲得した内部表現の寄与について評価することはできない. 本論文では, 3層線形パーセプトロンの内部表現としてKL変換係数が獲得され, 各中間層素子が寄与の大きいものから順に特徴抽出を行うことを可能にする学習則を提案し, これに対する理論的保証を与える. 更に, 5層非線形パーセプトロンによる恒等写像学習にこの学習則を適用した数値実験によって, 非線形な特徴抽出が必要な場合にも有効であることを提示する.
- 社団法人電子情報通信学会の論文
- 1997-05-25
著者
-
高橋 隆史
龍谷大学理工学部
-
平井 有三
筑波大学電子・情報工学系
-
徳永 隆治
筑波大学システム情報工学研究科
-
徳永 隆治
筑波大学電子・情報工学系
-
徳永 隆治
筑波大
-
平井 有三
筑波大学
-
高橋 隆史
筑波大学電子・情報工学系学振特別研究員(PD)
-
高橋 隆史
筑波大学大学院博士課程工学研究科
関連論文
- 交流成分予測に基づく平均値保存型画像フィルタの改良 : オーバ・アンダシュートに起因するひずみの除去(研究速報)
- 交流成分予測に基づくブロック型無ひずみ画像圧縮方式の構成(研究速報)
- ポリゴンデータ幾何圧縮のための局所変換の実装方式(研究速報)
- 音響信号エンコーダにおける関数テーブルの省メモリ化(研究速報)
- ガボール特徴行列に対するフィッシャー重みマップを用いた顔画像からの表情認識(一般セッション1,文字・文書の認識・理解)
- 連想記憶回路HASPの相互抑制回路の巨視的状態方程式の導出
- 連想記憶回路HASPの記憶容量の解析
- 交流成分予測に基づく平均値保存型画像フィルタの改良 : 1係数族による解析(画像)
- 交流成分予測に基づく平均値保存型画像フィルタの構成(研究速報)
- 視覚の時間特性に関与する網膜内局所回路モデル
- ブロック中心値補正及び直流成分保存型フィルタによる交流成分予測の改良(研究速報)
- 1000ニューロン100万シナプスで構成されたニューラルネットワークハードウェアシステム
- ディジタルニューロチップの開発
- ヒューマンインフォーメーション(画像情報工学)(映像情報メディア年報)
- 最適化問題を解くカオス的力学系の学習
- 最適化問題を解くカオスニューラルネットワークの学習
- 最適化問題を解くカオスニューラルネットワークの学習
- 最適化問題を解くカオス的力学系の大域的分岐のシナリオとその最適化手法の検証
- インターネット版PDMデジタルニューラルネットワークシステムの構築
- ガウス過程を用いる非線形エコーキャンセラの提案(一般,自律・分散・協調システム,一般)
- 最適化問題を解くカオス的力学系の大域的分岐構造とその最適化手法の検証
- 画像の例外部分を補正する前処理機構をもったニューラルネット識別器(バイオサイバネティックス,ニューロコンピューティング)
- 接写像の最小拡大方向に基づくカオス的差分力学系の漸近及びリアプノフ安定化機構(非線形問題)
- 場所細胞による移動ロボットのナビゲーション
- 3.ヒューマンインフォメーション(3.ヒューマンインフォメーション)(映像情報メディア年報)
- トップダウン機構による視覚モデルの構成
- 3次元の輪郭の知覚特性
- 重畳エネルギー関数を用いた砂時計型MLPによる非線形主成分分析 : 統計的基準による中間層素子数の選択法について
- LIFS画像符号化法の画品質改善 : グラム-シュミットの直交化を用いた拡張コンデンセーション変換の複合
- コンデンセーション変換の拡張によるLIFS画像符号化法の改良
- グラム-シュミットの直交化を応用したLIFS画像符号化法の画品質改善
- 多層パーセプトロンによる情報圧縮に適した二つのエネルギー関数
- 画像のブロック平均値から交流成分を予測する高速演算アルゴリズム
- 重畳エネルギー関数による多層パーセプトロンの冗長性削減
- 大規模切断された等高線図に対する離散高度付与法
- KL変換を実現する3層線形パーセプトロンの教師付き学習則 : Baldi-Hornikの定理の拡張
- 実時間PCA学習回路のハードウェア化
- 大規模ニューラルネットワーク向けハードウェア方式
- 向きに依存しない顔画像認識のための向きに依存した複数の識別器の統合
- 1-2 視覚心理実験システム"VISTAS"
- 日本神経回路学会への期待
- 反対色フィルタを用いた道路交通標識の実時間認識 (まるまる!自動車に使う画像処理)
- 音源方位ヒストグラム法による音源分離
- 車載カメラ画像による道路交通標識のリアルタイム認識
- 車載カメラ画像による道路交通標識のリアルタイム認識(認識, ITS 画像処理, 映像メディア及び一般)
- 車載カメラ画像による道路交通標識のリアルタイム認識(認識, ITS画像処理, 映像メディア及び一般)
- G-011 音源方位ヒストグラム法を用いた遅れ時間推定による音源分離(G.音声・音楽)
- 信号源方位ヒストグラム法によるブラインド信号源分離
- 日本語固有表現抽出における文節情報の利用(自然言語)
- Opponent-Colorフィルタを用いた道路交通標識認識システム(テーマセッション(1))(ユビキタスコンピューティングのためのパターン認識・理解)
- 日本語固有表現抽出における文節情報の利用(抽出・言語獲得)
- シングルスリット視における両眼視差(視聴覚技術および一般)
- 色情報を用いた実時間道路交通標識の切り出し(映像メディアおよび一般 : インターネット, デジタル放送, マルチメディア, 三次元画像, 視覚と画質評価, ITS等)
- 色情報を用いた実時間道路交通標識の切り出し
- 色情報を用いた実時間道路交通標識の切り出し
- 出会った三つの言葉
- 潜在的意味解析を用いた形容詞のクラスタリング
- 自己組織的基底配置による関数回帰法の評価
- Forbidden coneによる両眼視差検出モデル
- 日本語形態素解析用ニューラルネットワークについて
- 頑健な恒等写像学習を用いた計量アフィン射影画像列からの運動と形状の復元(コンピュータビジョン基盤技術, 画像の認識・理解)
- 1)スリット視条件下での空間周波数順応効果について(画像表示研究会(第64回)視覚情報研究会(第48回)合同)
- DOGフィルターによる線分特徴抽出を用いた手書き数字認識系の構成
- 画像の隠れ部分を例外として取り除く前処理機構をもったニューラルネット識別器
- 恒等写橡学習を用いたオプティカルフローからのカメラ回転情報の抽出
- 視覚障害者の列車乗り込み支援のためのヘッドマウントカメラからの動き推定
- 視覚障害者の列車乗り込み支援のためのヘッドマウントカメラからの動き推定
- 視覚障害者の列車乗り込み支援のためのヘッドマウントカメラからの動き推定
- 連想記憶回路HASPの記憶容量の解析
- 日本神経回路学会創立20周年記念パネルディスカッション
- 網膜神経節細胞の時空間受容野自己組織形成モデル
- 視覚系時空間受容野の自己組織形成
- 連想記憶モデルによる知識表現
- ボロノイ線図法および逆2乗場モデルによる並列等高線情報処理法の高速化
- 空間フィルタによる地図画像からの道路セグメントの抽出
- 背景の置換による錐体の選択的な順応効果
- 網膜内局所回路の動特性モデル
- マルチモジュール型並列計算機構による等高線再構成
- 地図記号で切断された道路の空間フィルタによる補間
- スリット視条件下での空間周波数順応効果について
- 1対多の連合を記憶する相関型連想記憶モデルの解析
- 非類似度関数による非キャリブレーション型ステレオアルゴリズム
- 連続時間PCA学習ハードウェアの実時間動作
- 連続時間PCA学習則のFPGAによる実装
- 空間周波数を用いた透視投影画像の3次元形状復元モデル
- 連続時間PCA学習則のハードウェア実装
- Blind Source Separation問題における変動ステップ型学習アルゴリズム
- 向きに依存しない顔画像認識のための向きに依存した複数の識別器の統合
- 恒等写像学習を用いた複数の画像からの3次元形状の復元
- 恒等写像学習を用いたscaled orthographic画像列からの複数物体の分離と形状復元(一般セッション(7))(データマイニングとパターン認識・メディア理解)
- 電子化辞書を記憶内容とした連想回路による意味の脱曖昧化
- 電子化辞書を記憶内容とした連想回路による意味の脱曖昧化
- 透明な面と曖昧な面からの両眼視差検出モデル
- 状況理論を利用した文脈情報による単語の曖昧性除去
- ランダムドットステレオグラムからの曲面再構成
- 研究動向について
- ビット揺らぎをもつSpectral Hashing(研究速報)
- 局所特徴の部分空間を用いた画像の特徴表現と部分空間の量子化によるその符号化(一般物体認識,文字・文書,映像,医用画像,第15回画像の認識・理解シンポジウム推薦論文,画像の認識・理解論文)
- 局所特徴の部分空間による画像特徴表現を用いた特定物体認識(持続可能な社会に貢献するパターン認識)
- 局所特徴の部分空間による画像特徴表現を用いた特定物体認識(持続可能な社会に貢献するパターン認識)