基本パーセプトロンの等比学習とその収束条件
スポンサーリンク
概要
- 論文の詳細を見る
基本パーセプトロンの学習アルゴリズムとして等比学習アルゴリズム(GLA)を提案する.GLAは適応フィルタにおけるアフィン射影アルゴリズム(APA)を基本パーセプトロンに適応したものである.APAにおける係数更新の目標が"ある一点"であるのに対して, GLAにおける結合荷重更新の目標は全パターンを正しく分類する"ある領域"である.このため両者の収束条件は異なる.本論文では, まず, 2個のパターンに対して1次GLAが収束するために2パターンの角度θと学習係数λが満たすべき関係を理論的に導出する.次に, パターンが3個以上の場合に"解領域の角度ψ_min"を導入し, 1次GLAが収束するためのψ_min-λの関係が, 2パターンの場合のθ-λの関係で近似できることを計算機シミュレーションで示す.更に, θ-λの関係においてθによらず収束する条件であるλ=2に対して, 1次GLAがパターン数にかかわらずに常に収束することを証明する.これらにより, 1次GLAの収束性が保証され, 学習アルゴリズムとしての有効性が確認される.また, 1次GLAが収束するためのψ_minとλが分布する範囲が近似的に明らかになる.
- 社団法人電子情報通信学会の論文
- 1998-05-25
著者
-
池田 和司
京都大学大学院情報学研究所
-
三好 誠司
神戸市立高専
-
三好 誠司
関西大学システム理工学部
-
池田 和司
京都大学大学院情報学研究科システム科学専攻
-
中山 謙二
金沢大学工学部
-
三好 誠司
神戸高専電子工学科
関連論文
- マルチキャリア変調のためのAF協調ダイバーシチ法とアウテージ解析(自律・分散・協調システム,自律・分散・協調システム,一般)
- 2.画像領域分割の確率モデルと脳の視覚情報処理(ビジョンコンピューティングにおける確率的情報処理の展開)
- 遺伝的アルゴリズムにおける平均最短距離の導出 (生命現象と関連した非線形問題の数理)
- 遺伝的アルゴリズムのネットワーク的性質(スパイク信号の統計解析、一般)
- F_041 マルコフ決定過程に基づくマルチエージェントシステムの漸近的性質(F分野:人工知能・ゲーム)
- 多項式カーネル法の汎化誤差解析 : 代数幾何的アプローチ
- 神経回路網への展開--サポートベクトルマシンの学習曲線 (特集 統計科学の最前線--新しい情報科学への技術と手法)
- 学習理論, 高橋治久・堀田一弘著, 出版社コロナ社, 発行2009年11月, 全ページ215頁, 価格3,000円, ISBN978-4-339-02443-2
- 超解像による画像再構成 : カメラの限界を超える
- 強化学習の収益最大化における漸近等分割性の役割
- マルチエージェント強化学習におけるエージェント間の制約の影響について(学習理論)
- 忘却係数を持つサポートベクトルマシンの統計的解析
- 20aEA-1 領域ベースの隠れ変数を用いた画像の分割と修復(20aEA 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- パーシャルアニーリングの統計力学 : 相互作用がメキシカンハット型の場合(ハードウェア(2),ニューロハードウェア,一般)
- 22pVC-6 メキシカンハット型相互作用が時間変化する系のレプリカ解析II(22pVC 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 25pRJ-14 シナプス荷重が時間変化するニューラルネットワークモデルの定常状態の解析III(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 26pTE-7 メキシカンハット型相互作用が時間変化する系のレプリカ解析(ニューラルネットワーク,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aTL-8 シナプス荷重が時間変化するニューラルネットワークモデルの定常状態の解析II(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aTL-10 ソーラス符号のパーシャルアニーリング(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 21aWA-4 確率的フィルタリングを用いたアンサンブル学習の統計力学(情報統計力学,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- 脳波信号からの直感発生検出に関するBCI研究(BCI/BMIその周辺,一般)
- 情報幾何学の観点からみた準加法的アルゴリズム
- 統計的手法を用いた学習機械の解析 (生命現象と関連した非線形問題の数理)
- サポートベクトルマシンの学習曲線
- カーネル関数の性質とν-SVM解の関係
- 強化学習の収益最大化における漸近等分割性の役割
- スパイクニューロンにおけるインタースパイクインタバルの情報幾何
- スパイクニューロンにおけるインタースパイクインタバルの情報幾何
- EMアルゴリズムを用いた確率的通信路に対する適応等化法
- ソフトマージンを持つサポートベクトルマシンの漸近的統計的解析
- 典型系列を使った強化学習の解析
- D-2-1 L_pノルムを用いたサポート・ベクトル・マシンの学習特性(D-2. ニューロコンピューティング)
- 強化学習における漸近等分割性について
- 前処理を用いたステレオエコーキャンセラにおける学習係数と収束速度
- 強化学習における典型系列について
- 強化学習における典型系列について(NC一般セッション(3))(認識と学習,模倣学習)
- 強化学習における典型系列について(NC一般セッション(3))(認識と学習,模倣学習)
- 領域ベースの隠れ変数と確率伝搬法を用いた画像領域分割(IBIS2010(情報論的学習理論ワークショップ))
- 適応型荷重摂動学習の統計力学(IBIS2010(情報論的学習理論ワークショップ))
- 入力が相関を有するオンライン学習の統計力学(IBIS2010(情報論的学習理論ワークショップ))
- 強化学習における複雑さを評価するためのLempel-Ziv符号化(統計的学習理論及び一般)
- LG-4 強化学習における収益の情報源符号化とその行動選択への応用(G. 人工知能)
- 相関入力を用いた機械学習に関する統計力学的解析II
- 二段の動的過程を用いた誤り訂正 : レプリカ法による理論解析
- 26pTE-6 側頭葉をモデル化したアトラクターネットワークの双安定性 : パーシャルアニーリングの場合(ニューラルネットワーク,領域11,統計力学,物性基礎論,応用数学,力学,流体物理)
- オンライン学習の統計力学的解析
- 相関入力を用いた機械学習に関する統計力学的解析
- 多項式カーネル法の汎化誤差解析 : 代数幾何的アプローチ
- D-8-15 ランドマークの大きざを考慮した視覚移動ロボットのためのベイズ経路計画法(D-8.人工知能と知識処理,一般セッション)
- 基本パーセプトロンの等比学習とその収束条件
- ブロック直交射影アルゴリズムのブロックサイズ最適化
- 対称学習によるパターン分類の収束特性
- 神経学習における正規化LMSアルゴリズムの収束条件
- 基本パーセプトロンの等比学習とその収束条件および雑音特性
- 基本パーセプトロンの等比学習とその収束条件
- リカレントニューラルネットワークの確率的記憶容量
- 遅延素子を用いたリカレントニューラルネットワークによるリミットサイクルの記憶
- 遅延素子を用いたリカレントニューラルネットワークによるリミットサイクルの記憶
- D-2-4 表情識別時と個体識別時の眼球運動の差異(D-2.ニューロコンピューティング,一般セッション)
- D-12-45 ロボットによる道具身体化モデル(D-12.パターン認識・メディア理解,一般セッション)
- 同時摂動を用いたPSOのFPGA実現
- A-4-63 前処理を用いたステレオエコーキャンセラの収束条件
- 28aTD-2 領域ベースの隠れ変数とBPを用いた画像の分割と修復(28aTD 情報統計力学,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 前処理を用いたステレオエコーキャンセラの収束速度
- 前処理を用いたステレオエコーキャンセラの収束速度
- 多項式カーネルをもつカーネル法の幾何学と学習曲線(情報論的学習理論論文小特集)
- 多項式カーネル法における入力多様体と汎化誤差
- D-2-2 カーネル法における入力空間と特徴空間
- H-9 誤差を許容するパーセプトロン学習(学習理論とパルスニューラルネット,H.生体情報科学)
- INNS-IEEE International Joint Conference on Neural Networks(IJCNN2001)(「人間を内部に含んだ系のモデリングと設計特集号」)
- コインシデンス・ディテクタ・ネットワークにおけるsynfire chain
- 勉強のしすぎはよくない?
- Filtered-X LMSアルゴリズムの統計力学的解析(一般,音声・音響信号処理,音声及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(一般,音声・音響信号処理,音声及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(一般,音声・音響信号処理,音声及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(II)(システムと信号処理及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(II)(システムと信号処理及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(II)(システムと信号処理及び一般)
- Filtered-X LMSアルゴリズムの統計力学的解析(II)(システムと信号処理及び一般)
- 適応信号処理の統計力学的解析(機械学習とその応用)
- A-4-28 付加的計測を用いたネットワークトモグラフィ(A-4.信号処理,一般セッション)
- 22aGA-2 領域ベースの隠れ変数とBPを用いた画像の分割と修復(II)(22aGA 情報統計力学2,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 21pGU-11 適応フィルタの統計力学(21pGU 情報統計力学1,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 領域ベースの隠れ変数とビリーフプロパゲーションを用いた画像の修復と領域分割(知的システム,一般)
- 適応フィルタの統計力学的解析(知的システム,一般)
- 線形可解マルコフ決定過程における受動的ダイナミクスのモデリングと推定(知的システム,一般)
- ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般)
- D-2-5 ノイズあり教師によるパーセプトロン学習の漸近解析(D-2.ニューロコンピューティング,一般セッション)
- スイッチング状態空間モデルと変分ベイズ法を用いた画像の修復と領域分割(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 変分ベイズ法とMCMCを用いた画像の修復と領域分割(ポスターセッション,第14回情報論的学習理論ワークショップ)
- FXLMSアルゴリズムの統計力学的解析とその精度(一般,音声・音響信号処理,音声及び一般)
- FXLMSアルゴリズムの統計力学的解析とその精度(一般,音声・音響信号処理,音声及び一般)
- FXLMSアルゴリズムの統計力学的解析とその精度(一般,音声・音響信号処理,音声及び一般)
- 27aAG-9 適応フィルタの統計力学II(27aAG 情報統計力学1,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 大画像の複層ベイズ超解像と位置ずれ推定に関する検討
- 18aAA-6 入力が白色でない適応フィルタの統計力学(18aAA 情報統計力学1,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 大画像の複層ベイズ超解像と位置ずれ推定に関する検討(第15回情報論的学習理論ワークショップ)
- M元位相偏移変調によるCDMA通信のレプリカ解析(第15回情報論的学習理論ワークショップ)
- 27aKG-7 タップ長が一般化された適応フィルタの統計力学(情報統計力学1,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- FXLMSアルゴリズムの統計力学的解析とその精度