サポートベクターマシンの分割型学習アルゴリズムの収束性解析
スポンサーリンク
概要
- 論文の詳細を見る
サポートベクターマシン(SVM)の効率的な学習アルゴリズムとして知られている分割法の収束性について考察する.SVMの学習は大規模な2次計画問題に帰着されるため,どれをいかに効率良く解くかが重要となる.分割法は,1)多数の変数の中から更新の対象となる変数を適当な方法で選択する,2)選択された変数に関する2次計画問題を解いてそれらの値を更新する,という操作を反復的に実行して元の2次計画問題の最適解を求める方法であり,目的関数の係数行列全体を記憶する必要がないため,特に大規模な問題に対して有効である.しかしながら,分割法の収束性については,これまでのところ部分的にしか解明されていない.本稿では,変数選択法に関する非常に緩い条件の下で分割法によって得られる値が必ず最適解に収束することを厳密に証明する.
- 社団法人電子情報通信学会の論文
- 2004-03-12
著者
-
高橋 規一
九州大学大学院情報工学部門
-
高橋 規一
九州大学大学院システム情報科学研究院情報工学部門
-
西 哲生
九州大学大学院システム情報科学研究院情報工学部門
-
西 哲生
早稲田大学理工学術院
-
高橋 規一
九州大学大学院システム情報科学研究院
関連論文
- 凸2次計画問題に対する2段階逐次部分最適化アルゴリズムの実験的評価
- 一般の凸2次計画問題に対する分割法の大域収束性について
- 能動素子を含むある種の抵抗回路の解の精度保証について(信号処理,LSI及び一般)
- 行列式が1の3次整数行列の一生成法
- 2次元離散2値セルラニューラルネットワークの安定条件
- SAWフィルタの設計に関連したチェビシェフ特性近似
- DTCNNによる1次元信号処理について
- 一般化固有値問題に基づくセルラニューラルネットワーク設計法の改良
- A-2-41 頂点数と枝数が固定されたグラフで実現可能なクラスター係数の値について(A-2.非線形問題,一般セッション)
- A-2-18 一般の凸二次計画問題に対する分割法の提案(A-2. 非線形問題,一般セッション)
- 2値ベクトル周期列を出力する区分線形RNNの状態軌道の収束性について
- サポートベクトル回帰のための分割法の大域収束性について
- サポートベクトルマシンとその効率的学習アルゴリズム(チュートリアル2)
- A-2-6 二値パターン周期列を出力する区分線形RNNの状態軌道の収束性 : 素子数が2の場合(A-2.非線形問題,一般講演)
- A-2-38 区分線形リカレントニューラルネットワークで実現可能な二値パターン周期列に関する一考察(A-2.非線形問題,一般講演)
- SVMの分割型学習アルゴリズムにおける変数選択について : 共役勾配法に基づく選択法の提案と実験的評価
- A-2-8 離散時間二値ニューラルネットワークの収束条件(A-2.非線形問題,一般講演)
- 反対称テンプレートを持つ1次元CNNが連結成分検出を行うための十分条件
- サポートベクトル回帰のためのSMOアルゴリズムの収束性解析
- 所望の2値ベクトル周期列を出力する区分線形ニューラルネットワークの設計
- A-2-1 Reducing the Number of Non-zero Coefficients in the Decision Function of an SVM(A-2. 非線形問題, 基礎・境界)
- A-1-37 3個のセルから成るCNNの完全安定性に関する一考察(A-1. 回路とシステム, 基礎・境界)
- サポートベクターマシンの分割型学習アルゴリズムの収束性解析
- A-2-14 非線形回帰問題に対するサポートベクターマシンの分割型学習アルゴリズムの効率化(A-2. 非線形問題)
- ファジーサポートベクターマシンの非線形回帰問題への応用
- A-2-18 CNN に関連する平面力学系の収束性に関する一考察
- ハイブリット型学習による隠れ素子付き連想記憶モデル
- SPICEを利用した制約条件付き最適化問題解法の一方法
- 2個のセルからなる空間不変結合セルラーニューラルネットワークが大域安定であるための必要十分条件
- A-1-15 DCNN に対する二つの完全安定条件の一般化
- トランジスタ回路におけるTadeusiewiczの漸近安定性に関する一考察
- 2個のセルからなるセルラーニューラルネットワークの完全安定性解析
- 結合の対称性が保証されたCNN連想記憶回路設計法
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- 隠れ素子付き相互結合型ネットワークにヘッブ則とBP法を適用した自己連想記憶モデル
- 非常に大きな条件数をもつ整数行列の一生成法
- 能動素子を含むある種の抵抗回路の解の精度保証について(信号処理,LSI及び一般)
- 能動素子を含むある種の抵抗回路の解の精度保証について(信号処理,LSI及び一般)
- 線形抵抗回路の動作点の数値的精度保証法
- クラスター係数の最大値および極大値に関する考察(一般)
- クラスター係数の最大値および極大値に関する考察(一般)
- 一般の凸2次計画問題に対する分割法の大域収束性について
- 反対称テンプレートを持つ1次元CNNが連結成分検出を行うための十分条件
- n個の理想ダイオード関数を含む区分線形方程式が2^l個 (l≤n)の解を持つための十分条件
- 2トランジスタ回路に対する区分線形方程式の解の個数の上界
- 1個のキャパシタ、理想ダイオード、線形抵抗、直流電圧源からなる回路における消費エネルギーに関する一考察(非線形回路とシステム,及び一般)
- 1個のキャパシタ、理想ダイオード、線形抵抗、直流電圧源からなる回路における消費エネルギーに関する一考察
- ある種の2変数連立方程式の解の最大個数
- 誘電体フィルタに対する分布・集中混在系等価回路
- スイッチを4個含むDC-DCコンバータの回路構造条件に関する一検討
- A-1-30 分布RC線路の受動集中定数回路モデルに関する一考察(A-1. 回路とシステム)
- 遅延計算を目的とする分布RC線路の受動集中定数回路モデルに関する一検討
- PWMコンバータの回路構造に関する考察(信号処理,LSI,及び一般)
- 分布RC線路の集中定数回路近似に関する一考察(信号処理,LSI,及び一般)
- PWMコンバータの回路構造に関する考察(信号処理, LSI, 及び一般)
- 分布RC線路の集中定数回路近似に関する一考察(信号処理, LSI, 及び一般)
- PWMコンバータの回路構造に関する考察(信号処理, LSI, 及び一般)
- 分布RC線路の集中定数回路近似に関する一考察(信号処理, LSI, 及び一般)
- A-1-21 DC-DC コンバータ回路の回路構造条件に関する一考察
- DC-DCコンバータの回路構造に基づく判別法に関する一検討
- 一般化固有値問題に基づくセルラニューラルネットワーク設計法の改良
- 結合の対称性が保証されたCNN連想記憶回路設計法
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- CAS2000-30 / VLD2000-39 / DSP2000-51 非線形抵抗回路における動作点の漸近安定性に関する一考察
- CAS2000-29 / VLD2000-38 / DSP2000-50 区分線形出力関数を持つニューラルネットワークの完全安定条件の一般化
- 区分線形出力関数をもつニューラルネットワークの安定性について
- 遅延特性を有するセルラーニューラルネットワークの完全安定性について
- 複数のホップフィールド型ネットワークを用いた連想記憶方式の提案
- 一年間のアメリカ滞在で感じた日本とアメリカの大学の違い
- ある種の巡回形結合行列をもつニューラルネットワークの平衡点の個数と引き込み領域について
- 区分線形特性をもつニューラルネットワークの大域的安定性に関する一考察
- 実係数をもつ多項式の非負値性の判定法
- ある種のニューラルネットワークにおける平衡点の個数と引き込み領域について
- テイパー結合係数をもつ1次元ニューラルネットワークの平衡点の実現について
- AS-1-1 次数保存2辺張り替えに基づくクラスター係数の制御(AS-1.ネットワークダイナミクス研究の展開,シンポジウムセッション)
- 全チャンネルの入力情報を用いたマルチチャンネルエコーキャンセリングアルゴリズム
- ベイズ超解像におけるSIFTを用いたパラメタ推定手法の提案(五感メディアの品質,コミュニケーションデザイン,画像符号化,食メディア,一般)
- ベイズ超解像におけるSIFTを用いたパラメタ推定手法の提案(五感メディアの品質,コミュニケーションデザイン,画像符号化,食メディア,一般)
- 分布・集中混在回路のWDFによる解析について
- グラフラプラシアンの第2固有値を最大にする無向グラフ : 平均次数が2以下の場合
- 多次元ウェーブディジタルフィルタを用いた多線条線路の解析
- 多次元ウェーブディジタルフィルタを用いた多線条線路の解析
- 多次元ウェーブディジタルフィルタを用いた多線条線路の解析
- 多次元ウェーブディジタルフィルタに基づく分布定数・集中定数混在回路の過渡解析に関する一考察
- 非線形抵抗回路における直流動作点の安定性に関する検討
- CAS2000-31 / VLD2000-40 / DSP2000-52 トランジスタ回路における動作点のグラフに基づいた安定性判別
- CAS2000-31 / VLD2000-40 / DSP2000-52 トランジスタ回路における動作点のグラフに基づいた安定性判別
- CAS2000-31 / VLD2000-40 / DSP2000-52 トランジスタ回路における動作点のグラフに基づいた安定性判別
- トランジスタ回路の平衡点の不安定に関する一考察
- 通過域最大平坦SAWフィルタの一設計法
- 有理関数による最小p乗近似とミニマクス近似の最大誤差の関係
- Nonnegative Matrix Factorizationのための修正乗法型更新アルゴリズムとその大域的収束性 : ユークリッド距離最小化の場合
- マルチエージェントネットワークにおける代数的連結度計算のための新しい連続時間アルゴリズム (非線形問題)
- A-2-23 星グラフに辺を加えたグラフの代数的連結度最大性について(A-2.非線形問題,一般セッション)
- D-20-5 非負制約付き凸2次計画問題に対する修正乗法型更新アルゴリズム(D-20.情報論的学習理論と機械学習,一般セッション)
- 2-Switch近傍において最大クラスター係数をもつグラフについて(一般)
- 上坂の推測に関わるあるクラスの最適化関数
- マルチエージェントネットワークにおける代数的連結度計算のための新しい連続時間アルゴリズム