Uロス関数に基づいた密度推定のためのブースティング(IBIS2010(情報論的学習理論ワークショップ))
スポンサーリンク
概要
- 論文の詳細を見る
本論文ではブースティングによる密度推定のための方法のクラスを提案する.単調増加で凸な実数値関数Uから導かれるUロス関数の逐次最小化に基づき,ブースティングの教師なし学習のアルゴリズムを考察する.学習アルゴリズムは,予め用意された弱学習機(密度関数)の集合の中から逐次的に,最適な弱学習機を前ステップの密度推定量と凸結合させることで構成される.このクラスの中で適切な密度推定を導く生成関数Uを選択したい.特に, Uとしてβのべき指数関数を考えると,β=1のときUロス関数の最小化はL_2ロスの最小化と同値となる.また,β=0の極限を考えると,Uロス関数は負の対数尤度関数となる.それゆえ,今回の提案手法はL_2ロスや尤度関数を含んだより柔軟な推定法と言える.学習アルゴリズムの更新式において更新されたUロス関数を2つの項に分解されることを示して,最適な弱学習機の過剰学習を防ぐ正則化の働きがあることを明らかにする.更にこのブースティングで得られた密度関数の非漸近的な誤差限界の一般公式を導出する.最後に,これらの得られた結果を数値的な実験によって確認する.
- 2010-10-28
著者
関連論文
- タンパク質構造と進化と情報幾何 : 数学サイドから(タンパク質構造と進化と情報幾何) (離散力学系の分子細胞生物学への応用数理)
- PP-628 高齢者前立腺癌の過剰診断を避けるPSAカットオフ値ノモグラムの作成(前立腺腫瘍/診断・マーカー4,一般演題ポスター,第97回日本泌尿器科学会総会)
- 統計的学習理論による多重分光画像の画集判別(時空間統計)
- 局所尤度による回帰モデルの音波検層デｰタへの適用
- ロバストなブースティングと損失関数(学習理論)
- 局所尤度による回帰モデルの音波検層データへの適用
- E-5 Model is Wrong
- C″-2 生存解析におけるレイト・エントリー・バイアスのモデリング(日本統計学会第68回大会記録 : 医学統計 (3))
- C-3 混合分布モデルの罰則付き最尤推測 : 神経生理の量子仮説への適用(日本統計学会第68回大会記録 : 医学統計 (1))
- 生存解析におけるレイト・エントリー・バイアスのモデリング
- 混合分布モデルの罰則付き最尤推測 : 神経伝達の量子仮説への適用
- 6 自己組織化法則による主成分分析のロバストネス
- Uロス関数に基づいた密度推定のためのブースティング(IBIS2010(情報論的学習理論ワークショップ))
- Uロス関数に基づいた密度推定のためのブースティング (情報論的学習理論と機械学習)
- Contrast from one probability measure to another : the associated geometry
- A CHARACTERIZATION OF SECOND ORDER EFFICIENCY FOR ESTIMATORS IN A CURVED EXPONENTIAL FAMILY
- 関連遺伝子セットの多重解の存在(バイオインフォマティクス)
- ゲノム・プロテオミクスデータを用いた予測解析：機械学習による新しい統計的手法
- ゲノム・プロテオミクスデータを用いた予測解析 : 機械学習による新しい統計的手法
- 予測と発見:ゲノムデータ解析のための統計的方法を目指して (特集 予測と発見)
- 情報幾何と統計的パタン認識