混合分布のノンパラメトリック推定と最小ダイバージェンス法(ポスターセッション,第14回情報論的学習理論ワークショップ)
スポンサーリンク
概要
- 論文の詳細を見る
最尤推定による混合分布のノンパラメトリック推定では,最適な重み分布がサンプル数以下の有限個の点からなる離散分布で与えられることが知られているものの,サンプル数が少ない状況では過学習が起こる傾向がある.本研究では,一つのパラメータを持つ目的関数を構成することで,最尤推定やカーネルベクトル量子化を特別な場合として含む一連の推定手法を与え,経験尤度法や情報量最小化との関係を考察する.また,数値実験により,パラメータの設定によっては過学習を抑制する効果が得られることを示す.
- 2011-11-02
著者
-
池田 思朗
統計数理研究所
-
渡辺 一帆
東京大学大学院新領域創成科学研究科複雑理工学専攻:(現)奈良先端科学技術大学院大学情報科学研究科
-
渡辺 一帆
奈良先端科学技術大学院大学情報科学研究科
-
渡辺 一帆
奈良先端科学技術大学院大学 情報科学研究科
関連論文
- 平滑化事前分布を用いた変動2値情報源の事後確率最大化法(研究速報)
- 縮小ランク回帰モデルのベイズ汎化誤差について
- ランク縮小写像のベイズ汎化誤差の解析
- 階層ベイズ法を用いたNIRS-DOTの逆問題解法とその相図(脳活動の計測と解析,一般)
- 変分ベイズ法における確定的アニーリング
- 確率伝搬法の情報幾何 : 符号理論,統計物理,人工知能の接点
- 階層変分べイズ法によるNIRS-DOTの逆問題解法
- 事後分布の局所変分近似における分布間の情報量について
- 転送行列法を用いた発火率推定(機械学習,一般)
- 混合ベルヌーイ分布による変分ベイズ学習の相転移構造(IBIS2010(情報論的学習理論ワークショップ))
- 隠れマルコフモデルの変分ベイズ学習における確率的複雑さについて(パターン認識)
- 確率文脈自由文法の変分ベイズ推定における確率的複雑さについて(一般, 脳・ヒューマンモデリング, 一般)
- 隠れマルコフモデルの変分ベイズ推定における確率的複雑さについて
- 変分ベイズ法による混合指数型分布を用いたクラスタリング法(一般(ベイズ法など),脳インタフェースの技術と応用,一般)
- 研究詳解 指数型分布族の空間におけるデータ解析法について (特集「統計的機械学習」)
- 移動体における衛星放送の受信 : 記憶のある通信路の通信路推定と誤り訂正(移動通信ワークショップ)
- 情報量の測り方による近似事後分布の性質の相違について
- 混合指数型分布の変分ベイズ学習における確率的複雑さ
- 変分ベイズ法による混合正規分布モデルの学習における確率的複雑さについて(一般)
- 極値統計量を用いたデータ発生領域の学習法(統計的学習理論及び一般)
- ターボ復号の情報幾何(情報論的学習理論論文小特集)
- 運動指令の疎表現と運動計画二関節非線形腕による到達運動への適用
- 確率伝搬法による近似と情報幾何学による解析(情報物理学の数学的構造)
- 確率的情報処理と統計力学 様々なアプローチとそのチュートリアル(3)確率的情報処理としての移動体通信(2)ターボ復号法の情報幾何的理解と改善の可能性
- 情報幾何学に基づく確率伝搬法の解析
- ターボ符号とGallager符号の情報幾何
- 潜在変数モデルにおける変分自由エネルギーの漸近形と平均汎化誤差(学習問題の解析,テキスト・Webマイニング,一般)
- A-4-28 付加的計測を用いたネットワークトモグラフィ(A-4.信号処理,一般セッション)
- ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法
- アクティブ計測とパッシブ計測を用いたパケット損失率推定法(行列分解,応用,統計推理,データベース,一般)
- 自由エネルギーによる潜在変数推定精度の計算法(第15回情報論的学習理論ワークショップ)
- 漸近的ミニマックス性とデータ数の知識の関係について
- 弱い回折パターンからの位相回復 : 単粒子構造解析に向けて
- 計測技術におけるスパースモデリングの応用について