Max-Min Actor-Criticによる複数報酬課題の強化学習(人工知能,認知科学)
スポンサーリンク
概要
- 論文の詳細を見る
通常の強化学習はスカラ報酬の最大化として定式化されている.このため,強化学習を複数の目的からなる問題へ通用する際には,目的ごとの報酬を足し合わせたスカラ値の報酬を定義してきた.しかし,報酬の足し合せによる手法では目的間のトレードオフを報酬値の組合せによって解決するため,報酬の設計が困難になる.複数の報酬に対する強化学習手法として,いくつかのモジュール強化学習が提案されているが,どの手法においても目的間のトレードオフを考慮した報酬関数の設計が不可欠である.本研究では多目的最適化問題に対する強化学習法Max-Min Actor-Critic (MMAC)を提案する.MMACでは目的ごとに与えられた報酬関数から各目的に対する価値関数を学習し,各状態における最小の価値関数を最大化する方策であるMax-Min最適方策を得る.シミュレーション実験によって,Max-Min最適方策は複数報酬の和を最大化する手法に比べて各報酬値の組合せの影響を受けにくいことを確認した.これにより,MMACでは目的個別の報酬の設計のみで多目的問題を解くことが可能であることを示した.
- 2007-09-01
著者
-
銅谷 賢治
沖縄科学技術研究基盤整備機構
-
銅谷 賢治
奈良先端科学技術大学院大学
-
銅谷 賢治
独立行政法人沖縄科学技術研究基盤整備機構沖縄大学院大学先行的研究事業
-
内部 英治
沖縄大学院大学先行的研究事業神経計算ユニット
-
内部 英治
沖縄科学技術研究基盤整備機構
-
上岡 拓未
奈良先端科学技術大学院大学
-
上岡 拓未
奈良先端科学技術大学院大学:沖縄大学院大学先行的研究事業
関連論文
- モデルフリーとモデルベース戦略の課題依存的な選択(BCI/BMIとその周辺)
- 手の系列運動における選択的サッカード(脳・ヒューマンモデリング1, 脳・ヒューマンモデリング, 一般)
- 感覚情報の能動的低次元化による強化学習(機械学習によるバイオデータマインニング,一般)
- MEGとEOGを用いた眼球と大脳皮質の同時電流源推定によるMEG眼球アーチファクト除去(一般, 脳・ヒューマンモデリング, 一般)
- 眼球と大脳皮質の同時電流源推定による MEG 眼球アーチファクト除去
- 自然方策こう配法 : 平均報酬の自然こう配に基づく方策探索(人工知能,認知科学)
- ヒト円滑性追跡眼球運動における非周期視標運動の予測と学習(「脳・認知科学」及び一般)
- サル側頭葉顔細胞のVB法による混合正規分布解析
- サル側頭葉の顔細胞の集団ダイナミクス : MDSによる解析と連想記憶回路によるモデル化
- 情動・行動の脳内機構に関するfMRI研究 : うつ病の病態解明に向けて(情動・行動の脳内機序に関する研究の進展)(2004年/第45回日本心身医学総会/北九州)
- ヒト大脳皮質における円滑性追跡眼球運動のための視標運動予測に関連する領域の機能的同定
- MST野の細胞集団ダイナミクスを含む円滑性追跡眼球運動モデルとその計算理論
- ベイズフィルタによる円滑性追跡眼球運動のモデル化
- 空間的情報を含むマルコフ決定課題を用いた長期と短期の報酬予測に伴う脳活動のfMRI測定
- 短期と長期の報酬予測に伴う脳活動のfMRI測定
- 拡張結合混合モデルを用いた脳活動解析
- センサフィードバックを用いたCPG制御における環境ダイナミクスと観測の不確定性の影響
- 線条体における入力タイミングに依存するカルシウム応答モデル
- MOSAICモデルにより環境を抽象化する階層型強化学習(バイオサイバネティックス,ニューロコンピューティング)
- 複数の状態予測と報酬予測モデルによる強化学習と行動目標の推定(バイオサイバネティックス,ニューロコンピューティング)
- 教示者の行動目標を推定する見まね学習
- 教示者の行動目標を推定する見まね学習(PRMU&NCテーマセッション(4) : 模倣学習)(認識と学習,模倣学習)
- 教示者の行動目標を推定する見まね学習(PRMU&NCテーマセッション(4) : 模倣学習)(認識と学習,模倣学習)
- ダイナミクスの線形性に基づいて状態空間を分割する階層型強化学習
- 自然 TD 学習 : 割引報酬における TD 誤差を利用する自然方策勾配に基づいた強化学習法
- 変分法的ベイズ推定を用いた相互情報量の推定
- 生命科学と制御 : 《第13回》座談会「制御と生命科学」
- 強化学習エージェントによる協調行動とコミュニケーションの創発(シンポジウム特集)
- 階層型強化学習を用いた3リンク2関節ロボットによる起立運動の獲得
- 線条体シナプス可塑性の分子機構のシミュレーション研究(セッション3:『バイオモデリング,シミュレーション』)
- 生化学反応系のためのベイズ的システム同定法(機械学習によるバイオデータマイニング)
- 生化学反応系のためのベイズ的システム同定法(機械学習によるバイオデータマインニング)
- 生命科学と制御 : 《第12回》脳の目的関数とは何か
- Max-Min Actor-Criticによる複数報酬課題の強化学習(人工知能,認知科学)
- 行動学習データの強化学習モデルによる解析とその応用
- 行動学習データの強化学習モデルによる解析とその応用(コミュニケーション支援及び一般)
- 行動学習データの強化学習モデルによる解析とその応用(コミュニケーション支援及び一般)
- 近傍成分分析による行動指向的状態表現の獲得
- 複数の報酬によって与えられる拘束のもとでの強化学習(「機械学習によるバイオデータマインニング」及び「一般」)
- 複数の価値関数を用いた多目的強化学習
- 2A1-N-044 構造の異なる複数の学習器の相互作用を利用した強化学習システム(認知ロボティクス1,生活を支援するロボメカ技術のメガインテグレーション)
- 異なった時間遅れを持つ感覚モダリティーを用いた実時間運動学習機構
- 複数報酬のもとでの階層強化学習
- 淡蒼球内節/黒質網様部の強化学習による確率的行動選択(一般)(ニューロインフォーマティックスとは何か)
- 淡蒼球内節/黒質網様部の強化学習による確率的行動選択
- 重点サンプリングを用いた複数強化学習器の同時学習
- 複数の状態予測と報酬予測モデルによる強化学習と行動目標の推定
- サイバーローデントプロジェクト
- 生物における階層系列学習に関する考察
- 学習ダイナミクスの制御と脳の物質機構(システムと生命総合特集号)
- モジュール競合による運動パターンのシンボル化と見まね学習
- 線形ベルマン方程式に基づくロボット制御 : システム同定と指数価値関数近似
- 運動-視覚ダイナミクス学習と線形ベルマン方程式によるロボット制御
- 運動-視覚ダイナミクス学習と線形ベルマン方程式によるロボット制御 (ニューロコンピューティング)
- 運動-視覚ダイナミクス学習と線形ベルマン方程式によるロボット制御(一般,機械学習によるバイオデータマインニング,一般)