淡蒼球内節/黒質網様部の強化学習による確率的行動選択(一般)(ニューロインフォーマティックスとは何か)
スポンサーリンク
概要
- 論文の詳細を見る
近年、大脳基底核は報酬に基づく行動学習に関係することが報告され、強化学習を用いた様々なモデルが提案されている。それらのモデルでは、大脳基底核の主な入力核であり中脳ドーパミン細胞からの投射を受ける線条体で報酬の予測が学習されると仮定されている。しかしこれまでのモデルでは、強化学習において本質的に重要な確率的な行動選択が行われるメカニズムや、ランダムさの制御のメカニズムは考慮されていない。そこで本報告では、線条体の投射先のうち大脳基底核の出力核である淡蒼球内節と黒質網様部で確率的な行動選択が行われ、その行動情報が視床を通じて線条体へフィードバックされることにより、選択された行動に対する報酬予測の学習が行われるという仮説を提案する。この妥当性を検証するために、仮説に基づき大脳基底核の回路モデルを構築し、計算機実験を行った結果、その行動選択のランダムさは淡蒼球内節と黒質網様部への視床下核からの入力により調節され得ることが明らかになった。
- 2003-12-01
著者
-
銅谷 賢治
奈良先端科学技術大学院大学
-
鮫島 和行
ATR脳情報研究所
-
銅谷 賢治
奈良先端科学技術大学院大学情報科学研究科:沖縄科学技術研究基盤整備機構
-
鮫島 和行
玉川大学脳科学研究所
-
松山 和裕
奈良先端科学技術大学院大学
-
鮫島 和行
東京農工大学大学院工学研究科
関連論文
- モデルフリーとモデルベース戦略の課題依存的な選択(BCI/BMIとその周辺)
- 手の系列運動における選択的サッカード(脳・ヒューマンモデリング1, 脳・ヒューマンモデリング, 一般)
- MEGとEOGを用いた眼球と大脳皮質の同時電流源推定によるMEG眼球アーチファクト除去(一般, 脳・ヒューマンモデリング, 一般)
- 眼球と大脳皮質の同時電流源推定による MEG 眼球アーチファクト除去
- 自由エネルギーを用いた強化学習による状態のタスク依存な集団符号化(一般,機械学習によるバイオデータマインニング・生命現象の非線形性,一般)
- 自然方策こう配法 : 平均報酬の自然こう配に基づく方策探索(人工知能,認知科学)
- ヒト円滑性追跡眼球運動における非周期視標運動の予測と学習(「脳・認知科学」及び一般)
- サル側頭葉顔細胞のVB法による混合正規分布解析
- サル側頭葉の顔細胞の集団ダイナミクス : MDSによる解析と連想記憶回路によるモデル化
- 短-中-長期記憶形成モデルにおける海馬周辺領野のDynamicsについて
- 強化学習の基礎理論と応用
- ヒト大脳皮質における円滑性追跡眼球運動のための視標運動予測に関連する領域の機能的同定
- MST野の細胞集団ダイナミクスを含む円滑性追跡眼球運動モデルとその計算理論
- ベイズフィルタによる円滑性追跡眼球運動のモデル化
- 空間的情報を含むマルコフ決定課題を用いた長期と短期の報酬予測に伴う脳活動のfMRI測定
- 短期と長期の報酬予測に伴う脳活動のfMRI測定
- 特集「意図研究のスペクトル」にあたって
- 脳内報酬情報処理に及ぼす知覚的暖昧性の影響
- 知覚確率が報酬予測誤差に及ぼす影響
- 拡張結合混合モデルを用いた脳活動解析
- センサフィードバックを用いたCPG制御における環境ダイナミクスと観測の不確定性の影響
- 線条体における入力タイミングに依存するカルシウム応答モデル
- MOSAICモデルにより環境を抽象化する階層型強化学習(バイオサイバネティックス,ニューロコンピューティング)
- 複数の状態予測と報酬予測モデルによる強化学習と行動目標の推定(バイオサイバネティックス,ニューロコンピューティング)
- 教示者の行動目標を推定する見まね学習
- 教示者の行動目標を推定する見まね学習(PRMU&NCテーマセッション(4) : 模倣学習)(認識と学習,模倣学習)
- 教示者の行動目標を推定する見まね学習(PRMU&NCテーマセッション(4) : 模倣学習)(認識と学習,模倣学習)
- ダイナミクスの線形性に基づいて状態空間を分割する階層型強化学習
- 遅延を伴う確率的報酬獲得課題におけるヒトの意思決定に関する研究(一般セッション3)
- 自然 TD 学習 : 割引報酬における TD 誤差を利用する自然方策勾配に基づいた強化学習法
- 変分法的ベイズ推定を用いた相互情報量の推定
- OB-06 ヒトにおける報酬関連脳活動と知覚的曖昧性(日本動物心理学会第68回大会発表要旨)
- 階層型強化学習を用いた3リンク2関節ロボットによる起立運動の獲得
- 強化学習と最適制御(「システム制御理論の新領域特集号」)
- 線条体シナプス可塑性の分子機構のシミュレーション研究(セッション3:『バイオモデリング,シミュレーション』)
- 生化学反応系のためのベイズ的システム同定法(機械学習によるバイオデータマイニング)
- 生化学反応系のためのベイズ的システム同定法(機械学習によるバイオデータマインニング)
- 混合カルマンフィルタによる隠れ状態推定法 : Cyber Rodentの自己位置同定への応用
- Max-Min Actor-Criticによる複数報酬課題の強化学習(人工知能,認知科学)
- 行動学習データの強化学習モデルによる解析とその応用
- 行動学習データの強化学習モデルによる解析とその応用(コミュニケーション支援及び一般)
- 行動学習データの強化学習モデルによる解析とその応用(コミュニケーション支援及び一般)
- モジュール強化学習と意図(意図研究のスペクトル)
- 異なった時間遅れを持つ感覚モダリティーを用いた実時間運動学習機構
- 淡蒼球内節/黒質網様部の強化学習による確率的行動選択(一般)(ニューロインフォーマティックスとは何か)
- 淡蒼球内節/黒質網様部の強化学習による確率的行動選択
- 大脳基底核-強化学習モデルによる線条体神経細胞活動の記録と予測
- 行動決定系列からの学習系の内部状態/パラメータ系列の推定
- 複数の状態予測と報酬予測モデルによる強化学習と行動目標の推定
- 強化学習と大脳基底核(運動学習)
- 複数の予測モデルを用いた強化学習による非線形制御
- 強化学習MOSAIC : 予測性によるシンボル化と見まね学習
- NC2000-48 複数モデルベース強化学習におけるモジュール間の評価割り付け
- 局所線形モデルに基づく状態分割を用いた階層強化学習
- 強化学習における適応的状態空間構成法
- 生物における階層系列学習に関する考察
- 学習ダイナミクスの制御と脳の物質機構(システムと生命総合特集号)
- 意思決定と行動学習の数理モデル (特集 学習と記憶--基礎と臨床)
- モジュール競合による運動パターンのシンボル化と見まね学習
- 強化学習における分割による自律的状態空間構成法
- 神経スパイク列からのモデルベースシナプス同定法 (ニューロコンピューティング)
- 線形ベルマン方程式に基づくロボット制御 : システム同定と指数価値関数近似
- ASCONE実施報告
- 神経スパイク列からのモデルベースシナプス同定法(合同企画セッション:バイオデータマイニング,機械学習によるバイオデータマインニング,一般)
- 制限付きボルツマンマシンとエコーステートネットワークによる部分観測マルコフ決定問題の解法(一般講演,機械学習によるバイオデータマインニング,一般)
- ASCONE06 開催報告
- NIPS*2003 参加報告
- 運動-視覚ダイナミクス学習と線形ベルマン方程式によるロボット制御
- 第5回神経情報処理国際会議(ICONIP'98-Kitakyushu)