Mixture of Experts を用いたリカレントネットワークによる時系列処理
スポンサーリンク
概要
- 論文の詳細を見る
本論文では時系列処理が可能なリカレント構造をもつ混合エキスパートモデル(Mixture of Experts:ME)、Jordan型 ME(JME)を提案する。提案モデルでは時系列処理を可能にするため出力を入力の一部(文脈層)にフィードバックするJordanネットワークの構造をMEに付加している。Jordanネットワークでは一つであった文脈層を、必要とする過去の履歴情報を任意に設定できるように複数個に拡張している。提案モデルは従来法に比べ学習回数が大幅に減少している。時系列処理が可能な従来型リカレントニューラルネットワークの学習の多くは誤差逆伝播(Back-Propagation:BP)法を基本としていたため学習回数が非常に多いという問題点があった。提案法に用いるMEは学習対象となる複雑な問題を単純な問題に分割して考えるモジュール化アプローチを導入したモデルである。MEでは非常に高速なExpectation and Maximization(EM)アルゴリズムによって学習を行うことができる。計算機シミュレーションにおいて学習回数の点で従来法に比べ学習の高速性が確認された。
- 1997-03-18
著者
-
萩原 将文
慶應義塾大学理工学部情報工学科
-
木ノ内 誠
山形大学
-
木ノ内 誠
慶應義塾大学理工学部
-
田伏 未来
慶應義塾大学 理工学部 電気工学科
-
田伏 未来
慶應義塾大学
-
萩原 将文
慶應義塾大学大学院理工学研究科
-
萩原 将文
慶應義塾大学 理工学研究科
関連論文
- インターネットを用いた日本語入力システム(日本語処理・文法)
- 悪性黒色腫自動診断システムのためのダーモスコピー像からの腫瘍領域抽出
- 類推を行う言語処理ニューラルネットワーク
- 多様なデザイン機能を備えた感性を反映する日本語フォント自動作成システム
- A05 適合度付き感性ルール抽出法を用いた3Dキャラクター作成システム(感性デザインと情緒デザイン(デザイン理論・方法論研究部会),「想像」する「創造」〜人間とデザインの新しい関係〜,第56回春季研究発表大会)
- エージェント探索を用いた物体の追跡識別
- A10 美感を考慮したいけばな作成支援システム(感性デザインと情緒デザイン(デザイン理論・方法論研究部会),心「こころ」とデザイン,第55回春季研究発表大会)
- 基本動作認識による屋外駐車場の不審行動検知システム
- 進化的エージェント探索を用いた動画像からの物体追跡システム
- エージェント探索を用いた物体の追跡識別システム
- 想起と推論を行う言語処理ニューラルネットワーク (ニューロコンピューティング)
- Bee System : 集中的探索を用いた解の探索
- 人工生命的手法とファジイ推論を用いた避難行動に関する研究
- 人工生命的手法による画像の領域分割
- 対話型遺伝的プログラミングと電子化辞書を用いたキャッチコピー作成支援システム
- 電子化辞書と遺伝的プログラミングを用いたキャッチコピー作成支援システム
- 複数勝者自己組織化ニューラルネットワーク
- 3次元自己組織化メモリの提案と自然言語からの知識抽出への応用
- ニューラルネットワークのための単語間の関連情報を用いた単語のベクトル化
- 人間関係ネットワークに基づく情報推薦システムとその実装
- 評価エージェントを用いた対話型進化計算法によるインテリアレイアウト支援システム(知的創造作業支援)
- 文章概念記憶ニューラルネットワーク
- 領域表現を用いた四項類推を行うニューラルネットワーク
- 連想メモリのための適応クイック学習
- 追加学習可能なファジィ推論ニューラルネットワークの提案と画像認識への応用(理解技術におけるソフトコンピューティング)
- 学習機能を有する仮想空間作成システム(知的創造作業支援)
- カオスアナログ連想メモリ
- カオスアナログ連想メモリ
- 内部パターンを用いた逐次学習可能なカオス連想メモリ
- パルスニューラルネットワークにおけるネットワーク拡張型強化学習アルゴリズム
- 内部パターンを用いた逐次学習可能なカオス連想メモリ
- パルスニューラルネットワークにおけるネットワーク拡張型強化学習アルゴリズム
- ファジィ推論ニューラルネットワークを用いた風景画像の認識と解釈
- ニューラルネットワークを用いた位置情報に基づくインターネット広告配信システム
- パラメータ拡張可能な書体定義法とフォント自動作成システムへの応用(ヒューマンコンピュータインタラクション)
- 感性ルールベースを用いた日本語フォント自動作成システム(知識処理,インタラクション技術の原理と応用)
- カオスニューラルネットワークにおける逐次学習
- 双方向連想メモリの交点学習法
- カオス双方向連想メモリ
- カオス双方向連想メモリ
- 形容詞共起を用いた単語の印象推定法(自然言語処理)
- 3次元自己組織化メモリの提案と自然言語からの知識抽出への応用
- 基本動作認識による不審行動検知システム
- 意味記憶及びエピソード記憶ニューラルネットワーク
- 積極性と警戒心のバイアスを加味した強化学習
- 積極性と警戒心のバイアスを加味した強化学習
- 部分観測マルコフ決定過程下の強化学習のためのパルスニューラルネットワーク学習則(バイオサイバネティックス, ニューロコンピューティング)
- 部分観測マルコフ決定過程下の強化学習のためのパルスニューラルネットワーク学習則
- 運動視のニューラルネットワークモデル
- 味覚センサ開発のための基底最適化RBFNと味覚からの最適な成分濃度推定法
- 想起と推論を行う言語処理ニューラルネットワーク
- 一杉裕志編, 産業技術総合研究所テクニカルレポート, 「脳の情報処理原理の解明状況」, 出版社名:独立行政法人産業技術総合研究所, 発行日:2008年3月, A4版, 68頁, AIST07-J00012, URL:http://staff.aist.go.jp/y-ichisugi/besom/AIST07-J00012.pdf
- 擬似人工生命アルゴリズムに基づく相関ルール抽出の高速化手法
- 単語ベクトル生成法と追加学習可能な言語処理ニューラルネットワーク
- 視覚情報処理に基づく並列階層型ニューラルネットワークを用いた画像認識システム
- 短期抑圧現象を取り入れたパルスニューラルネットワークによる注視制御
- 短期抑圧現象を取り入れたパルスニューラルネットワークによる注視制御
- 追加学習可能な自己増殖型学習ベクトル量子化
- 多段階ファジー推論ニューラルネットワークを用いた画像認識システム(バイオサイバネティックス,ニューロコンピューティング)
- 構造的表現を用いた進化的形状デザイン支援システム
- 木構造表現を用いた進化的デザイン支援システム
- 局所並列処理のためのピクトグラム抽出アルゴリズム
- 3次元物体認識のための並列階層型ニューラルネットワーク
- 局所並列処理のための二値化アルゴリズム
- 局所並列処理による情景画像からの文字領域抽出アルゴリズム
- 対話型進化計算法によるインタリアレイアウト支援システム
- 人工生命的手法を用いた動的に変化する複数概念関係の抽出とその長期的予測
- ニューラル認知マップ
- ファジィ認知マップの自動生成手法の提案
- 文字デザインを例とした感性情報からのファジールール自動抽出法(感性情報処理)
- 視覚システムに基づく動物体認識ニューラルネットワーク
- ファジィ推論ニューラルネットワークを用いたテトリスのスキル獲得のための自動学習
- 履歴に基づく予測ルールを用いたコマンドライン予測インタフェース
- 部分特徴を有する3次元モデルを用いた実画像からの物体の検出と位置・姿勢推定
- 深層格を導入した言語処理ニューラルネットワーク
- Mixture of Experts を用いたリカレントネットワークによる時系列処理
- 特徴統合理論に基づく視覚ニューラルネットワークモデル
- カオスニューラルネットワークにおける逐次学習
- カオスニューラルネットワークを用いた重畳パターンの分離と多対多の連想
- カオスエピソード連想メモリ
- 擬似シンプレクス法併用型パラメータフリー遺伝的アルゴリズム(人工知能、認知科学)
- 複素リカレントニューラルネットワークを用いたメロディの記憶と想起(次世代ヒューマンインタフェース・インタラクション)
- 自己フィードバックを有する複素バックプロパゲーション
- 適応ファジー推論ニューラルネットワークとアクティブ探索法を用いた画像認識(画像認識,コンピュータビジョン)
- 適応ファジィ推論ニューラルネットワークとアクティブ探索法を用いた汎用画像認識(映像・マルチメディアとパターン認識・理解)
- 適応ファジィ推論ニューラルネットワークとアクティブ探索法を用いた汎用画像認識(映像・マルチメディアとパターン認識・理解)
- 適応ファジィ推論ニューラルネットワークとアクティブ探索法を用いた汎用画像認識(映像・マルチメディアとパターン認識・理解)
- ファジー推論ニューラルネットワークを用いた風景画像からの知識抽出と認識 (パターン認識のための学習 : 基礎と応用)
- 対話的進化手法によるマシンデザイン支援システム
- 対話的進化手法によるマシンデザイン支援システム
- 複数勝者自己組織化ニューラルネットワーク
- 優良個体と逆エリートの協調に基づく改良型遺伝的アルゴリズム
- 深層格を導入した言語処理ニューラルネットワーク
- ファジィ推論ニューラルネットワークによる位置関係を考慮した風景画像の認識
- ニューラルネットワーク最新事情(5) : 脳型コンピュータに向けて
- 複素ニューロンによる時系列の学習
- 新しい知識表現方法(領域表現)の提案とニューラルネットワークによる実現
- 言語情報を利用したシーン推定に基づく物体認識
- 概念の自動階層化による知識処理ニューラルネットワーク
- Hisao Ishibuchi, Tomoharu Nakashima, Manabu Nii著, 「classification and Modeling with Linguistic Information Granules: Advanced Approach to Linguistic Data Mining」, 出版社: Springer, 発行日: November 19, 2004, Hardcover 307頁+xi頁 US$129, ISBN 3-540-20767-8, 大きさ24c