多層ネットの解濃度とハードウェア化におけるスケーリング法に関する考察
スポンサーリンク
概要
- 論文の詳細を見る
本論文では,入力パターンがアフィン変換の関係にある学習課題に対して,同一構造の多層ネットは,シグモイド関数の極性や値域幅の大きさによらず等しい濃度の解を持つことを明らかにする.この結果は,多層ネットをアナログハードウェア化する際のスケーリング問題に適用できる.入力パターンやシグモイド関数の値域がK倍に拡大された場合,バイアスはそのままにして荷重を1/K倍すれば,分離能力や汎化能力は保存される.また,荷重やバイアスの初期値を上記のように設定した場合,バイアス更新と荷重更新に対する学習係数をそれぞれ1/K^2倍と1/K^4倍にすれば,誤差逆伝搬(BP)学習の収束挙動は元のものと等価になる.さらに,通常のように,荷重とバイアスの初期値を同一分布の一様乱数で設定し,双方の更新に対する学習係数を等しく与えてBP学習させた場合,良好な収束を与える初期値はKの増大とともに小さくなることをシミュレーションにより示す.
- 一般社団法人情報処理学会の論文
- 1996-08-15
著者
-
井上 勝裕
九州工業大学情報工学部システム創成情報工学科
-
五反田 博
近畿大学産業理工学部電気通信工学科
-
白土 浩
近畿大学大学院産業技術研究科
-
五反田 博
近畿大学九州工学部電気情報工学科
-
熊丸 耕介
九州工業大学 情報工学部
-
井上 勝裕
九州工業大学
-
白土 浩
近畿大学九州工学部
-
熊丸 耕介
九州工業大学
-
五反田 博
近畿大学九州工学部電気工学科
関連論文
- 独立成分分析におけるSN比推定と成分置換是正による分離能力の違い
- ブラインド信号分離の基本的手法とその応用(新たな音信号の処理技術-音響と生体計測における基礎理論から応用まで)
- 無線通信におけるブラインド信号分離の試み(EMC一般)
- QAM-OFDMにおける周波数オフセットと伝送路のブラインド推定(留学生による日本語技術論文)
- OFDMにおけるキャリア間干渉のICAによる解消について(無線,ネットワークプロセッサ,通信のための信号処理,無線LAN/PAN,一般)
- OFDMにおけるキャリア間干渉のICAによる解消について(無線,ネットワークプロセッサ,通信のための信号処理,無線LAN/PAN,一般)
- OFDMにおけるキャリア間干渉のICAによる解消について(無線,ネットワークプロセッサ,通信のための信号処理,無線LAN/PAN,一般)
- 音源の位置情報を利用した実環境下での雑音除去と目的音声の抽出
- FastICAに基づく騒音環境下での話者音声の抽出
- セミブラインドデコンボリューションによる目的音声の抽出法
- 時間-周波数領域におけるブラインド信号分離
- 階層型ニューラルネットワークの初期値設定問題に関する仮説検定および写像の観点からの検討
- ブラインド信号分離の基本的手法とその応用
- 周波数領域畳込みモデルに基づく高残響下での音源分離
- ICAによるOFDM周波数オフセットの推定とシンボル復元(ディジタル信号処理)
- 実環境下での伝達特性を利用した周波数領域ICAの成分置換問題の解決
- 独立成分分析に基づく耐高残響音源分離に関する研究
- 階層型ニューラルネットの冗長中間ユニット判別に関する検討
- 分割スペクトルのエントロピーに基づく成分置換解消法
- ブラインド信号分離による雑音除去法のSN比改善量の近似的評価法
- ニューラルネットワークによる味センサ出力から味物質濃度への変換
- 周波数領域ICAにおける成分置換解消法
- 定常雑音下における音声区間検出とSN比の推定
- 分割スペクトルのパワーと位相に基づく成分置換の解法(信号処理,LSI,及び一般)
- 分割スペクトルのパワーと位相に基づく成分置換の解法(信号処理, LSI, 及び一般)
- 分割スペクトルのパワーと位相に基づく成分置換の解法(信号処理, LSI, 及び一般)
- OFDMにおけるキャリア間干渉の独立成分分析による解消
- 正負の事例の提示頻度の逆伝搬学習に与える影響
- 誤差逆伝搬学習アルゴリズムの初期値設定法
- 音源の位置情報を利用した目的音声の抽出法
- ウェーブレット手法の脳波解析への応用(ウェーブレット変換の展開)
- 並列型NNによる3Dビジョンの性能向上法
- ニューラルネットを利用したロボットビジョンの実データによる性能検討
- 相似パターンの多層ネットによる認識および回転角と拡大縮小比の検出
- 幾何学的アプローチによる多層ネットの初期値設定
- 相似パターンの多層ネットによる学習と認識
- 出力ユニットにおける内部誤差を最小にする学習アルゴリズム
- ユニット極性の逆伝搬学習に及ぼす影響
- 冷却条件を考慮に入れた部品配置に関する検討
- 正負事例の提示頻度の逆伝搬学習に与える影響
- 逆伝搬学習におけるシグモイド関数の極性と収束の関係
- 階層型ニューラルネットワークの初期写像と学習の収束について
- 多機能端末制御プログラムの開発
- 雑音構造解明のための新しい雑音情報
- ブロックパルス関数による連続系のむだ時間とパラメータの推定
- パルス伝達関数システムの次数決定にAICを適用した場合の問題点について
- モデル相関残差に基づくプロセスおよび雑音次数の統一的決定法
- 線形離散値システムにおけるプロセスと雑音特性の逐次形次数決定法
- 線形離散Ti系の次数決定のための次数検定統計量と逐次アル線形離散値系の次数決定のための次数検定統計量と逐次アル
- 味センサの複合味応答に対するニューラルネットワークを用いた濃度推定
- 三層BPネットの初期値設定と訓練データの正規化について
- モジュール構造ネットワークによる時系列信号認識
- 多層ネットにおける冗長な中間ユニット削除に関する検討
- 構造学習における初期値設定に関する検討
- 三層ネットの初期値設定に関する考察
- 入力集合の可分離性から見た両極型ネットの収束上の優位性
- 入力集合の可分離性と両極型ネットの収束上の優位性
- 幾何学的アプローチによる多層ネットの初期値設定
- ネット極性による解領域の相違
- 多層ニューラルネットワークに対する解の必要条件の定式化
- 多層ネットの解濃度とハードウェア化におけるスケーリング法に関する考察
- 形状変化に適応した曲面当てはめ法による曲率推定と画像分割へのその応用
- D-7-2 脳波睡眠段階の一般化正規分布による同定(D-7.MEとバイオサイバネティックスA(バイオサイバネティックス),一般講演)
- 気液二相流の波脈に関する研究 : 第3報,団塊波とじよう乱波の判別と団塊波の特徴
- 光刺激誘発電位を利用したBCIに関する基礎的研究
- モルフォロジー多重解像度解析を用いた動作想像および認知時脳波波形解析(モルフォロジーセッション,システムオンシリコン,RFID技術及び一般)
- 独立成分分析を用いた視覚認識時応答脳波のパタン識別
- AS-4-7 右手左手動作想像時の脳波波形パタン識別 : モルフォロジカルフィルタを用いた特徴抽出(AS-4.マセマティカル・モルファオロジーの新展開とその応用,シンポジウム)
- 睡眠段階の自動判定のアルゴリズム
- シミュレータによる非線形システムの短時間同定法
- ウェーブレットの脳波解析への応用 (ウェーブレットの構成法と理工学的応用)
- KDI-Based Robust Fault Detection in Presence of Nonlinear Undermodeling
- A Hybrid Quasi-ARMAX Modeling Scheme for Identification of Nonlinear Systems
- 最小2乗推定量の漸近バイアスについて
- 独立成分分析の基礎と応用 (ウェーブレットの発展と理工学的応用)
- BCIにおける脳波解析のためのモルフォロジカルフィルタ設計
- 状態空間モデルを用いた視覚誘発電位からの刺激系列推定
- ニューラルネットワークを用いた適応制御系の故障判定
- A Hybrid Robust Identification Using Genetic Algorithm and Gradient Method
- 統計的パタ-ン認識法による睡眠脳波のステ-ジ判定
- 複数個の未知ジャンプパラメ-タを含む非線形系の識別同定法
- 実時間解析による睡眠脳波パタ-ンの特徴抽出と識別法
- ベクトル勾配法を用いたセンサの異常診断法
- A-4-37 QAM-OFDMにおける伝送路のブラインド推定(A-4.信号処理,一般セッション)
- A-4-17 フレーム毎の音源方向推定について(A-4.信号処理,一般セッション)
- 複合ダイナミックスパタ-ン変化を伴う線形系の識別同定
- 初期値設定法が構造学習におけるルール生成機能に及ぼす影響
- 幾何学的観点に基づく冗長中間ユニット判別に関する検討
- 幾何学的観点に基づいた冗長ユニット削除アルゴリズムに関する考察
- 構造学習における幾何学的な初期値設定手法の有効性に関する検討
- ニューラルネットによる利用者識別システム構築に関する検討
- ニューラルネット汎用ライブラリの構築について
- 計測自動制御学会九州支部奨励賞の授与にあたって
- A Neurofuzzy-Based Adaptive Predictor for Control of Nonlinear Systems
- Quasi-Linear Adaptive Control of Theory for Nonlinear Systems
- A Learning Network Based Modeling Scheme for Nonlinear Black-Box Systems
- A Hybrid Quasi-ARMAX Modeling and Identification Scheme for Nonlinear Systems
- 適応制御系におけるファジ-推論を用いた異常診断方法
- 不規則デ-タ処理による異常診断--カルバック識別情報量の応用 (確率システムと不規則デ-タ処理特集号)
- カルバック識別情報量規範を用いた故障検出とモデル評価