DFP法を用いた階層型ニューラルネットワークにおける過学習の抑制
スポンサーリンク
概要
- 論文の詳細を見る
This paper discusses a method for avoidance of overfitting which occurs during the training process of hierarchical neural networks with DFP updating formula. In comparison with a case of employing the back propagation algorithm for the updating formula, the training with the DFP formula finishes very quickly, but a frequency of the overfitting increases. In order to decrease the frequency, we have improved the algorithm so that the approximate inverse Hessian matrix is initialized at every hundred learning steps. The improved algorithm is applied to approximations of a sinc function with a variable as well as of a design space of an optimization problem with two variables. An repetition interval of the training procedure at which the approximate inverse Hessian matrix should be initialized is investigated. The interval exerts little influence upon the probability of obtaining good training results, whereas the probability of obtaining good testing results depends on the interval. As a result, the overfitting can be avoided successfully if the appropriate interval is maintained.
- 2008-03-25
著者
関連論文
- DFP法を用いた階層型ニューラルネットワークにおける過学習の抑制
- 2204 一次摂動法を用いた均質化法による繊維強化複合材料の確率応答特性解析(S14-1 応力集中と応答への取り組み,S14 先進材料の材料特性における弾性数理解析の新たな取り組み)
- 106 ばらつきを有するデータを用いたクリギング近似最適化(計算力学と最適化(1),OS19 計算力学と最適化)
- 3658 近似最適設計における勾配及び二次勾配の予測精度について(S24-5 最適設計・非線形問題,S24 数理・数値解析による先端材料評価)
- 107 近似構造最適設計における設計曲面の凸性の予測(OS2(1) 先端機能性材料の弾性解析)
- 106 繊維強化複合材料の微視構造設計のための近似最適設計手法に関する研究(OS1-2 微視構造設計,OS1 先端・機能材料のマルチスケール解析3)
- 1413 二次元矩形構造物の形状と材料組成の同時最適化における設計手順の影響(S18-3 材料設計・傾斜機能材料,S18 不規則性,不均一性構造・材料の数理モデルとその応用)
- 341 Kriging 法を用いた構造最適設計の計算効率の改善について
- 719 熱的機能発現のための中空繊維複合材料の均質化解析
- 821 複合材料平板の信頼性向上のための微視構造近似最適設計
- Kriging法を用いた近似構造最適設計への勾配法の適用(機械力学,計測,自動制御)
- 一次感度解析を用いた資源傾斜配分による骨組み構造の部材位置・断面形状の効率的同時設計(機械力学,計測,自動制御)
- 多峰性を有する非線形最適化問題のための凸部分集合単連結アルゴリズムの開発(機械力学,計測,自動制御)
- 519 空間予測法を用いた繊維強化複合材料の微視構造最適設計
- 4 空間予測法と勾配法の併用による構造最適設計
- 編み構造の幾何学的非線形性を考慮した編物複合材料の深絞り成形解析
- 317 構造物の熱変形緩和のための構造補強最適設計に関する研究
- ビーム部材挿入を想定した補強レイアウト・断面形状設計法 : 耐震設計への適用
- 多峰性を有する非線形最適化問題のための凸部分集合単連結アルゴリズムの開発
- 生体適合圧電薄膜に対する第一原理援用トリプルスケール解析の提案
- 第一原理計算によるエピタキシャル圧電薄膜の結晶成長予測
- ノイズを含むデータから作成した応答曲面の予測精度
- 等価介在物法を用いた一次摂動解析による球形粒子強化複合材料の確率均質化解析
- OS0419 一次摂動法を用いた短繊維強化複合材料の確率的質化解析(先端材料システムの力学とメゾスケールモデリング,オーガナイズドセッション)
- OS0418 繊維強化複合材料の微視的な弾性定数のばらつきに対するミクロ応力の確率応答解析(先端材料システムの力学とメゾスケールモデリング,オーガナイズドセッション)
- OS0119 繊維強化複合材料の繊維含有率の変動が確率的質化特性に及ぼす影響の解析(弾性数理解析とその応用,オーガナイズドセッション)
- 確率均質化解析を用いた複合材料の等価弾性特性のばらつき最小化のためのマイクロ構造設計 (JCOM-38 プログラム--材料・構造の複合化と機能化に関するシンポジウム)
- 3304 ハイブリッドクリギング法による近似構造最適化(J25-1 解析・設計の高度化・最適化I,ジョイントセッション,21世紀地球環境革命の機械工学:人・マイクロナノ・エネルギー・環境)
- 203 減衰を考慮した傾斜機能圧電薄膜の一般化された一次元熱弾性解析(材料力学I)
- 減衰を考慮した二層複合薄膜の一般化された一次元熱弾性解析
- 二層圧電複合円板における熱応力の制御
- 2206 構成材料の材料定数のばらつきによるGFRPの等価弾性定数の変動 : 微視構造の影響(S14-1 応力集中と応答への取り組み,S14 先進材料の材料特性における弾性数理解析の新たな取り組み)
- 2216 DFP法を用いたニューラルネットワークによる圧電複合円板の変位制御 : 学習の安定化について(S14-3 材料の傾斜機能性と圧電特性への取り組み,S14 先進材料の材料特性における弾性数理解析の新たな取り組み)
- 圧電材料の熱弾性解析とスマート機能の発現(研究展望)
- 3656 ステップ状印加電位分布による圧電複合円板の熱応力の制御 : 電極寸法の最適設計(S24-5 最適設計・非線形問題,S24 数理・数値解析による先端材料評価)
- 3640 減衰を考慮した非線形弾性材料の一般化された一次元熱弾性解析(S24-1 熱衝撃・熱弾性,S24 数理・数値解析による先端材料評価)
- P15 DFP法を用いた階層型ニューラルネットワークの勾配情報に基づく過学習の抑制法(OS2)
- P13 圧電二層複合円板における非定常熱弾性変位の効率的制御法(OS2)
- 703 減衰を考慮したはりの熱誘起振動の抑制(機械力学・計測制御I)
- はりの熱誘起振動の制御 : 圧電材料層と構造材料層の熱拡散率が異なる場合(材料力学IV)
- 338 三層複合円板における非定常熱弾性変位の適応的制御
- K-0613 横等方性材料と圧電セラミックスの二層複合円板における非定常熱弾性変位の制御(S05-4 複合材料システムの弾性数理モデリング(4))(S05 複合材料システムの弾性数理モデリング)
- 物体力を伴う直交異方性体の一般的解法
- 519 犠牲試験片のき裂進展特性が累積疲労荷重の推定精度に与える影響
- 809 圧電セラミックス円筒の一般化された熱弾性波動解析
- 部材のレイアウトと断面形状の相関を部分的に考慮した三次元補強設計法
- 均質化法による織物複合材料の三次元マイクロ構造設計 : 第2報 曲げ負荷時のマイクロスコピックな挙動の詳細解析
- 均質化法による織物複合材料の三次元マイクロ構造設計 : 第1報, 強度に及ぼす織物積層方向位置ずれの影響
- 最適設計手法の提案とコンピュータプログラムの開発(高分子系複合材料)
- Kriging法を用いた近似構造最適設計への勾配法の適用
- 一次感度解析を用いた資源傾斜配分による骨組み構造の部材位置・断面形状の効率的同時設計
- K12 圧電複合円板の熱弾性解析 : 変位又は応力の抑制(OS12 熱応力解析の進展とその周辺)
- 二層複合円板における熱変位のステップ状印加電位による抑制
- 118 ステップ状印加電位分布による圧電複合円板の熱応力の制御(材料力学III)
- 117 複合平板の一般化された一次元熱弾性解析(材料力学III)
- 105 繊維強化複合材料の微視構造設計のためのニューラルネットワーク近似における教師データの正規化範囲の影響(OS1-2 微視構造設計,OS1 先端・機能材料のマルチスケール解析3)
- 1418 二層複合円板における熱変位のステップ状印加電位による抑制(S18-4 積層材料・均質材料,S18 不規則性,不均一性構造・材料の数理モデルとその応用)
- 多層複合円板における熱弾性変位を制御するステップ状印加電位の決定(OS9a 先端材料の機能性評価と材料設計に関する数理解析)
- 非軸対称加熱を受ける圧電セラミックス円筒の非定常熱弾性逆問題(S13-3 圧電セラミックス・傾斜機能材料,S13 数理弾性力学応用の最前線)
- 圧電セラミックス多層複合平板の設計における近似最適化法
- 圧電材料の熱弾性解析とスマート機能の発現
- 713 二層複合円板における熱弾性変位を制御するステップ状印加電位の決定
- 810 緩和時間を考慮した圧電セラミックス円板の熱弾性問題
- 339 ニューラルネットワークを用いた圧電セラミックス多層複合平板の最適設計
- K-0611 複合材料の微視構造設計のための設計変数・設計手順に関する検討(S05-3 複合材料システムの弾性数理モデリング(3))(S05 複合材料システムの弾性数理モデリング)
- OS1420 等価介在物法を用いた一次摂動解析による繊維強化複合材料の確率均質化解析(弾性数理解析を用いた材料特性の理解への取り組み(2),オーガナイズドセッション)
- 2407 減衰を考慮した薄膜の一般化された一次元熱弾性問題 : 数値逆ラプラス変換法を適用した場合(OS24.一般セッション(2),オーガナイズドセッション)
- S0303-2-2 減衰項を考慮した薄膜の一般化された電磁熱弾性問題の解析([0303-2]材料機能性と強度に及ぼす環境と場の影響に関する弾性数理解析(2))
- T0101-3-6 モンテカルロシミュレーションを用いた粒子強化複合材料の確率均質化逆解析([T0101-3]マイクロ・ナノ材料システムの力学と強度・機能評価(3):先端材料システムの強度・機能解析(マクロ〜マイクロ・ナノ))
- S0303-3-5 非一様な微視的ばらつきを考慮した粒子強化複合材料の確率均質化解析([0303-3]材料機能性と強度に及ぼす環境と場の影響に関する弾性数理解析(3))
- S0303-2-3 熱応力制御をするための多層圧電複合円板の材料設計([0303-2]材料機能性と強度に及ぼす環境と場の影響に関する弾性数理解析(2))
- S0303-2-1 一様な加熱を受ける傾斜機能性薄膜の動的熱応力([0303-2]材料機能性と強度に及ぼす環境と場の影響に関する弾性数理解析(2))
- T0101-3-5 素材の弾性定数と強度のばらつきを考慮した粒子強化複合材料の微視的確率応力解析([T0101-3]マイクロ・ナノ材料システムの力学と強度・機能評価(3):先端材料システムの強度・機能解析(マクロ〜マイクロ・ナノ))
- 921 確率均質化法を用いた粒子強化複合材料の微視的応力の確率応答解析 : 素材の弾性定数がばらついた場合(OS9.材料の組織・強度に関するマルチスケールアナリシス(5),オーガナイズドセッション)
- 2408 材料定数の非線形性を考慮した圧電薄膜の一般化された一次元熱弾性解析(OS24.一般セッション(2),オーガナイズドセッション)
- 2402 二層複合円板における非定常熱変位の制約条件付き効率的制御(OS24.一般セッション(1),オーガナイズドセッション)
- 2401 二層圧電複合円板における非定常熱応力の効率的制御(OS24.一般セッション(1),オーガナイズドセッション)
- 2104 凸経路評価を用いたKCSSL法による大域的近似最適化(OS21.計算力学と最適化(1),オーガナイズドセッション)
- OS1406 圧電複合平板における熱応力の線形最適制御(弾性数理解析を用いた材料特性の理解への取り組み(1),オーガナイズドセッション)
- P013 最大熱応力を制御するスマート複合円板の解析 : 制約付き最適化問題(フェロー賞表彰対象ポスターセッション)
- 430 二次摂動法に基づく均質化法を用いた繊維強化複合材料の確率応答解析(OS5-2 応用,OS5 ものづくりを支える固体の数理解析と関東分野)
- 非一様な微視的ばらつきを有する短繊維強化複合材料の階層型確率均質化解析
- 204 経験セミバリオグラムを用いたクリギング近似におけるパラメータ同定の安定化
- 205 二層圧電複合円板における熱応力制御のための電極の最適化(計算力学)
- 204 自由表面の影響を考慮した複合材料の微視的応力解析(計算力学)
- 111 ミクロなばらつきの非一様性を考慮した複合材料の確率均質化解析(材料力学II)
- 103 半径方向に分極された圧電セラミックス円筒の非定常熱弾性逆問題(材料力学I)
- 102 非軸対称加熱を受ける圧電複合円筒の熱弾性逆問題(材料力学I)
- OS1412 摂動法を用いた粒子強化複合材料の確率均質化逆解析(OS14-3 複合材料・導電材料の弾性数理解析,OS-14 弾性数理解析の発展と新展開1)
- 1122 関数近似を用いた複合材料の確率均質化逆解析(OS11.機能性材料の応力解析と機能発現に関する数値シミュレーション(5),OS・一般セッション講演)
- OS1413 摂動法による複合材料のマルチスケール確率応力解析の高精度化に関する検討(OS14-3 複合材料・導電材料の弾性数理解析,OS-14 弾性数理解析の発展と新展開1)
- 1114 空孔のランダム変動を有する多孔質材料のマルチスケール確率応力解析(OS11.機能性材料の応力解析と機能発現に関する数値シミュレーション(4),OS・一般セッション講演)
- 1118 近似最適化のための均一サンプリング手法の効率化(OS11.機能性材料の応力解析と機能発現に関する数値シミュレーション(4),OS・一般セッション講演)
- 1103 減衰を考慮した薄膜の動的熱弾性解析(OS11.機能性材料の応力解析と機能発現に関する数値シミュレーション(1),OS・一般セッション講演)
- OS2605 非軸対称加熱を受ける圧電複合円筒の非定常熱弾性逆問題(OS26-1 西谷弘信セッション1,OS-26 西谷弘信セッション)