階層型ニューラルネットワークの微分形

概要

論文の詳細を見る
階層型ニューラルネットワークの微分形は既知である。しかし用途は少ない。ニューラルネットワークは学習点で正しい応答をする一方未学習点の応答の信頼性は低い。未学習点に関する情報は様々な工業的応用に使用される。この問題は学習方程式の非対称性により生じる。これは方程式の概念の性質である。それは元ニューロン系から継承された。我々はその非対称性を回避し得ない。それゆえ我々は未学習点の情報を十分に使用できない。複雑な処理ではニューラルネットワークの規模は大きくなる。その場合BP学習は効果的でない。限りあるCPUの下ではニューラルネットワークを分割する必要がある。分割時、複数の学習方程式は相互に作用する。その相互作用は連続性、微分接続性であろう。ニューラルネットワークの結合で構築されるニューロンコンピュータは、非ノイマン機械の一つである。その結合は、独立したネットワークの単純集合ではなく相互に作用する。その相互作用を論じるために微分形は有用である。我々は5次項までの微分式を導き、それらから相互作用ネットワークの学習方程式を導いた。
一般社団法人情報処理学会の論文
2000-12-08