絶対値表現されたエネルギー関数の最小化

概要

論文の詳細を見る
ニューラル・ネットワークの応用の1つに、エネルギー関数の最小化による最適化問題の解法がある。従来の方法では、エネルギー関数が常に非貫になるよう、目標値との差の2乗の形でエネルギーを表現してきた。通常ネットワークのエネルギー関数はユニット状慰の2次形式で与えられるため、この方法では線形の制約しか扱えないことになる。われわれはネットワークのエネルギー関数に高次頃を導入し、非線形の制約をも扱えるように拡張した[1][2]。このエネルギー関数は、従来のエネルギー関数の自然な拡張になっており、任意の吹数nの制約(最適化問題)を、2n次のエネルギー関数の最小化によって解くことができる。しかし、n次の項数はmCn個(m:ユニットの個数)になるため、エネルギー関数が高次になるにしたがって、必要なユニット、およびユニット間の結合数が爆発的に増大するという欠点がある。そこで、n次の制約をn次のエネルギー関数で直接表せるよう、エネルギー関数を目標値どの差の絶対値で表現し、これを最小化する手法を考案、実現した。これにより、ネットワーク規模の増大を大幅に抑えることが可能となった。
一般社団法人情報処理学会の論文
1991-02-25