睡眠期間を導入したモデル選択付き追加学習

概要

論文の詳細を見る
神経回路の追加学習では、新しいサンプルの学習時に過去の学習事例を忘却すると言う問題が生ずる。これを解決するには、少なくとも過去の学習サンプルの一部を新しいサンプルと共に再学習しなければならない。だが、この学習には時間がかかるため、即応を要求される領域では残念ながら使用できない。これを解決するため筆者らは、運用時には丸暗記による高速学習を行い、夜間運用を休止している期間にモデル選択を含む遅い学習をおこなうことで、運用時の見掛け上の学習速度を高速化する手法を幾つか提案して来た。それらは、夜間の遅い学習期間において、少ないメモリ容量で質の良いモデル選択を如何に行うかという点に重点を置き、改良を重ねて来たものである。今回は、前回までのシステムを簡単化し、さらにノイズの混在する学習データに対しても安定して逐次的な学習を実現する手法を提案する。ベンチマークテストでは、k-Nearest Neighbor法に比べて少ないメモリ容量で学習ができ、かつ学習途中においてもk-Nearest Neighbor法と遜色無い汎化能力を示したので報告する。
社団法人電子情報通信学会の論文
2003-03-11