簡便法による分散計算の誤差

概要

論文の詳細を見る
1パスで分散を計算する方法としてよく用いられている簡便法:1/nΣ^^n__(i=1)xi^2-(1/nΣ^^n__(i=1)xi)^2の第1項(2乗和の平均)と第2項(平均の2乗)の累積誤差の振舞いを解析し,シミュレーション実験によって解析結果を確かめた.ただし,n個のデータは平均μ,分散σ^2の同一分布からの独立標本であるとみなし,計算はM進L桁の浮動小数演算によるものとした.n^2番目のデータのときにΣxi^2の指数部が1増加したとすると,1/nΣ^^n__(i=1)xi^2の累積誤差は次式で記述される(切り捨て,丸めの場合をそれぞれ EV,EVRと記す) : EV/n(μ^2+σ^2)=-n^2/n×{1-(1-(M-1)/M^2)n_2/n}M^(1-L),EVR/√<n>(μ^2+σ^2)=n^2/n√<(M-1)/M^2・n_2/n>・1/2√<3>M^(1-L)ただしn_2≦n<n_2M.n_1番目のデータを加えたときにΣxi^2の指数部が1増加したとすると,(1/nΣ^^n__(i=1)xi)^2の累積誤差は次式で記述される(切り捨て,丸めの場合をそれぞれEV,ETRと記す):ET/nμ^2=-2n_1/n{1-(1-(M-1)/M^2)n_2/n}M^(1-L),|ETR|/√<n>μ^2=2n_1/n×√<(M-1)/M^2・n_1/n>・1/2√<3>M^(1-L)ただしn_1≦n<n_1M.
一般社団法人情報処理学会の論文
1987-08-15