実数値の浮動小数点表現における仮数の分布と下位桁の漸近的性質
スポンサーリンク
概要
- 論文の詳細を見る
一般に, 浮動小数点演算においては仮数の分布は必ずしも逆数分布であるとは限らず様々な分布を呈する. したがって, 丸め誤差も様々な分布を呈する. この論文では, 任意の分布をもった実数値のb進浮動小数点表現において仮数の第n桁の値がa(aは整数で, 0≤a≤b-1)である確率を求め, その確率分布と離散的な一様分布との差を導出している. そして, 仮数が微分可能な確率密度関数を持ち, その導関数が有界であるならば, 下位桁の分布はほとんど一様分布に近いものになることを証明している. したがって, ほとんどの場合仮数部の丸め誤差は一様に分布しているとして良い. この論文の結果は, A. Feldstein, R. Goodman等が仮数分布が一様分布である場合に導出した結果の一般化でもあり, また浮動小数点演算における相対誤差分布の導出に役立つであろう.
- 一般社団法人情報処理学会の論文
- 1979-11-15
著者
関連論文
- 平方根を計算する高次収束法とその計算量の比較:$0(n^2)$の高速除算法による計算に関して(数値解析と科学計算)
- 多倍長演算のための平方根の高速計算法
- n乗根の連分数展開と誤差評価II
- On the Existence Theorems of BDF and Adams type Second Derivative BDF with Nonnegative Coefficients
- 非負係数を持つ線形多段階法の存在条件(常微分方程式の数値解法)
- 浮動小数点演算における絶対丸め誤差のモーメントの存在とその推定
- 浮動小数点演算における相対丸め誤差の平均と分散について
- 実数値の浮動小数点表現における仮数の分布と下位桁の漸近的性質