浮動小数点演算における相対丸め誤差の平均と分散について
スポンサーリンク
概要
- 論文の詳細を見る
この論文では, 仮数分布は逆数分布であるという仮定を用い, 浮動小数点演算において生ずる相対丸め誤差の分布を求めている. また, 適合度の検定を行うことによって, その分布の妥当性を確認している. その分布を用いて, 相対丸め誤差の平均, 分散を与える公式も導いている. この公式は, パラメータd(≡b^<-t>, bは基底で, tは仮数の語長)のベキ級数展開の形をとっていて, その第一項はTsao等によって得られた公式そのものである. 実験結果は, 有効桁が少ないとき(dが大きいとき)は本論文の公式の方が秀れていることを示している.
- 一般社団法人情報処理学会の論文
- 1980-03-15
著者
関連論文
- 平方根を計算する高次収束法とその計算量の比較:$0(n^2)$の高速除算法による計算に関して(数値解析と科学計算)
- 多倍長演算のための平方根の高速計算法
- n乗根の連分数展開と誤差評価II
- On the Existence Theorems of BDF and Adams type Second Derivative BDF with Nonnegative Coefficients
- 非負係数を持つ線形多段階法の存在条件(常微分方程式の数値解法)
- 浮動小数点演算における絶対丸め誤差のモーメントの存在とその推定
- 浮動小数点演算における相対丸め誤差の平均と分散について
- 実数値の浮動小数点表現における仮数の分布と下位桁の漸近的性質