On the Error Estimation in Floating-point Arithmetic

スポンサーリンク

概要

• 論文の詳細を見る

• A new method to estimate calculation errors in floatintpoint arithmetic is shown. The new error bound formula in addition or subtraction gives more precise estimates of error bound than Wilkinson's formula.

• 一般社団法人情報処理学会の論文

著者

• Yamashita Shin-ichiro

  Department Of Software Fujitsu Limited

関連論文

• On the Error Estimation in Floating-point Arithmetic

スポンサーリンク