数値計算における誤差について

スポンサーリンク

概要

• 論文の詳細を見る

• Recent study on error analysis is aimed at error in floating-point calculation and round-off error in computer calculation. Against this tendency, this paper describes fundamental error analysis, especially error expansion and its effect in arithmetical calculation.

• 木更津工業高等専門学校の論文

著者

• 宮崎 靖則

  木更津工業高等専門学校基礎学系

関連論文

• 擬似乱数の生成とその検定
• 新電算機システム (M-150F) について
• 代数方程式における近接解の求解について
• 計算量と精度の関係及び幻影解について
• くりかえし計算の停止条件について
• 数値計算における誤差について
• 非線形方程式の球解について

スポンサーリンク