初等関数の精度低下防止法
スポンサーリンク
概要
- 論文の詳細を見る
初等関数の計算において、多倍長演算を使わずに、できるだけ精度を保って計算する注意事項をまとめる.さらに、対数ガンマ関数、べき乗関数、√<(x^2+y^2)>等については、精度を保つ計算方法を提案する.
- 一般社団法人情報処理学会の論文
- 1989-10-16
著者
関連論文
- 三重対角行列の固有値を求めるための諸算法について
- 方程式の全根を求める方法
- 初等関数の精度低下防止法
- Xが中間領域の場合のベッセル関数の近似計算
- 多重積分への加速法の適用
- 検査工程における品質管理技術 (SWQC)