オーバーフローのない数値計算環境の実現(その2)
スポンサーリンク
概要
- 論文の詳細を見る
計算機内部の浮動小数点数の表現はパソコンやワークステーションを中心にIEEE規格か定着し、ここしばらくはIEEE規格の時代か続きそうである。倍長浮動小数点数の指数部は従来のものより若干長くなったものの、依然としてオーバーフローやアンダーフローを起こす問題には弱い。指数部15ビットの拡張精度型もあるが一部のマシンの一部のコンパイラがサポートしているのみである。またオーバーフローやアンダーフローの解消を目的とする新しい浮動小数点数の表現として、松井・伊理の方式や浜田の方式も提案されているが残念ながら普及するには至っていない。筆者は現行のハードウェアを前提として、ソフトウェアでオーバフローやアンダーフローのない実用的な計算環境を実現するにはどうしたら良いかについて考察し、以下に述べるような効率の良い実現をみた。言語はCおよびC++を使用している。前回の報告より対応機種か増え、いくつかの関数の計算速度の向上と高精度化かなされた。
- 一般社団法人情報処理学会の論文
- 1990-03-14
著者
関連論文
- 低速入出力制御装置を用いた計算機間結合とそのソフトウェア
- オーバーフローのない数値計算環境の実現(その2)
- 曲げ剛性のある弦の波動方程式に対する無条件安定な差分スキーム
- 拡散方程式に対する最適な差分スキーム
- オーバーフローのない数値計算環境の実現
- オーバーフローのない計算のための浮動少数点演算パッケージ