一般化した二重指数分割に基づく数値表現法

スポンサーリンク

概要

論文の詳細を見る
浜田の提案したURR(Universal Representation of Real numbers)表現は絶対値が1から離れるに従って、急速に精度が悪化するという欠点がある。この欠点を改善するために一般化した二重指数分割に基づく数値表現法を提案する。URR表現は二重指数±2^<±2>^mで実数を大まかに近似するが、本論文ではこれを±p^<±q>^mと一般化した。この一般化した表現ではpとqを大きくすることで、大きな実数に対してURR表現よりも少ないビット数で近似できるようになる。特にp=4、q=16と選ぶことによって、URR表現に比べ広範囲で精度の良い二重指数分割に基づく数値表現法となる。この一般化した数値表現は数々のURR表現の長所を有し、急速な精度の悪化も抑えている。この数値表現で実際に簡単な数値計算を行い、URR表現に比べ精度が良い本数値表現の有効性を検証した。
一般社団法人情報処理学会の論文
1998-03-15

著者

関連論文

もっと見る

スポンサーリンク