電機産業労使 第1回わくわく科学・工作フェスタ

スポンサーリンク

概要

• 論文の詳細を見る

論文 | ランダム

• 積和演算に向いた8基底FFT Kernelの提案
• 無限級数に基づく多数桁計算の演算量削減を実現する分割有理数化法 (数値計算における前処理の研究)
• 分散メモリ型並列計算機による円周率の515億桁計算
• 分散メモリ型並列計算機による2, 3, 5基底一次元FFTの実現と評価
• 多数桁の円周率を計算するための公式の改良 : ガウスールジャンドルの公式とボールウェインの4次の収束の公式

もっと見る

スポンサーリンク