姫野ベンチマークのGPUマルチノード実行における通信と演算のオーバーラップによる高速化 〜32GPUで700GFLOPS超を達成〜
スポンサーリンク
概要
- 論文の詳細を見る
GPUマルチノードシステム上でプログラムを実行する際は,GPU-GPU間の直接通信が行えないため,CPUを介してのノード間通信が必要となる.CPU-GPU間の通信が頻繁に生じ,スケーラビリティを向上させる上でのボトルネックとなりうる.姫野ベンチマークを対象に,通信と演算を同時に実行することで通信時間を隠蔽し,スケーラビリティの向上を試みた.サイズXLの,配列サイズが最長となる次元をZ方向からX方向に変更した問題について測定を行った.NVIDIA Tesla S1070 32GPUを使用し,709GFLOPSの実効性能(実効メモリバンド幅1.17TByte/sに相当)を実現した.通信と演算のオーバーラップ実行による性能向上は55%超となる.この手法は,通信と演算を同時に処理できる他の問題についても適用可能であり,GPUマルチノードシステム上での高並列化実行について,その可能性を示すことができた.
- 2009-06-05
著者
-
青木 尊之
東京工業大学学術国際情報センター
-
額田 彰
東京工業大学学術国際情報センター
-
遠藤 敏夫
東京工業大学グローバルCOE
-
松岡 聡
国立情報学研究所
-
松岡 聡
東京工業大学
-
青木 尊之
東京工業大学・学術国際情報センター
-
長谷川 篤史
株式会社NEC情報システムズ
-
青木 尊之
東京工業大学
-
遠藤 敏夫
東京工業大学 学術国際情報センター
-
加藤 季広
日本電気株式会社hpc事業部
-
長谷川 篤史
株式会社nec情報システムズ先端技術ソリューション事業部
-
額田 彰
東京工業大学|jst Crest
-
遠藤 敏夫
東京工業大学
関連論文
- 異種アクセラレータを持つTSUBAMEスーパーコンピュータのLinpack評価(GPGPUコンピューティングの数理)
- CUDAによる高速フーリエ変換(GPGPUコンピューティングの数理)
- 双曲型方程式のGPUによる高速計算(GPGPUコンピューティングの数理)
- 低アスペクト比トカマク炉におけるアルファ粒子のリップル損失
- 「GPGPUコンピューティングの数理」特集号に寄せて(GPGPUコンピューティングの数理)
- GPUコンピューティングによるCFDの超高速計算(第22回数値流体力学シンポジウム)
- 四種プロセッサからなるヘテロ型スーパーコンピュータにおけるLinpackチューニング(並列アプリケーション実装,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- 3・5 GPGPUについての研究動向(3.計算力学,機械工学年鑑)
- AP-1-5 GPUのストリーミング計算によるHPCアプリケーションの高速化(AP-1.回路とシステム領域におけるメニコア計算機の活用,パネルセッション,ソサイエティ企画)
- 3 フルGPUによるCFDアプリケーション(アクセラレータ,再び-スパコン化の切り札-)
- GPGPUによる保存形IDO法の圧縮性流体計算
- CUDAによるプラズマ2流体不安定性計算の加速
- シューメイカー・レビー彗星と木星との衝突シミュレーション(シューメーカー=レビー第9彗星の木星衝突)
- 446 レイトレーシング法による台風シミュレーションの可視化(CGと計算力学,OS02 CGと計算力学)
- CIP有限体積法による風波シミュレーション
- 放電励起高エネルギー密度プラズマの短波長コヒーレント光源への応用
- 高速放電励起軟X線レーザーの短波長化
- 原子炉熱流動の微視的シミュレーション
- 「GPGPUコンピューティングの数理」特集号に寄せて
- ルンゲ・クッタ時間積分を用いた局所補間微分オペレータ(IDO)法による双曲型方程式解法の計算精度と数値安定性の向上
- マルチGPUによるフェーズフィールド相転移計算のスケーラビリティー-40GPUで5 TFLOPSの実効性能
- CUDAによる Poisson 方程式の定常反復計算
- CUDAによる定常反復Poissonベンチマークの高速化(並列化と高速化)
- 307 G80-GPUによるIDO法を用いた流体計算(OS03.CIP型マルチモーメント・スキームの新展開,ポスターセッションP-5)
- 低価格パソコンを用いたMotion JPEG, DV, MPEG2による高品位な動画の作成と再生
- レイトレーシングを用いた爆風伝播の可視化(OS22a CGと計算力学)
- 保存形IDO(局所補間微分オペレータ)法(CIP法)
- Conservative interpolated differential operator (IDO) scheme(Summaries of Papers Published by Staff of National Maritime Research Institute)
- 高精度保存形スキームによる自由界面を含む流れの解析(所外発表論文等概要)
- 保存形IDO法による圧縮性および非圧縮性流体解法(所外発表論文等概要)
- 429 個別要素法を用いた落石シミュレーション(環境・社会・防災シミュレーション2,OS12 社会・環境・防災シミュレーション)
- 2212 高次精度保存形スキームによる自由界面を含む流れの解析(S01-3 CIP法の新展開と保存形(3),S01 CIP法の新展開と保存形)
- 2203 保存形IDO法による圧縮性および非圧縮性流体解法(S01-1 CIP法の新展開と保存形(1),S01 CIP法の新展開と保存形)
- 1605 グリッドコンピューティングによる気泡流シミュレーションの可視化(OS-16B,OS-16 CGと計算力学)
- 2602 IDO法によるコロケート格子での流体計算に対する流速と圧力の安定なカップリング手法(OS-26A CIP 法および多相流解析技術の最近の進展,OS-26 CIP 法および多相流解析技術の最近の進展)
- 638 CIP法およびIDO法の計算精度(S04-1 ここまで来たCIP法とその将来(1),S04 ここまで来たCIP法とその将来)
- 523 血管適合細分化計算による高解像度血流解析(GS-09 : 生体内流れの解析(2))
- 直交格子でのイメージベースト血流計算手法の開発(イメージベースト連成バイオメカニクス)
- 20503 稠密炉心内3次元気泡流構造に関する大規模シミュレーション(大規模数値解析(1),OS11 大規模数値解析)
- 3.2 低アスペクト比トカマク炉のアルファ粒子閉じ込め(3.高閉じ込めは高ベータと両立するか?, 球状トカマクの実用炉への展望-トカマクの低アスペクト比化への挑戦-)
- ST炉におけるアルファ粒子閉じ込めに関する諸問題
- F0103(2) CUDAによる流体計算のGPUコンピューティング : 100倍の高速化を目指して([F0103]計算力学の新たな潮流-GPGPU,FPGA,CELLコンピューティング-,先端技術フォーラム)
- 2313 炉心内複雑二相流挙動に関する数値解析(S42-3 複雑流体の流動現象(3),S42 複雑流体の流動現象)
- 4.CIP法を用いた流体解析(パーソナルコンピュータで行うプラズマ解析)
- 324 微小流路内大規模気泡流構造に関する数値予測(J11-2 流体情報学と可視化(2),J11 流体情報学と可視化,2005年度年次大会)
- 姫野ベンチマークのGPUマルチノード実行における通信と演算のオーバーラップによる高速化 〜32GPUで700GFLOPS超を達成〜
- GPGPUによる最先端流体シミュレーション : CUDAによるHPCアプリケーション開発
- 垂直軸型風車周りの流れの重合格子IDO法によるシミュレーション
- 局所補間微分オペレータ法による二次元一様等方性乱流の直接数値計算(流体工学,流体機械)
- 443 地球磁場変動ダイナモシミュレーションにおける大規模データの可視化(CGと計算力学,OS02 CGと計算力学)
- 自由表面を含む粒子群-流体連成解析
- 1303 境界埋め込み法を用いた地盤の液状化解析手法の開発(OS13.社会・環境・防災シミュレーション(1))
- 鉛直狭隘流路内大規模気泡流に関する数値的可視化
- 628 AMRを用いた衝撃波による構造物飛散の数値シミュレーション(S09 直交適合格子による計算手法)
- 姫野ベンチマークのGPUマルチノード実行における通信と演算のオーバーラップによる高速化 : 32GPUで700GFLOPS超を達成
- マルチメジャーを用いた計算手法(CIP法、IDO法)
- 複雑形状の複雑でない計算法(コンピュータが描く科学の世界)
- J0501-3-5 回転体の気液二相流数値計算(流体機械の研究開発におけるEFD/CFD(3))
- GPUを用いたCIP法によるプラズマ2流体不安定性の高速シミュレーション
- T11 コンピュータグラフィックスを応用した計算力学における可視化概論
- 127 粒子法を用いた複雑形状のミクロスケール血流シミュレーション(OS1-09 : 生体マイクロ・ナノ構造モデル(2),マイクロ・ナノバイオメカニクス)
- GPUによるラージエディ・シミュレーションの高速化(注目研究in年会2010)
- 2206 重合格子IDO法による移動境界問題の計算(S01-2 CIP法の新展開と保存形(2),S01 CIP法の新展開と保存形)
- メソスケール気象モデルASUCAのTSUBAME 2.0での実行 (第24回数値流体力学シンポジウム特集) -- (特集 注目研究in CFD24)
- GPUによるラージエディ・シミュレーションの高速化(乱流の予測とモデリング(1),一般講演)
- 並列計算技術の最新動向 : スパコンと流体アプリケーション
- 円筒形状における気液二相流数値計算(数値計算(2),一般講演)
- 高次精度保存型IDO法によるラージエディ・シミュレーション(数値計算(2),一般講演)
- シューメイカー・レビー彗星と木星との衝突シミュレーション
- GPUスパコンによる非静力学平衡モデルの大規模気象計算
- メソスケール気象モデルASUCAのTSUBAME 2.0での実行(注目研究in CFD24,第24回数値流体力学シンポジウム)
- GPUによる樹枝状凝固成長のフェーズフィールド計算
- GPUによる樹枝状凝固成長のフェーズフィールド計算
- 次世代気象モデルのフルGPU計算--TSUBAME 2.0の3990GPUで145TFlops
- 次世代気象モデルのフルGPU計算--TSUBAME 2.0の3990GPUで145TFlops
- GPUコンピューティング(新用語解説)
- 408 マルチGPUノードにおける3次元Phase Fieldモデルの高速計算(OS4.GPGPUによる計算力学(2),オーガナイズドセッション)
- 402 GPUによる高次精度移流スキームの演算性能(OS4.GPGPUによる計算力学(1),オーガナイズドセッション)
- 626 GPUによる3次元Cahn-Hilliard方程式に基づく相分離計算(OS3.GPGPUコンピューティング(3),オーガナイズドセッション)
- 621 GPUを用いた保存形IDO法による高精度圧縮性流体の高速計算(OS3.GPGPUコンピューティング(2),オーガナイズドセッション)
- 617 フルGPUによるCFDアプリケーション(OS3.GPGPUコンピューティング(1),オーガナイズドセッション)
- Direct Numerical Simulation of Turbulent Flows by Conservative IDO Scheme(Summaries of Papers Published by Staff of National Maritime Research Institute at Outside Organizations)
- Turbulent Flow Computations by Conservative Interpolated Differential Operator (IDO) Scheme(Summaries of Papers Published by Staff of National Maritime Research Institute)
- 部分的にセミ・ラグランジュ法を導入したルンゲクッタ時間積分IDO法の開発(所外発表論文等概要)
- 保存形IDO法による乱流DNS(所外発表論文等概要)
- 部分的にセミ・ラグランジュ法を導入したルンゲクッタ時間積分IDO法の開発
- 保存形IDO法による乱流DNS
- 616 LES乱流モデルを用いた保存型IDO法によるチャネル乱流計算(OS2.CIP法とその関連手法(4),オーガナイズドセッション)
- 615 IDO法によるPassive Scalarの乱流計算(OS2.CIP法とその関連手法(4),オーガナイズドセッション)
- 完全Divergence-Free形式の保存型マルチモーメント法(数値計算(1),一般講演)
- 304 CIP有限体積法による風波乱流場の数値シミュレーション(OS3.CIP法とその関連手法(1),オーガナイズドセッション)
- 404 3次元格子ポルツマン法による非圧縮流体ソルバーのGPUによる加速(OS4.GPGPUによる計算力学(1),オーガナイズドセッション)
- 308 マルチモーメントを用いたコンパクト・スキームの開発(OS3.CIP法とその関連手法(2),オーガナイズドセッション)
- GPUスパコンを用いた大規模数値シミュレーション(最先端研究)
- 複数ノードのGPUによる大規模パッシブスカラー粒子計算の強スケーリングと動的負荷分散
- 308 保存形IDO法の安定性解析(OS03.CIP型マルチモーメント・スキームの新展開,ポスターセッションP-5)
- 気液二相流シミュレーションの大規模GPUコンピューティング
- ACMゴードンベル賞・特別賞&SC'11テクニカル・ペーパー TSUBAME 2.0スパコンにおける樹枝状凝固成長のフェーズフィールド法を用いたペタスケール・シミュレーション (SC'11特集号)
- フォトリアリスティック・レンダリングによる科学技術計算のビジュアライゼーション
- W052001 GPUコンピューティングによる超大規模流体解析の高速演算([W05200](流体工学部門,計算力学部門企画),流体コードの高速演算と大規模モデルの取扱)