MPI_Allreduceの「京」上での実装と評価
スポンサーリンク
概要
- 論文の詳細を見る
本報告では,8 万台以上のノードを直接網で結合した 「京」 における MPI 集団通信の高速化について述べる.従来の MPI 集団通信アルゴリズムは,間接網向けのアルゴリズムが主体であり,これを直接網に適用してもメッセージの衝突のため効率的な通信ができない.このため,高い通信性能を得るためには直接網を意識した集団通信アルゴリズムが必須となる.そこで我々は,トーラス向け Allreduce アルゴリズム Trinaryx3 Allreduce を設計し,「京」 向けの MPI ライブラリに実装した.Trinaryx3 Allreduce は,「京」 の特長である複数 RDMA エンジンを同時に活用することができる.実装を評価した結果,既存の間接網向けアルゴリズムと比較して,5 倍程度バンド幅が向上することを確認した.
- 2011-11-21
著者
-
南里 豪志
九州大学
-
黒川 原佳
理化学研究所情報基盤センター
-
庄司 文由
広島大学 情報メディア教育研究センター
-
庄司 文由
金沢大自然
-
庄司 文由
広島大学病院 医療情報
-
庄司 文由
広島大学情報メディア教育研究センター
-
黒川 原佳
理化学研究所
-
宇野 篤也
海洋科学技術センター地球シミュレータセンター
-
横川 三津夫
理化学研究所
-
宇野 篤也
理化学研究所計算科学研究機構
-
庄司 文由
理化学研究所
-
田中 稔
富士通株式会社
-
松本 幸
富士通株式会社
-
安達 知也
富士通株式会社
-
住元 真司
富士通株式会社
-
曽我 武史
九州大学
-
南里 豪志
九州大学|JST CREST
-
宇野 篤也
理化学研究所
-
庄司 文由
(独)理化学研究所 次世代スーパーコンピュータ開発実施本部 開発グループ
関連論文
- 遠隔メモリスワップのためのユーザレベルソフトウエアDLMの性能評価(ネットワーク,SWoPP佐賀2008-2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ)
- 遠隔メモリを利用する大容量メモリシステムDLMとコンパイラ(計算環境)
- 分散大容量メモリシステムDLMの設計とDLMコンパイラの構築(分散システム,コンピュータシステムのインタコネクト技術及び一般)
- GridFMO : グリッド環境を用いた大規模量子化学計算(グリッド)
- 並列数値計算ライブラリの開発
- VPP500上におけるMDシミュレーションのベクトル計算およびベクトル並列計算
- OpenMP 入門(4) : マルチコアCPU時代の並列プログラミング
- OpenMP 入門(2) : マルチコアCPU時代の並列プログラミング
- OpenMP 入門(1) : マルチコアCPU時代の並列プログラミング
- Access Gridの構築とGrid上での国際会議
- 大規模クラスタにおけるソケットダイレクトプロトコルSDPの性能評価(インタコネクト, SWOPP武雄2005 (2005年並列/分散/協調処理に関する「武雄」サマー・ワークショップ))
- グリッド環境下における並列分子動力学ポータルサイトの構築(グリッド)
- グリッド環境下における並列分子動力学ポータルサイトの構築
- クラスタの温度分布について(クラスタと通信, 分散処理, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2005))
- 教育端末の遊休時間を利用したHPC環境
- LAPPによるレポート提出システムの開発と運用
- Linuxによる一般情報処理教育
- 29p-YP-4 Improved actionを用いたmonopole action
- 7p-J-4 abelian dominanceおよびmonopole dominanceをしめす新しいゲージ
- 30a-SH-9 Monopole Dominance of Chiral Symmetry Breaking on SU(3) Lattice Gauge Theory
- 30a-SH-8 monopole 凝縮とhadron spectrum
- 「バーチャル・ユニバーシティ」プロジェクトにおけるネットワーク利用授業に対する受講生の印象評定
- 23a-E-3 Lattice QCDにおけるmonopole dynamicsのgauge依存性II
- 29p-YP-5 Lattice QCDにおけるmonopole dynamicsのgauge依存性
- 通信と計算の負荷を考慮した並列疎行列ベクトル積の動的負荷分散技術
- 遠隔メモリを利用する分散大容量メモリシステムDLMの設計と10 Gb Ethernetにおける初期性能評価
- PCクラスタの現状と導入のための基礎知識
- 実大三次元振動実験のためのデータリポジトリシステムの設計(グリッド,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- 実大三次元振動実験のためのデータリポジトリシステムの設計(グリッド, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- Access Gridの構築とGrid上での国際会議
- 負荷バランスの動的最適化によるMPIブロードキャスト性能改善
- セマンティックログを用いた可視化システム診断のすすめ
- ベクトル計算機における固体MD計算の高速化
- 地球シミュレータ上での流体コードのスケーラビリティ評価
- 地球シミュレータ上のハイブリッドプログラミングの性能評価
- チュートリアル OpenMP入門(3)マルチコアCPU時代の並列プログラミング
- 非圧縮性NS方程式における圧力方程式の並列解法
- 並列計算による Rayleigh-Benard 流れのDSMC解析
- Lattice Boltzmann コードの並列計算
- 等方性乱流シミュレーションコードの並列化
- 負荷ばらつきを考慮したMPIブロードキャスト通信の動的最適化に関する研究(HPC-11 : 通信I)
- W03-(3) PC クラスタでのハイエンドベクトル計算機の置き換え可能性
- 教育用PC端末群のPCクラスタ的利用とその運用について(セッション3)
- 京速コンピュータ「京(けい)」とは何か? : 世界最速レベルの計算性能を目指して
- 地球シミュレータ用ジョブスケジューリングアルゴリズムの評価(HPC-6 : ジョブスケジューリング)(2003年並列/分散/協調処理に関する『松江』サマー・ワークショップ(SWoPP松江2003))
- 広域分散環境を提供するHPCI先端ソフトウェア運用基盤の設計
- プロジェクト開始から,システム構成の概要,未来に向けた取り組みまで 世界1位を獲得したスーパーコンピュータ「京」の概要と未来
- MPI_Allreduceの「京」上での実装と評価
- MPI_Allreduceの「京」上での実装と評価
- 京コンピュータと計算科学研究機構(次世代スーパーコンピュータ「京」:動き出した大型プロジェクトの全体像)
- 地球シミュレータのリクエスト実行システムと運用状況(1.地球シミュレータ・システム)(地球シミュレータ)
- 地球シミュレータ用高速ノード間通信ライブラリの構築と評価(HPC-7 : 通信ライブラリ)(2003年並列/分散/協調処理に関する『松江』サマー・ワークショップ(SWoPP松江2003))
- MPI_Allreduceの「京」上での実装と評価
- MPI_Allreduceの「京」上での実装と評価
- 京速コンピュータ「京(けい)」とその利用
- 片側通信による,グローバルデータ構造の効率的な操作方法の検討
- ランク配置に応じた集団通信アルゴリズム動的選択技術の提案
- InfiniBand Atomic Operationの性能評価
- 並列FMOプログラムOpenFMOの性能最適化
- エクサスケールコンピューティングに向けた省メモリ通信ライブラリの検討
- スーパーコンピュータ「京」の高性能・高信頼ファイルシステム (特集 スーパーコンピュータ「京」)
- スーパーコンピュータ「京」のMPIと低レベル通信 (特集 スーパーコンピュータ「京」)
- ファイルステージングのあるジョブスケジューリングの評価
- 異なるスカラアーキテクチャ(x86,SPARC64)の電磁流体コードによる性能評価
- 計算科学研究機構の施設と設備 : 「京」の安定運用を支える基盤 (特集 スーパーコンピュータ「京(けい)」)
- システム概要 : 世界トップクラスの演算性能と使いやすさを両立 (特集 スーパーコンピュータ「京(けい)」)
- 京速コンピュータ「京」のアーキテクチャと開発の現状 (次世代スーパーコンピュータ)
- MPI_Allreduceの「京」上での実装と評価
- 大規模直接数値シミュレーションによる周期境界乱流中のエネルギー散逸率とエネルギースペクトル(論文賞受賞記念解説)
- KVMとXen Server上のゲストOSのベンチマーク結果の比較
- KVMとXen Server上のゲストOSのベンチマーク結果の比較
- 先進技術解説 京コンピュータの先進技術
- 非同期グローバルヒープの提案と初期検討
- DMATP-MPI: MPI向け動的メモリ割当分析ツール
- メニーコア向けNUMA最適並列分散I/Oの予備検証
- メニーコア向けNUMA最適並列分散I/Oの予備検証
- グローバルデータ構造のためのメモリ管理モデルの検討
- スーパーコンピュータ「京」における格子QCDの単体性能チューニング
- 京コンピュータの先進技術
- X線自由電子レーザー施設SACLAとスーパーコンピューター「京」の連携(ネットワーク研究開発テストベッド運用・利用,一般)
- ACP基本層の実装と初期評価
- ACP基本層の設計思想とインタフェース
- スーパーコンピュータ「京」の構成と評価(計算機システム,システム開発論文)
- SMYEOpenCLの実装と128コア上での評価実験(並列処理,集積回路とアーキテクチャの協創〜新しいアプリケーション創造に向けたアーキテクチャ、回路技術の貢献〜)
- (続)スーパーコンピュータ「京」の利用:1.スーパーコンピュータ「京」の運用状況