広域分散ファイルシステムGfarmのMPI-IOの実装
スポンサーリンク
概要
- 論文の詳細を見る
本稿では,MPI-IO によって複数のプロセスから 1 つのファイルに対するアクセスを Gfarm ファイルシステム上においてスケーラブルなアクセス性能を実現するための手法を提案する.Gfarm ファイルシステムでは 1 つのファイルに対して複数のプロセスが書き込みを行うとファイルの実体が存在するノードにアクセスが集中し性能低下が起こる.そこでそれぞれのプロセスが個別のファイルとしてローカルディスクに書き込むことでアクセスの集中を回避する.ADIO を用いて実装を行い IOR,BTIO の 2 つのベンチマークを行った.IOR では最大 20GB/s の性能が得られ,BTIO では最大 12GB/s の書き込み性能を得ることができた.
- 2010-02-15
著者
関連論文
- 大規模P2Pグリッドでの大容量コンピューティングのためのスケーラブルなプログラミング環境の検討(HPC-7 : 分散環境(1))
- 並列ファイル転送のためのスケジューリングアルゴリズム(ファイルシステム,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- グリッドデータファームによる太陽地球系物理分野における分散データ型データインテンシブ処理モデルの構築と評価
- 広域ファイルシステムにおける分散メタデータサーバの検討(並列/分散アーキテクチャ,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- T2K筑波システムにおけるLinpack性能評価(HPC-4:性能評価,2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ(SWoPP佐賀2008))
- UDPによるファイアウォール越えを用いたP2Pオーバーレイネットワーク(HPC-7 : 分散環境(1))
- 3ZL-4 仮想IPアドレスを用いたプライベートネットワーク内のノードへの透過的アクセス(情報爆発時代における安全,安心ネットワーク技術,学生セッション,「情報爆発」時代に向けた新しいIT基盤技術)
- プライベートネットワーク内のノードをサーバとして外部に公開するための機構(HPC-15 : ネットワーク)
- 遠隔ファイルアクセスにおけるアクセスパターンと遅延の影響
- 遠隔ファイルアクセスにおけるアクセスパターンと遅延の影響
- PCクラスタ間ファイル複製スケジューリング
- クラウドにおける高性能ファイルサービスの検討
- 広域分散ファイルシステムGfarm上でのMapReduceを用いた大規模分散データ処理
- 広域ファイルシステムHGFSのための分散メタデータサーバの実装と性能評価
- 広域ファイルシステムにおける分散メタデータサーバの検討(並列/分散アーキテクチャ,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- 広域分散ファイルシステムGfarmのMPI-IOの実装と評価
- マルチグリッド環境における効率的な監視システムに関する研究
- 広域分散ファイルシステム Gfarm 上での MapReduce を用いた大規模分散データ処理
- Grid RPCにおける広域データ管理レイヤの利用(グリッド)
- 1ZC-2 クラウドコンピューティングにおける高性能ファイルシステムの検討(クラウドコンピューティング,学生セッション,ネットワーク,情報処理学会創立50周年記念)
- e-サイエンス推進のための広域分散ファイルシステムの適用と評価
- 2L-2 MapReduceにおけるファイルシステムの性能評価(並列システムソフトウェア,学生セッション,アーキテクチャ,情報処理学会創立50周年記念)
- クラスタ間高速ファイル転送方式の提案と評価
- 並列ファイル転送のためのスケジューリングアルゴリズム(ファイルシステム,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- 広域分散ファイルシステムGfarm v2の実装と評価(グリッドI)
- 広域ファイルシステムのための分散メタデータサーバの設計
- 広域分散ファイルシステムGfarmのMPI-IOの実装
- リソースネームスペース管理サービスの負荷分散手法の提案(HPC-6:グリッド,2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ(SWoPP佐賀2008))
- 6ZJ-4 リソースネームスペース管理サービスの実装(情報爆発時代における並列分散処理技術,学生セッション,「情報爆発」時代に向けた新しいIT基盤技術)
- 広域分散環境を提供するHPCIシステムソフトウェア基盤の設計概要と共有ストレージ構築
- 分散ファイルシステムの性能監視とボトルネック特定
- Cephのメタデータサーバの冗長性の調査
- MPI-IO/Gfarm:分散ファイルシステムGfarmのためのMPI-IOの実装と評価