大規模P2Pグリッドでの大容量コンピューティングのためのスケーラブルなプログラミング環境の検討(HPC-7 : 分散環境(1))
スポンサーリンク
概要
- 論文の詳細を見る
大規模P2Pグリッドでの大容量コンピューティングのためのプログラミング環境について検討を行う.P2Pグリッドとは,Peer-to-Peer環境上のvolatileな計算機をも含めて動的な計算環境を,グリッドと同じように計算資源のco-allocationをして活用し,安定した計算を行う環境をさす.また,大容量コンピューティングとは,多数のジョブ,大量のデータを扱うような計算処理である.この数万台規模の広域に分散された動的に変化する計算環境上で,計算インテンシプな処理やペタスケールの分散するストレージデータを活用するデータインテンシブな処理が必要な多数のジョブを実行可能なプログラミングモデルについて提案を行う.これまでのプログラミングモデルを調査し,大容量コンピューティングに合うプログラミングモデルについて検討する.そして,グリッド向けの並列分散ファイルシステム上に大規模P2Pグリッド大容量コンピューティングを支援するためのプログラミングモデルを構築することを提案する.このフレームワークでは,処理する対象のデータに対して大域的かつ統一的な操作を行う高階関数であるmap, reduce, filter, scanを用いてそれぞれのデータへの処理およぴフローを記述する.
- 2006-07-31
著者
-
中島 佳宏
筑波大学大学院システム情報工学研究科
-
佐藤 三久
筑波大学大学院システム情報工学研究科
-
建部 修見
筑波大学大学院システム情報工学研究科
-
建部 修見
筑波大学計算科学研究センター
-
建部 修見
筑波大学
-
建部 修見
筑波大 大学院システム情報工学研究科
-
中島 佳宏
筑波大学大学院システム情報工学研究科:日本学術振興会
関連論文
- 大規模P2Pグリッドでの大容量コンピューティングのためのスケーラブルなプログラミング環境の検討(HPC-7 : 分散環境(1))
- 並列ファイル転送のためのスケジューリングアルゴリズム(ファイルシステム,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- グリッドデータファームによる太陽地球系物理分野における分散データ型データインテンシブ処理モデルの構築と評価
- 広域ファイルシステムにおける分散メタデータサーバの検討(並列/分散アーキテクチャ,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- ユーザ透過に利用可能な耐故障・高性能マルチリンクEthernet結合システム(クラスタと省電力技術)
- T2K筑波システムにおけるLinpack性能評価(HPC-4:性能評価,2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ(SWoPP佐賀2008))
- Short Vector SIMD命令を用いた並列FFTの実現と評価(性能最適化)
- 自動プログラム領域分割を用いた実行時DVFS制御(命令実行制御,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2008))
- 大規模固有値問題のmaster-worker型並列解法(数値計算)
- "FIRST"-第一世代天体の起源解明のための専用・汎用計算機融合型クラスタ(HPC-8: 高性能クラスタ)
- EthernetマルチリンクによるPCクラスタ向け高バンド幅・耐故障ネットワークRI2N/UDP(ネットワーク)
- tagged-VLANとマルチリンクに基づくPCクラスタ向け高性能・耐故障ネットワークの実装と評価(Session 3:Cluster/Grid)
- VFREC-Net : ドライバ制御によるtagged-VLANを用いたPCクラスタ向けマルチパスネットワーク(ネットワーク)
- UDPによるファイアウォール越えを用いたP2Pオーバーレイネットワーク(HPC-7 : 分散環境(1))
- EthernetマルチリンクによるPCクラスタ向け耐故障ネットワークRI2N/UDP(ネットワーク,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- EthernetマルチリンクによるPCクラスタ向け耐故障ネットワークRI2N/UDP(ネットワーク, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- tagged-VLANに基づくPCクラスタ向け高バンド幅ツリーネットワークの開発(HPCシステム)
- プリフェッチ機構を持つマルチコア向けソフトウェア分散共有メモリシステム(HPC-14:分散処理,2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ(SWoPP佐賀2008))
- PCクラスタにおける電力実行プロファイル情報を用いたDVS制御による電力性能の最適化(クラスタシステム)
- PCクラスタにおける電力実行プロファイル情報を用いたDVS制御による電力性能の最適化(省電力,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- PCクラスタにおける電力実行プロファイル情報を用いたDVS制御による電力性能の最適化(省電力, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- 高性能計算のための低電力・高密度クラスタMegaProto(HPCハードウェア)
- PCクラスタにおけるDVS制御による電力性能の最適化(ARC-3: 低電力アーキテクチャ1, 2005年並列/分散/協調処理に関する『武雄』サマー・ワークショップ(SWoPP武雄2005)-研究会・連続同時開催-)
- 高性能計算のための低電力・高密度クラスタMegaProto(クラスタと通信, 分散処理, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2005))
- 高性能計算のための低電力・高密度クラスタ MegaProto
- 3ZL-4 仮想IPアドレスを用いたプライベートネットワーク内のノードへの透過的アクセス(情報爆発時代における安全,安心ネットワーク技術,学生セッション,「情報爆発」時代に向けた新しいIT基盤技術)
- プライベートネットワーク内のノードをサーバとして外部に公開するための機構(HPC-15 : ネットワーク)
- 遠隔ファイルアクセスにおけるアクセスパターンと遅延の影響
- 遠隔ファイルアクセスにおけるアクセスパターンと遅延の影響
- PCクラスタ間ファイル複製スケジューリング
- クラウドにおける高性能ファイルサービスの検討
- 広域分散ファイルシステムGfarm上でのMapReduceを用いた大規模分散データ処理
- トラフィック量に適応する非対称マルチリンクEthernetトランキング
- 分散メモリ向け並列言語XcalableMPコンパイラの実装と性能評価
- PCI Expressによる省電力・高信頼・高性能通信リンクのためのコミュニケータチップ: PEACH
- PCI Expressによる省電力・高信頼・高性能通信リンクのためのコミュニケータチップ: PEACH
- 匿名性と不正者の特定を両立させるP2P環境用認証方式(セキュリティ)
- GlobusによるGrid RPCシステムの実装と評価
- PACS-CSにおける隣接通信性能の高速化(HPC-13 : 通信II)
- PACS-CSのための高性能通信ライブラリインターフェイスの設計(HPC-12 : 大規模運用システム(2))
- 仮想マシンとSpecCデバイスモデルを統合したデバイス故障エミュレータの実現
- 広域ファイルシステムHGFSのための分散メタデータサーバの実装と性能評価
- 広域ファイルシステムにおける分散メタデータサーバの検討(並列/分散アーキテクチャ,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2009))
- 広域分散ファイルシステムGfarmのMPI-IOの実装と評価
- 行列積を用いた古典Gram-Schmidt直交化の並列化手法の検討(数値計算2)
- 演算加速機構を持つオンチップメモリプロセッサの検討と電力性能評価
- 大規模並列システムにおける電力最適化実行時の消費エネルギー予測手法
- 仮想計算機環境における省電力化を目的としたサーバ資源制御
- 分散型Webサーバでの負荷変動を考慮した省電力化のためのノード状態制御
- 自動プログラム領域分割を用いた実行時DVFS制御(命令実行制御,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2008))
- 分散型Webサーバにおけるノード状態制御による省電力化の検討(クラスタと省電力技術)
- メモリ効率を考慮した組み込み向け高信頼ソフトウェア分散共有メモリの検討(分散処理とシステムソフトウェア)
- 影響の少ないインスツルメント手法と電力最適化のためのプログラム領域分割(省電力方式)
- DVFS制御を目的としたプログラムの領域分割(Session 6:低消費電力)
- MegaProto/Eにおける電力性能評価および電力性能最適化の検討(Session 6:低消費電力)
- DVS制御による負荷不均衡のある並列プログラムの電力量削減手法(クラスタシステム)
- PCクラスタにおける全体電力プロファイルを用いた電力性能最適化(ARC-1:低電力アーキテクチャ,2006年並列/分散/強調処理に関する『高知』サマー・ワークショップ(SWoPP 高知2006))
- DVS制御による負荷不均衡のある並列プログラムの電力量削減手法(省電力,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- DVS制御による負荷不均衡のある並列プログラムの電力量削減手法(省電力, 「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2006))
- 科学技術計算用超並列クラスタPACS-CSの実装と基本性能評価(HPC-12 : 大規模運用システム(2))
- 片方向通信の実装方式の違いによる比較
- クラスタをメモリ資源として利用するためのMPIによる高速大容量メモリ
- マルチグリッド環境における効率的な監視システムに関する研究
- 超並列クラスタにおける3D-RISMへのVolumetric並列三次元FFTの適用と性能評価
- 分散メモリ向け並列言語XcalableMPにおけるユーザ定義データ分散機能の検討
- プログラムテスト環境を提供するクラウドコンピューティングシステムの検討
- 非対称な形状に適応する高バンド幅multi-link Ethernet
- 仮想マシンと SpecC デバイスモデルを統合したデバイス故障エミュレータの実現
- 分散メモリ向け並列言語XcalableMPコンパイラの試作と評価
- オープンなセンサを共有するセンシングWebのための広域分散アーキテクチャ(HPC-14:分散処理,2008年並列/分散/協調処理に関する『佐賀』サマー・ワークショップ(SWoPP佐賀2008))
- Windows PCをグリッド環境で利用するための軽量Linuxバイナリ実行システム(仮想化)
- 3P-1 仮想マシンを用いた分散システムの耐故障性評価環境の検討(分散・並列システム,学生セッション,アーキテクチャ)
- プログラムテスト環境を提供するクラウドコンピューティングシステムの検討
- 超並列クラスタにおける3D-RISMへの Volumetric 並列三次元FFTの適用と性能評価
- 複数グリッドジョブ実行システムの計算資源を統合・利用するGrid RPCシステムの設計と実装(グリッドシステム)
- グリッドRPCシステムOmniRPCにおける初期データの分散管理による効率化(グリッドRPC)
- 広域分散ファイルシステム Gfarm 上での MapReduce を用いた大規模分散データ処理
- Grid RPCにおける広域データ管理レイヤの利用(グリッド)
- 1ZC-2 クラウドコンピューティングにおける高性能ファイルシステムの検討(クラウドコンピューティング,学生セッション,ネットワーク,情報処理学会創立50周年記念)
- オンチップRAM利用による電力性能の最適化と評価(ARC-3: 低電力アーキテクチャ1, 2005年並列/分散/協調処理に関する『武雄』サマー・ワークショップ(SWoPP武雄2005)-研究会・連続同時開催-)
- プロセッサの消費電力測定と低消費電力プロセッサによるクラスタの検討(省電力)
- PCI Express による省電力・高信頼・高性能通信リンクのためのコミュニケータチップ : PEACH
- e-サイエンス推進のための広域分散ファイルシステムの適用と評価
- 非対称な形状に適応する高バンド幅 multi-link Ethernet
- 複数グリッドミドルウエア上で動作するGrid RPCシステムOmniRPCの設計と実装(HPC-4: グリッド)
- P2P分散システムXtremWeb上でのGrid RPCシステムOmniRPCの設計(HPC-7 : グリッド(2))(2004年並列/分散/協調処理に関する『青森』サマー・ワークショップ(SWoPP青森2004) : 研究会・連続同時開催)
- 分散メモリ向けデータ並列言語OpenMPDの設計と実装(コンパイラ及びツール,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2007))
- 分散メモリ向けデータ並列言語OpenMPDの設計と実装(コンパイラ及びツール,「ハイパフォーマンスコンピューティングとアーキテクチャの評価」に関する北海道ワークショップ(HOKKE-2007))
- CONFLEX-G : OmniRPCによるグリッド環境上での分子立体配座探索プログラムの実装と性能評価(グリッド応用)
- OmniRPCによる広域ネットワーク環境でのグリッドアプリケーションの性能評価(HPC-5 : グリット(1))(2003年並列/分散/協調処理に関する『松江』サマー・ワークショップ(SWoPP松江2003))
- 組込みチップマルチプロセッサM32R32700へのOpenMP処理系の実装と評価(チップマルチプロセッサ)(デザインガイア2004-VLSI設計の新しい大地を考える研究会-)
- 複数Gigabit Ethernetを用いたPACS-CSのための高性能通信機構の設計と評価(ネットワーク)
- PACS-CSのためのEthernetを用いた高性能通信機構の設計(HPC-8: 高性能クラスタ)
- 計算科学のための超並列クラスタPACS-CSの概要(HPC-8: 高性能クラスタ)
- Windows PC をグリッド環境で利用するための軽量 Linux バイナリ実行システム
- ヘテロなOSの計算資源を活用するグリッドRPCの設計
- 並列言語XcalableMPのGPU向け拡張
- MCAPIを用いた組込み向け耐故障分散共有メモリの実装
- MCAPIを用いた組込み向け耐故障分散共有メモリの実装
- MPIを通信レイヤに用いるソフトウェア分散共有メモリシステム(ソフトウエアDSM)