低遅延ストリーム処理のための結合演算並列実行方式
スポンサーリンク
概要
- 論文の詳細を見る
ストリームデータの増加に共に伴い,ストリームデータに対する問合せ処理が重要となってきている.情報源の種類も多様化し,複数の情報源から到着するストリームデータ同士の統合処理は特に需要が高くなっている.ストリームの統合を実現する演算はウインドウ結合と呼ばれており,時間幅や列数で定義されたスライディングウインドウにより処理対象を最新のデータに限定した結合処理を行う.結合処理を高速に実行するための既存のアプローチとして,分散環境を用いた処理の並列化が提案されており,スループットの改善が行われている.しかし,処理遅延の改善に関しては,分散環境がネットワーク遅延の影響を受けやすいということもあって,これまであまり考慮されてこなかった.本研究では,分散環境の代わりにマルチコア環境を用いて,複数ストリームに対するウインドウ結合演算の処理遅延を改善するような並列化方式を提案する.現在,N 個のストリームに対する結合を実現する方式は,2 入力の結合演算をツリー状に多段接続するものと,N 入力の結合演算を用いるものの 2 種類に大別される.本研究は,両方の方式に対応する並列結合ツリー方式と並列 MJoin 方式の 2 つを提案する.並列結合ツリー方式では,N 個の入力ストリームに対し,それぞれのストリームの出力を最速で出力することに特化したプランを N 個導出し,それらを N 並列に走らせるというものである.並列 MJoin 方式は,既存の MJoin のアルゴリズムがシーケンシャルに行っていたプローブ処理を N 並列化したものである.本研究では,提案手法 2 つとオリジナルの方式 2 つについて,評価実験を行いそれぞれの性能の比較を行う.
- 2012-07-25
著者
-
渡辺 陽介
東京工業大学学術国際情報センター
-
横田 治夫
東京工業大学 大学院 情報理工学研究科 計算工学専攻:東京工業大学 学術国際情報センター
-
横田 治夫
東京工業大学大学院 情報理工学研究科計算工学専攻
関連論文
- 更新処理を考慮したXMLラベルにおける構造情報の抽出手法(構造化文書,XML,情報爆発論文)
- 分散ストリーム処理システムにおける高信頼化方式の提案(ストリーム処理,情報爆発論文)
- 対象情報源の動的変化を考慮した分散ストリーム処理最適化手法の提案(セッション7b:ストリーム・スカイライン)
- 大規模映像ストリームのための映像情報統合基盤システムの提案
- 挿入によって他ラベル変更を起こさない可変長XMLラベルの容量評価(夏のデータベースワークショップ2007(データ工学,一般))
- 挿入によって他ラベル変更を起こさない可変長XMLラベルの容量評価(XML (1),夏のデータベースワークショップ2007(データ工学,一般))
- 分散ストリーム処理システムにおける高信頼化方式の提案
- 耐故障バッファリングディスクシステムの性能評価
- 知識ベースシステムのための知識コンパイルについての考察
- 時系列データベースとストリーム処理の統合のためのデータモデルの提案(ストリームデータ1, 夏のデータベースワークショップDBWS2005)
- 時系列データベースとストリーム処理の統合のためのデータモデルの提案(ストリームデータ1, 夏のデータベースワークショップ2005)
- 大規模知識ベースマシン実験機の開発(4) : 単一化エンジンの評価
- ストレージシステムにおける省電力効果検証のためのシミュレータ
- ストレージシステムにおける省電力効果検証のためのシミュレータ
- DE2000-86 分散独立アクティブデータベース上でのワークフロー用トランザクションモデル
- クラスタ化ディスクのルール記述による柔軟な非同期バックアップと障害回復
- D-10-1 データレプリケーションの分散制御
- 制御情報を分散したデータレプリケーション方式
- ファイルRMC操作を考慮した関連ファイルの発見
- ファイルRMC操作を考慮した関連ファイルの発見
- 大規模知識ベースマシン実験機の開発(3) : 単一化エンジンの構成方式について
- 大規模知識ベースマシン実験機の開発(1) : 開発の背景と方針
- テロップ情報による語学番組シーン検索手法の評価
- 5ZK-3 講義講演ビデオの重要シーン抽出によるダイジェスト自動作成(情報爆発時代におけるマルチメディアデータと位置依存情報処理,学生セッション,「情報爆発」時代に向けた新しいIT基盤技術)
- ユーザ作業を反映する仮想ディレクトリ生成のためのアクセス履歴解析手法
- 対象情報源を動的に選択可能なストリーム処理の実装と評価
- ファイルRMC操作を考慮した関連ファイルの発見
- ユーザ作業を反映する仮想ディレクトリ生成のためのアクセス履歴解析手法
- アクセス履歴に基づくファイル間関連度を用いたデスクトップ情報管理ツールの開発(ウェブ情報とデータベースに関して(ポスター講演))
- ロジックプログラミングパラダイムにおける知識ベースシステム (「第五世代コンピュータ」)
- 大規模知識ベースマシン実験機の開発(2) : ハードウェアシミュレータ
- スーパーインポーズドコーディングを用いたXML文書キーワード索引手法(XML,夏のデータベースワークショップDBWS 2006)
- スーパーインポーズドコーディングを用いたXML文書キーワード索引手法(XML)
- 3ZP-4 アクセスログ解析を用いて同一作業で使用されたファイル群を発見する手法の提案(情報爆発時代におけるデータマイニング・アルゴリズム,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 3T-5 ストリーム処理における情報源の動的選択機能(センサデータベースとコンテンツ,学生セッション,データベースとメディア)
- データストリーム管理システムHarmonicaの設計と実装
- ストリーム管理システムにおける永続化要求の妥当性評価(ストリーム,夏のデータベースワークショップDBWS 2006)
- 分散環境におけるストリーム処理の高信頼化(ストリーム,夏のデータベースワークショップDBWS 2006)
- ストリーム管理システムにおける永続化要求の妥当性評価(ストリーム)
- 分散環境におけるストリーム処理の高信頼化(ストリーム)
- 実世界情報ストリームの高度利用のための統合環境
- 5ZP-1 プライマリ・バックアップ構成を有効利用したストレージシステムの省電力効果見積(情報爆発時代におけるストレージ管理,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 6ZN-3 語学番組検索システムにおけるシーン区切り検出手法(情報爆発時代におけるマルチメディア処理,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 異種データストリーム統合基盤 : Stream Spinner(ウェブ情報とデータベースに関して(ポスター講演))
- 6ZK-1 分散ストリーム処理管理システムORINOCOの評価(情報爆発時代におけるストリームデータと実世界情報処理,学生セッション,「情報爆発」時代に向けた新しいIT基盤技術)
- 分散ストリーム処理環境における持続型問合せ処理方式
- 分散ストリーム処理環境におけるアプリケーション配置最適化手法(夏のデータベースワークショップ2007(データ工学,一般))
- 仮想マシン技術を用いた持続型ストリーム処理環境の評価(夏のデータベースワークショップ2007(データ工学,一般))
- 分散ストリーム処理環境におけるアプリケーション配置最適化手法(ストリーム処理,夏のデータベースワークショップ2007(データ工学,一般))
- 仮想マシン技術を用いた持続型ストリーム処理環境の評価(ストリーム処理,夏のデータベースワークショップ2007(データ工学,一般))
- 分散制御型全対全通信結合網
- 6ZN-5 複数講演コンテンツのダイジェスト自動生成のためのシーン重要度算出手法の評価(情報爆発時代におけるマルチメディア処理,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 6ZC-4 機関リポジトリと外部情報源を連携した関連論文探索手法(情報爆発時代におけるWebパーティカル検索,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 5ZN-7 Wikipediaのセクションを考慮したリンク解析による関連項目検索手法の提案(情報爆発時代におけるWebマイニング,学生セッション,「情報爆発」時代に向けた新IT基盤技術,情報処理学会創立50周年記念(第72回)全国大会)
- 知識ベ-スシステム (知的情報処理) -- (知的情報処理技術)
- 編集にあたって
- 特集「情報融合」に向けて(情報融合)
- 編集にあたって
- 編集にあたって
- 編集にあたって
- 特集「情報融合」に向けて(情報融合)
- 編集にあたって
- 編集にあたって
- アクセス関連性によるストレージデータ配置の性能と消費電力
- アクセス関連性によるストレージデータ配置の性能と消費電力
- Fat-Btree, P-tree, SkipGraphを用いた範囲問合せ性能の比較実験
- Fat-Btree, P-tree, SkipGraphを用いた範囲問合せ性能の比較実験
- RAIDのネットワーク上への展開と信頼性向上(マイクロ・プロセッサ,ニューラルネットワーク)
- 複数ディスクからなるストレージシステムの省電力化手法における電力削減効果の比較
- 関連ファイルの発見におけるファイルRMC操作の考慮
- アクセスログに基づくファイルとWebページの関連性抽出手法
- Valable LCA探索のためのサイズを考慮した索引構成
- An evaluation of Fat-Btree based and HDFS based Storage Systems for Small File I/O Applications
- アクセス頻度情報を付与したインデックスによるデータベースの省電力化手法
- データ工学論文特集の発行にあたって
- 2000-DBS-122-64 分散独立アクティブデータベース上でのワークフロー用トランザクションモデル
- 91-17 読み出し最適化および書き込み最適化ファイルシステムにおけるトランザクション支援
- H.L.ドレイファス/S.E.ドレイファス 共著, 椋田直子 訳, "純粋人工知能批判" (MIND OVER MACHINE) : コンピュータは思考を獲得できるか, アスキー出版局, A5判, 325p., \2,100, 1987
- 機械学習を用いたテロップ表示意図推定による動画メタデータ生成手法(テーマセッション,大規模マルチメディアデータを対象とした次世代検索およびマイニング)
- 機械学習を用いたテロップ表示意図推定による動画メタデータ生成手法(テーマセッション,大規模マルチメディアデータを対象とした次世代検索およびマイニング)
- Performance Comparison of Power-Proportional Approaches in Power Saving of Storage Systems
- 研究履歴生成のための論文メタデータを用いたマージン最大化クラスタリング(プライバシー,アーバンセンシングによる情報創出とその応用,及び一般)
- 低遅延ストリーム処理のための結合演算並列実行方式
- 低遅延ストリーム処理のための結合演算並列実行方式
- RMC操作に基づくタスクとタスク間関連度を考慮したファイル検索(情報検索,データ工学と情報マネジメント論文)
- 耐故障ストレージのディスク回転状況を考慮した省電力化手法におけるシステム構成の影響評価(ストレージシステム,データ工学と情報マネジメント論文)