論文の概要: Bandwidth Optimal Pipeline Schedule for Collective Communication

• arxiv url: http://arxiv.org/abs/2305.18461v1
• Date: Mon, 29 May 2023 07:04:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-31 20:47:06.187896
• Title: Bandwidth Optimal Pipeline Schedule for Collective Communication
• Title（参考訳）: 集合通信のための帯域幅最適パイプラインスケジュール
• Authors: Liangyu Zhao, Siddharth Pal, Prithwish Basu, Joud Khoury, Arvind Krishnamurthy
• Abstract要約: 我々は,任意のネットワークトポロジ上で,帯域幅の最適な全ゲザ/リデューサ・スキャッタを生成するために,強ゲザ時間アルゴリズムを提案する。 パイプラインは、与えられたトポロジ上で最高の帯域幅を達成するスケジュールを構築する。
• 参考スコア（独自算出の注目度）: 4.928306132237336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present a strongly polynomial-time algorithm to generate bandwidth optimal allgather/reduce-scatter on any network topology, with or without switches. Our algorithm constructs pipeline schedules achieving provably the best possible bandwidth performance on a given topology. To provide a universal solution, we model the network topology as a directed graph with heterogeneous link capacities and switches directly as vertices in the graph representation. The algorithm is strongly polynomial-time with respect to the topology size. This work heavily relies on previous graph theory work on edge-disjoint spanning trees and edge splitting. While we focus on allgather, the methods in this paper can be easily extended to generate schedules for reduce, broadcast, reduce-scatter, and allreduce.
• Abstract（参考訳）: 我々は,スイッチの有無に関わらず,任意のネットワークトポロジ上で帯域幅の最適allgather/reduce-scatterを生成するための強多項式時間アルゴリズムを提案する。 提案アルゴリズムは,与えられたトポロジ上で最高の帯域幅性能を実現するパイプラインスケジュールを構築する。 普遍的な解法を提供するため、ネットワークトポロジーを不均一なリンク容量を持つ有向グラフとしてモデル化し、グラフ表現の頂点として直接スイッチする。 アルゴリズムはトポロジーサイズに関して強い多項式時間である。 この研究は、エッジ分離スパンディングツリーとエッジ分割に関する以前のグラフ理論の研究に大きく依存している。 allgatherにフォーカスしながら、この論文のメソッドを簡単に拡張して、reduce、casting、reduce-scatter、allreduceのスケジュールを生成することができます。

関連論文リスト

• NetDiff: Deep Graph Denoising Diffusion for Ad Hoc Network Topology Generation [1.6768151308423371]
  本稿では,無線アドホックネットワークリンクトポロジを生成する拡散確率的アーキテクチャを記述したグラフであるNetDiffを紹介する。 この結果から,生成したリンクは現実的であり,データセットグラフに類似した構造的特性を有しており,操作するには小さな修正と検証ステップのみが必要であることがわかった。
  論文  参考訳（メタデータ） (2024-10-09T15:39:49Z)
• Online Learning Of Expanding Graphs [14.952056744888916]
  本稿では,信号ストリームからグラフを拡張するためのオンラインネットワーク推論の問題に対処する。 ネットワークに加入したばかりのノードや,それまでのノードに対して,さまざまなタイプの更新を可能にする戦略を導入する。
  論文  参考訳（メタデータ） (2024-09-13T09:20:42Z)
• Scalable Graph Compressed Convolutions [68.85227170390864]
  ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。 グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
  論文  参考訳（メタデータ） (2024-07-26T03:14:13Z)
• Unsupervised Graph-based Learning Method for Sub-band Allocation in 6G Subnetworks [2.0583251142940377]
  グラフベース学習を用いた無線ネットワークにおける周波数サブバンド割り当てのための教師なし手法を提案する。 サブネットワーク配置を競合グラフとしてモデル化し,グラフカラー化とPottsモデルにインスパイアされた教師なし学習アプローチを提案し,サブバンド割り当てを最適化する。
  論文  参考訳（メタデータ） (2023-12-13T12:57:55Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Temporal Aggregation and Propagation Graph Neural Networks for Dynamic Representation [67.26422477327179]
  時間グラフは連続時間を通してノード間の動的相互作用を示す。 本研究では,周辺地域全体と時間的グラフ畳み込みの新たな手法を提案する。 提案するTAP-GNNは,予測性能とオンライン推論遅延の両面で,既存の時間グラフ手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-04-15T08:17:18Z)
• EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
  埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。 EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。 提案手法はいくつかの最先端手法より一貫して優れている。
  論文  参考訳（メタデータ） (2022-11-19T09:08:43Z)
• Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
  長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。 完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。 本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
  論文  参考訳（メタデータ） (2022-09-20T14:41:37Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• G-CREWE: Graph CompREssion With Embedding for Network Alignment [18.200401309702173]
  本稿では,ネットワークアライメント問題を解決するG-CREWEというフレームワークを提案する。 G-CREWEはノード埋め込みを使用して、ネットワークを2段階の解像度で整列させる。 また,MERGEと呼ばれる新しい圧縮機構を提案し,入力ネットワークのサイズを小さくする。
  論文  参考訳（メタデータ） (2020-07-30T05:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。