論文の概要: High-speed Networking for Giga-Scale AI Factories

• arxiv url: http://arxiv.org/abs/2605.21187v1
• Date: Wed, 20 May 2026 13:52:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 16:35:41.915106
• Title: High-speed Networking for Giga-Scale AI Factories
• Title（参考訳）: ギガスケールAIファクトリの高速ネットワーク化
• Abstract要約: NVIDIA Spectrum-X Ethernetは、予測可能で安定したネットワーク性能を実現するために、ゼロから設計されている。 本稿では、最先端ベンチマークにおけるモチベーション、設計原則、評価方法論、性能について述べる。
• 参考スコア（独自算出の注目度）: 4.074547292920061
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As distributed model training scales to span hundreds of thousands of GPUs, scale-out networks face unprecedented performance and efficiency demands. NVIDIA Spectrum-X Ethernet has been designed from the ground up to achieve predictable and stable network performance with high utilization and low latency. This paper presents the Spectrum-X multiplane architecture, which replaces hierarchical depth with topological parallelism, and introduces hardware-accelerated load balancing in NICs and switches as the key architectural approach to provide fast reaction to highly dynamic network conditions at the microsecond timescales that AI training workloads demand. We describe the motivation, design principles, evaluation methodology and performance on state-of-the-art benchmarks, as well as the lessons we learned from deploying and debugging Spectrum-X networks in large-scale systems. Our evaluation highlights production-grade AI infrastructure performance across three core dimensions: 98% of the theoretical line rate with low jitter-free latency; strong cross-tenant isolation for concurrent workloads; robust, capacity-proportional bisection bandwidth and 7% latency increase for 10% fabric link failures; and rapid reaction to host and fabric link flaps during LLM training workloads.
• Abstract（参考訳）: 分散モデルトレーニングが数十万のGPUにスケールするにつれ、スケールアウトネットワークは前例のないパフォーマンスと効率性の要求に直面している。 NVIDIA Spectrum-X Ethernetは、高い利用率と低レイテンシで予測可能で安定したネットワーク性能を実現するために、ゼロから設計されている。 本稿では,階層的な深度をトポロジカル並列性に置き換えたSpectrum-Xマルチプレーンアーキテクチャを提案する。また,ハードウェアアクセラレーションによるNICとスイッチの負荷分散を重要アーキテクチャとして導入し,AIトレーニングワークロードが要求するマイクロ秒タイムスケールでの高動的ネットワーク条件に対する迅速な応答を提供する。 我々は、大規模システムにおけるSpectrum-Xネットワークのデプロイとデバッグから学んだ教訓と同様に、最先端ベンチマークにおけるモチベーション、設計原則、評価方法論、パフォーマンスについて説明する。 評価では,低ジッタフリーレイテンシによる理論的ラインレートの98%,並列ワークロードに対する強力なテナントアイソレーション,堅牢でキャパシティに比例した2分割帯域幅と7%のレイテンシ向上,LLMトレーニングワークロードにおけるホストおよびファブリックリンクフラップに対する迅速な反応,3つの中核領域にわたるプロダクショングレードAIインフラストラクチャのパフォーマンスを強調した。

関連論文リスト

• To Scale Up or To Scale Out: Evaluating Space-Time Costs of Compiled Logical Circuits on Modular Superconducting Quantum Processors [0.6024602799136752]
  主な戦略は、チップレットベースのスケーリングと分散アーキテクチャである。 本稿では,論理エンタングリング操作の高密度ワークロードの実行コストを定量的に測定する。 分散アーキテクチャは、効果的にモノリシックなアーキテクチャと比較して、時空性能が最大で指数関数的なペナルティをもたらすことがわかった。
  論文  参考訳（メタデータ） (2026-08-20T18:00:12Z)
• AEBNAS: Strengthening Exit Branches in Early-Exit Networks through Hardware-Aware Neural Architecture Search [0.8793721044482612]
  早期排他的ネットワークは、ディープラーニングモデルの全体的なエネルギー消費とレイテンシを低減する効果的なソリューションである。 最近の研究は、より効率的なアーリーエグジットネットワークの設計にニューラルアーキテクチャサーチ(NAS)を利用している。 本稿では,ハードウェア対応NASを用いて,最適化時の精度と効率性を両立させ,出口分岐を強化する。
  論文  参考訳（メタデータ） (2025-12-11T14:17:49Z)
• Multi-Agent Reinforcement Learning for Sample-Efficient Deep Neural Network Mapping [54.65536245955678]
  本稿では,サンプル非効率性の課題を克服するために,分散型マルチエージェント強化学習(MARL)フレームワークを提案する。 相関解析に基づいて類似のマッピングパラメータを同一エージェントに割り当てるエージェントクラスタリングアルゴリズムを提案する。 実験の結果,MARL法は標準単エージェントRLよりも30～300倍効率が向上した。
  論文  参考訳（メタデータ） (2025-07-22T05:51:07Z)
• Network Sparsity Unlocks the Scaling Potential of Deep Reinforcement Learning [57.3885832382455]
  静的ネットワークの疎結合を単独で導入することで,最先端アーキテクチャの高密度化を超えて,さらなるスケーリング可能性を実現することができることを示す。 解析の結果,高密度DRLネットワークをネーティブにスケールアップするのとは対照的に,疎ネットワークは高いパラメータ効率とネットワーク表現性を両立させることがわかった。
  論文  参考訳（メタデータ） (2025-06-20T17:54:24Z)
• Accelerating Linear Recurrent Neural Networks for the Edge with Unstructured Sparsity [39.483346492111515]
  線形リカレントニューラルネットワークは、推論中に一定のメモリ使用量と時間毎の時間を含む強力な長距離シーケンスモデリングを可能にする。 非構造化空間は、互換性のあるハードウェアプラットフォームによって加速されるときに、計算とメモリの要求を大幅に削減できる魅力的なソリューションを提供する。 非常に疎い線形RNNは、高密度ベースラインよりも高い効率と性能のトレードオフを一貫して達成している。
  論文  参考訳（メタデータ） (2025-02-03T13:09:21Z)
• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• FusionLLM: A Decentralized LLM Training System on Geo-distributed GPUs with Adaptive Compression [55.992528247880685]
  分散トレーニングは、システム設計と効率に関する重要な課題に直面します。 大規模深層ニューラルネットワーク(DNN)のトレーニング用に設計・実装された分散トレーニングシステムFusionLLMを提案する。 本システムと手法は,収束性を確保しつつ,ベースライン法と比較して1.45～9.39倍の高速化を実現可能であることを示す。
  論文  参考訳（メタデータ） (2024-10-16T16:13:19Z)
• DeepSpeed-FastGen: High-throughput Text Generation for LLMs via MII and DeepSpeed-Inference [23.49242865222089]
  本稿では,最大2.3倍高いスループット,平均2倍のレイテンシ,最大3.7倍のテールレイテンシを実現するシステムであるDeepSpeed-FastGenを紹介する。 我々は、DeepSpeed-MIIとDeepSpeed-Inferenceの相乗的組み合わせを利用して、大規模言語モデルのための効率的で使いやすいサービスシステムを提供する。
  論文  参考訳（メタデータ） (2024-01-09T06:49:40Z)
• Latency-aware Unified Dynamic Networks for Efficient Image Recognition [72.8951331472913]
  LAUDNetは動的ネットワークの理論的および実用的な効率ギャップを橋渡しするフレームワークである。 3つの主要な動的パラダイム - 適応型計算、動的層スキップ、動的チャネルスキップ - を統合している。 これにより、V100,3090やTX2 GPUのようなプラットフォーム上で、ResNetのようなモデルの遅延を50%以上削減できる。
  論文  参考訳（メタデータ） (2023-08-30T10:57:41Z)
• Efficient Parallel Split Learning over Resource-constrained Wireless Edge Networks [44.37047471448793]
  本稿では,エッジコンピューティングパラダイムと並列分割学習(PSL)の統合を提唱する。 そこで本研究では,モデル学習を高速化するために,効率的な並列分割学習(EPSL)という革新的なPSLフレームワークを提案する。 提案するEPSLフレームワークは,目標精度を達成するために必要なトレーニング遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2023-03-26T16:09:48Z)
• Multi-Exit Semantic Segmentation Networks [78.44441236864057]
  本稿では,最先端セグメンテーションモデルをMESSネットワークに変換するフレームワークを提案する。 パラメトリド早期出口を用いた特別訓練されたCNNは、より簡単なサンプルの推測時に、その深さに沿って保存する。 接続されたセグメンテーションヘッドの数、配置、アーキテクチャとエグジットポリシーを併用して、デバイス機能とアプリケーション固有の要件に適応する。
  論文  参考訳（メタデータ） (2021-06-07T11:37:03Z)
• HAPI: Hardware-Aware Progressive Inference [18.214367595727037]
  畳み込みニューラルネットワーク(CNN)は最近、AIタスクの多様性における最先端技術となっている。 その人気にもかかわらず、CNN推論は依然として高い計算コストがかかる。 本研究は,ハイパフォーマンス・アーリーエグジット・ネットワークを創出するための新しい手法であるHAPIを提案する。
  論文  参考訳（メタデータ） (2020-08-10T09:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。