論文の概要: TrainBridge: Agentic NPU Training Optimization Guided by GPU Compilation Evidence

• arxiv url: http://arxiv.org/abs/2610.29171v1
• Date: Wed, 21 Oct 2026 04:00:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.198727
• Title: TrainBridge: Agentic NPU Training Optimization Guided by GPU Compilation Evidence
• Title（参考訳）: TrainBridge: GPUコンパイルエビデンスによるエージェントNPUトレーニング最適化
• Abstract要約: TrainBridgeは、GPU最適化ガイダンスをNPUトレーニングに転送するためのエージェント的アプローチである。 TrainBridgeは、成熟したGPUコンパイルスタックによって生成される高度に最適化された実行を、NPUチューニングのタスク固有の参照として使用する。 GPUからNPUへの移行実験では、TrainBridgeは4つのワークロードで平均1.7倍のスピードアップを実現しています。
• 参考スコア（独自算出の注目度）: 18.035883427576625
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study how to improve training efficiency on Ascend NPUs. In the NPU training programs we study, framework-level compilation optimizations such as operator fusion are only partially applied, leaving fragmented computation and avoidable execution overheads. Profiling-guided tuning can address these inefficiencies, but it often requires costly trial and error. To make training on NPUs more efficient, we propose TrainBridge, an agentic approach for transferring GPU optimization guidance to NPU training. TrainBridge uses the highly optimized execution produced by mature GPU compilation stacks as a task-specific reference for NPU tuning. It extracts optimization intents from the GPU training execution to guide NPU program rewrites and further refines the rewritten program through iterative profiling. Our GPU-to-NPU migration experiments show that TrainBridge achieves an average 1.7x speedup across four workloads covering LLM pretraining, image classification, and vision-language training, and an average speedup of nearly 2.0x across 27 Modded-NanoGPT speedrun records with highly optimized GPU implementations.
• Abstract（参考訳）: 我々は, Ascend NPU のトレーニング効率を向上させる方法について検討する。 NPUトレーニングプログラムでは、演算子融合のようなフレームワークレベルのコンパイル最適化が部分的にのみ適用され、断片化された計算と回避可能な実行オーバーヘッドが残る。 プロファイリング誘導チューニングはこれらの非効率性に対処できるが、しばしば試行錯誤を必要とする。 NPUのトレーニングをより効率的にするために,GPU最適化ガイダンスをNPUトレーニングに転送するためのエージェントアプローチであるTrainBridgeを提案する。 TrainBridgeは、成熟したGPUコンパイルスタックによって生成される高度に最適化された実行を、NPUチューニングのタスク固有の参照として使用する。 GPUトレーニング実行から最適化意図を抽出し、NPUプログラムの書き直しをガイドし、反復プロファイリングにより書き換えプログラムをさらに洗練する。 当社のGPU-to-NPUマイグレーション実験によると、TrainBridgeは、LLM事前トレーニング、画像分類、ビジョン言語トレーニングを含む4つのワークロードで平均1.7倍のスピードアップを実現し、高度に最適化されたGPU実装を備えた27 Modded-NanoGPTスピードランレコードに対して平均2倍近いスピードアップを実現している。

関連論文リスト

• First-Order LoRA Training with Phone NPUs [37.268314039673186]
  ファインチューニングにより、大きな言語モデル(LLM)は、アップロードせずにユーザのプライベートデータから学習することができる。 携帯電話のニューラル処理ユニット(NPU)は、推論のためにこれらの重みをすでに保持している。 トレーニンググラフとアダプタをCPU上に保持しながら,NPU上で3つのフリーズ製品のすべてを動作させるシステムを提案する。
  論文  参考訳（メタデータ） (2026-10-17T18:49:37Z)
• HIERA: Workload-Aware Planning Across Implementation Spaces for GPU Kernel Optimization [17.600449573236194]
  カーネル最適化のための階層型検索空間計画フレームワークであるtextscHIERAを提案する。 textscHIERAは、拡張されたタスク仕様を構築し、PyTorch演算子、ライブラリ、カスタムカーネルにまたがる適切な実装空間を選択する。 実験の結果、textscHIERAは既存のトレーニング不要の手法よりも全体的な実装の洗練、妥当性、最適化性能が向上した。
  論文  参考訳（メタデータ） (2026-08-21T14:29:20Z)
• Mixture-of-Parallelisms: Towards Memory-Efficient Training Stack for Mixture-of-Experts Models [67.17268530365189]
  本稿では,Mixture-of-Experts(MoE)モデルのためのメモリ効率のトレーニングスタックを紹介する。 さまざまなレイヤやMoEモデルのトレーニングパイプラインのステージにおいて、さまざまな既存および新しい並列処理テクニックを組み合わせて、特殊化する。
  論文  参考訳（メタデータ） (2026-07-02T08:06:57Z)
• LongLive-2.0: An NVFP4 Parallel Infrastructure for Long Video Generation [84.86814271505109]
  LongLive-2.0は、長いビデオ生成の完全なトレーニングと推論ワークフロー全体を通じて、NVFP4ベースの並列インフラストラクチャである。 トレーニングには,quence-parallel autoregressive (AR) トレーニングを導入する。 実験ではトレーニングで2.15倍、推論で1.84倍のスピードアップを示す。
  論文  参考訳（メタデータ） (2026-05-18T17:57:03Z)
• Use Your INSTINCT: INSTruction optimization for LLMs usIng Neural bandits Coupled with Transformers [66.823588073584]
  大規模言語モデル (LLM) は命令追従能力に優れ、様々なアプリケーションで優れた性能を発揮している。 最近の研究は、ブラックボックスLLMに与えられる命令を自動的に最適化するために、クエリ効率のよいベイズ最適化(BO)アルゴリズムを用いている。 NNサロゲートによりBOのGPを置換し,ブラックボックスLLMの命令を最適化するニューラルバンディットアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-02T02:01:16Z)
• Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
  スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。 我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
  論文  参考訳（メタデータ） (2022-11-19T15:44:08Z)
• Deep Learning Models on CPUs: A Methodology for Efficient Training [1.7150798380270715]
  本稿では,CPUを用いた深層学習モデルの学習にいくつかの貢献をする。 これは、Intel CPU上でディープラーニングモデルのトレーニングを最適化する手法と、ProfileDNNと呼ばれるツールキットを提供する。
  論文  参考訳（メタデータ） (2022-06-20T22:42:14Z)
• Scheduling Optimization Techniques for Neural Network Training [3.1617796705744547]
  本稿では,ニューラルネットワークトレーニングに有効なスケジューリング手法であるアウト・オブ・オーダー(oo)バックプロップを提案する。 単一GPU、データ並列、パイプライン並列トレーニングにおけるGPU利用は、ooobackpropを適用することで、一般的に改善できることを示す。
  論文  参考訳（メタデータ） (2021-10-03T05:45:06Z)
• Large Batch Simulation for Deep Reinforcement Learning [101.01408262583378]
  我々は,視覚複雑な3次元環境における深層強化学習に基づく学習を,事前作業よりも2桁高速化する。 単一のGPUマシンで1秒間に19,000フレーム以上の経験と最大72,000フレーム/秒のエンドツーエンドのトレーニング速度を実現します。 バッチシミュレーションと性能最適化を組み合わせることで、1つのGPU上の複雑な3D環境において、従来の最先端システムでトレーニングされたエージェントの精度の97%から97%まで、ポイントナビゲーションエージェントをトレーニングできることを実証する。
  論文  参考訳（メタデータ） (2021-03-12T00:22:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。