論文の概要: XLA from the Trenches: Correctness on TPU Workloads at Scale
- arxiv url: http://arxiv.org/abs/2611.00624v1
- Date: Sat, 31 Oct 2026 04:48:13 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:11:10.049743
- Title: XLA from the Trenches: Correctness on TPU Workloads at Scale
- Title(参考訳): トレンチからのXLA:TPUワークロードの正確性
- Abstract要約: 本稿では,GoogleのXLA:TPUコンパイラをハイパースケールで検証し,トリガする手法を提案する。
ファジィング技術を活用し、合成プログラム生成と実運用トレースを組み合わせるとともに、AIエージェントSwarmを編成して、自律的にストレステストを生成し、障害を再現し、ドラフト修正を行います。
- 参考スコア(独自算出の注目度): 25.3752802446832
- License:
- Abstract: Accelerating modern foundational models has pushed domain-specific compilers toward increasingly complex, multi-tiered optimization pipelines. However, this heavy optimization focus introduces delicate tradeoffs between peak execution performance and correctness. Subtle codegen defects can trigger numerical degradation and memory or buffer corruption, invalidating multi-million-dollar training runs and degrading live serving quality without raising obvious compiler errors. In this paper, we present a battle-tested methodology for verifying and triaging Google's XLA:TPU compiler at hyperscale. We leverage fuzzing techniques, combining synthetic program generation with real production traces, while orchestrating AI agent swarms to autonomously generate stress tests, reproduce failures, and draft fixes. To pinpoint root causes in full workloads, we pair this with a hierarchical differential pipeline that bisects large graphs down to individual failing operations inside fused kernels. Deployed in production, our framework has already driven the resolution of over 142 compiler bugs (with 103 additional findings under review), from which we distill pragmatic lessons learned.
- Abstract(参考訳): 現代的な基礎モデルの高速化は、ドメイン固有のコンパイラをますます複雑で多層最適化パイプラインへと押し上げた。
しかし、この重度最適化焦点は、ピーク実行性能と正確性の間の微妙なトレードオフをもたらす。
サブセットコーダーの欠陥は、数値的な劣化とメモリまたはバッファの破損を引き起こし、数百万ドルのトレーニングの実行を無効にし、コンパイラのエラーを発生させることなくライブサービス品質を劣化させる。
本稿では,GoogleのXLA:TPUコンパイラをハイパースケールで検証し,トリガするためのバトルテスト手法を提案する。
ファジィング技術を活用し、合成プログラム生成と実運用トレースを組み合わせるとともに、AIエージェントSwarmを編成して、自律的にストレステストを生成し、障害を再現し、ドラフト修正を行います。
完全なワークロードで根本原因を特定するために、これを階層的な微分パイプラインと組み合わせて、大きなグラフを二分して、融合カーネル内の個々の障害操作に分解する。
実運用環境にデプロイされた当社のフレームワークは,すでに142以上のコンパイラバグ(レビュー中の103件のさらなる発見を含む)を解決し,そこから学んだ実践的な教訓を抽出しています。
関連論文リスト
- Are LLM-Generated GPU Kernels Production-Ready? A Trace-Driven Benchmark and Optimization Agent [10.241408048987038]
既存のGPUカーネル生成ベンチマークは、デプロイされたワークロードから分岐する合成またはキュレートされたソースから問題を引き出す。
Atrex-Benchは、30の演算子と440の形状が、計算限定のメモリリッチGPUのフルクラスタ生産推定トレースから直接サンプリングされるベンチマークである。
論文 参考訳(メタデータ) (2026-07-16T03:49:50Z) - Optimizing AI Inference Across the Deployment Stack [0.8913544654492699]
本稿では,デプロイメントスタック全体にわたる推論最適化の統一的解析処理について述べる。
我々は、精度、レイテンシ、スループット、メモリフットプリント、エネルギに関する制約付き多目的問題としてデプロイメントを定式化する。
我々はJetson AGX Orinや5つの推論フレームワークを含むエッジプラットフォームからエビデンスを合成する。
論文 参考訳(メタデータ) (2026-07-01T15:26:09Z) - ACE: Self-Evolving LLM Coding Framework via Adversarial Unit Test Generation and Preference Optimization [28.464748466548965]
ACEは、ソルバ・アドバイザリーアーキテクチャに基づく自己進化型コード生成フレームワークである。
実行中心の監視を通じて、アクティブな障害発見を優先する。
ACEは強いソルバよりも一貫して優れています。
論文 参考訳(メタデータ) (2026-04-17T07:20:01Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - RedFuser: An Automatic Operator Fusion Framework for Cascaded Reductions on AI Accelerators [9.326859100205636]
オペレータフュージョンは、AIモデルのデプロイにおける重要なパフォーマンス最適化テクニックである。
RedFuserは、サポート対象のカスケード還元パターンを自動的に識別し、最適化された融合カーネルを生成するフレームワークである。
実験によると、RedFuserはさまざまなワークロードをうまく融合させ、2$times$から5$times$までのスピードアップを実現している。
論文 参考訳(メタデータ) (2026-02-24T12:29:57Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳(メタデータ) (2025-11-16T20:14:28Z) - Learning to Solve and Verify: A Self-Play Framework for Code and Test Generation [69.62857948698436]
大規模言語モデル(LLM)の最近の進歩は、コーディングベンチマークのパフォーマンスを改善している。
しかし、手軽に利用できる高品質なデータの枯渇により、改善は停滞している。
本稿では,単一モデルのコードとテスト生成能力を共同で改善するセルフプレイ・ソルバ検証フレームワークであるSol-Verを提案する。
論文 参考訳(メタデータ) (2025-02-20T18:32:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。