論文の概要: A Multi-Dimensional, Per-Pass Empirical Study of the LLVM Optimization Pipeline
- arxiv url: http://arxiv.org/abs/2606.31238v1
- Date: Tue, 30 Jun 2026 07:10:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.111883
- Title: A Multi-Dimensional, Per-Pass Empirical Study of the LLVM Optimization Pipeline
- Title(参考訳): LLVM最適化パイプラインの多次元パーパス実験的研究
- Abstract要約: LLVM-O3最適化パイプラインについて,系統的,実証的研究を行った。
実行時間,コンパイル時間,バイナリサイズ,ハードウェアカウンタ,RAPLエネルギーを84,750回測定した。
これらの発見により、より詳細なパスプルーニング、コストモデルキャリブレーション、オートチューニングが可能になる。
- 参考スコア(独自算出の注目度): 5.6148382426295305
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Quantifying the marginal impact of individual optimization passes underpins phase ordering, pass selection, optimization design, and analysis of pass/hardware interactions. In LLVM -- the standard backend for C/C++, Rust, and ML stacks via MLIR -- interactions among optimization passes, measurement noise, and pipeline scale make this difficult. We present a systematic, empirical study of the LLVM -O3 optimization pipeline. We decompose the pipeline into cumulative per-pass prefixes. We then measure execution time, compile time, binary size, hardware counters, and RAPL energy across 84,750 measurements covering 113 cumulative prefixes of the -O3 pipeline evaluated on 30 PolyBench/C kernels under rigorous noise mitigation. On these compute-bound affine kernels, the pipeline is non-monotone (6.6-9.7% of transitions regress) and strongly back-loaded (the median non-regressing kernel needs 84.8% of the pipeline for 80% of its speedup). Most gains are driven by a small Pareto-dominant core of passes, while the final -O3 configuration is Pareto-dominated on (size, speedup) for 29 of 30 kernels. We further show that IR instruction count is an unreliable predictor of runtime, that runtime-targeted passes are de facto energy-targeted (30-60% savings), and that the search-free idealized-additive upper bound on losses due to phase interference is 46.35%. These findings enable more informed pass pruning, cost-model calibration, and autotuning.
- Abstract(参考訳): 個々の最適化の限界効果の定量化は、フェーズオーダリング、パス選択、最適化設計、パス/ハードウェアインタラクションの分析を下支えする。
C/C++、Rust、MLスタックの標準バックエンドであるLLVMでは、最適化パス、測定ノイズ、パイプラインスケール間のインタラクションが、これを難しくしている。
LLVM-O3最適化パイプラインについて,系統的,実証的研究を行った。
パイプラインを累積パス単位のプレフィックスに分解する。
次に,厳密なノイズ緩和の下で30個のPolyBench/Cカーネル上で評価した-O3パイプラインの累積プレフィックスを84,750回にわたって,実行時間,コンパイル時間,バイナリサイズ,ハードウェアカウンタ,RAPLエネルギーを測定した。
これらの計算バウンドアフィンカーネルでは、パイプラインはモノトン(遷移の6.6-9.7%)で強くバックロードされる(中央の非回帰カーネルは、80%のスピードアップのためにパイプラインの84.8%を必要としている)。
ほとんどのゲインはパスの小さなPareto-dominantコアによって駆動され、最後の-O3構成は29の30カーネルに対してPareto-dominated(サイズ、スピードアップ)である。
さらに、IR命令カウントは実行時の信頼性の低い予測器であり、実行時の目標パスは事実上のエネルギー目標(30~60%の節約)であり、位相干渉による損失に対する探索自由な理想化付加的上限は46.35%であることを示す。
これらの発見により、より詳細なパスプルーニング、コストモデルキャリブレーション、オートチューニングが可能になる。
関連論文リスト
- LoopVAE: Recurrent Depth Across Scales for Visual Tokenization [3.805468327504537]
LoopVAEはスケールとループ条件のコアをスケール内で再利用する。
4ブロックコアはエンコーダまたはデコーダ毎に28ブロックアプリケーションを実行する。
同じ実行グラフを持つ非逆変換器アブレーションは、グローバルな共有の下で競合するPSNRとSSIMを見つける。
論文 参考訳(メタデータ) (2026-09-10T13:20:03Z) - On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - A Reproducible Software Workflow for Unanchored Approximate MUB Optimization: A Case Study in Dimension Six [5.114953719334754]
このワークフローは、CPU、Apple MPS、HPCバックエンド間でのポータブルな実行用に設計されている。
乱数 n = 3, 4, 5, 6 in complex128 and complex64 arithmetic に対して、100個のランダムシードに対してアンアンコール構成を最適化する。
代表 d = 6, n = 4 の遷移ユニタリを 3 ビット 8x8 のユニタリに埋め込み、156 ビットのHeron プロセッサ ibm-marrakesh 上で回路を実行する。
論文 参考訳(メタデータ) (2026-07-12T07:24:25Z) - LocalNav: Distilling Frontier VLMs and Embodied RL for On-Device Object Goal Navigation [53.88286427894783]
視覚言語モデル(VLM)は、ロボット分野において、言語コンテキストによる環境認識を可能にする強力なツールとして登場した。
しかし、彼らの計算フットプリントは、通常、それらをクラウド実行に制限し、リソースに制約のあるロボットへのローカルなデプロイによる低レイテンシの推論を妨げる。
本稿では,大規模フロンティアモデルからの複雑な空間意味推論を,組み込みGPUデバイス上でエッジ実行を行うための軽量な4BパラメータローカルVLMに転送する蒸留戦略を提案する。
論文 参考訳(メタデータ) (2026-06-26T09:11:59Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - CART: Context-Anchored Recurrent Transformer -- A Parameter-Efficient Architecture with Learned Stability [0.0]
CART(Context-Anchored Recurrent Transformer)は、パラメータ効率のよい言語モデルで、1つの共有コアブロックをR倍の深さで再利用する。
我々は1つのコンシューマGPU上でCARTを2段階に分けて評価した: 64-configuration screen at 3,000 steps, then 36 configurations (P=6, R in 6,8,10, three seed) training for 30500 steps (1B tokens)。
256,512,768,1024: 事前深さPはループ数Rを支配し、Rのステージ1ランクはフルトレーニング時に逆になる(R=6は最高になる)。
論文 参考訳(メタデータ) (2026-05-31T23:26:27Z) - ChunkFT: Byte-Streamed Optimization for Memory-Efficient Full Fine-Tuning [58.54940026861599]
textscChunkFTはメモリ効率の良い微調整フレームワークである。
textscChunkFTは、ネットワークアーキテクチャを変更することなく任意のサブテンソルの勾配計算を可能にする。
textscChunkFTは、既存のメモリ効率のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-20T13:44:44Z) - PARM: Pipeline-Adapted Reward Model [60.769414637325326]
リワードモデル(RM)は、大規模言語モデル(LLM)を人間の好みと整合させることの中心であり、高度な復号化戦略を推進している。
これまでの作業はシングルステップ生成に重点を置いていたが、現実のアプリケーションはますますマルチステージパイプラインを採用するようになっている。
我々は、最適化のためのコード生成を通じてこれを調査し、報酬モデルを定式化とソリューション段階の両方に統合するパイプラインを構築する。
論文 参考訳(メタデータ) (2026-04-20T14:29:08Z) - Forge-UGC: FX optimization and register-graph engine for universal graph compiler [2.587194279527956]
OpenVINOやONNXのような既存のフレームワークは、しばしば不透明なコンパイルパイプラインを使用する。
Forge-UGCは、グラフキャプチャ、最適化、中間表現の低下、バックエンドスケジューリングを分離するハードウェアに依存しない設計でこの問題に対処する。
論文 参考訳(メタデータ) (2026-04-14T04:39:16Z) - Parameter Analysis and Optimization of Layer Fidelity for Quantum Processor Benchmarking at Scale [0.03499870393443267]
レイヤの忠実度は、大規模にプロセッサのパフォーマンスを評価するのに適しているベンチマークである。
我々は、ベンチマークのパラメータを最適化するために、元の層忠実度原稿の分析を拡張した。
論文 参考訳(メタデータ) (2025-10-19T16:18:26Z) - DeepPrune: Parallel Scaling without Inter-trace Redundancy [53.62015294143274]
並列推論トレースの80%以上は、実質的な無駄な計算を代表して、同じ最終回答をもたらす。
動的プルーニングによる効率的な並列スケーリングを実現する新しいフレームワークであるDeepPruneを提案する。
我々の研究は並列推論のための新しい標準を確立し、高性能推論をより効率的にする。
論文 参考訳(メタデータ) (2025-10-09T17:24:54Z) - Provably Optimal Quantum Circuits with Mixed-Integer Programming [0.0]
量子回路コンパイルのための奥行き対応最適化フレームワークを提案する。
対象ユニタリの正確な合成のために、線形大域的同値性を持つ混合整数線形プログラム(MILP)を定式化する。
正確なMILPを超越したスケーリングを実現するために,本研究では,主に時間とともに回転し,アクティブキュービットをカプセル化し,キュービット当たりのクロージャを強制する,新しい圧延回路最適化(RHO)を提案する。
論文 参考訳(メタデータ) (2025-10-01T08:25:43Z) - EPS-MoE: Expert Pipeline Scheduler for Cost-Efficient MoE Inference [49.94169109038806]
本稿では,既存の並列処理方式を超越したMoE用パイプラインスケジューラであるEPS-MoEを紹介する。
その結果,既存の並列推論手法と比較して,プリフィルスループットは52.4%向上した。
論文 参考訳(メタデータ) (2024-10-16T05:17:49Z) - 8-bit Optimizers via Block-wise Quantization [57.25800395197516]
ステートフルズは、例えば過去の値の指数的滑らかな和(運動量付きSGD)や2乗和(アダム)など、時間の経過とともに統計を維持している。
この状態は、通常の勾配降下よりも最適化を加速するために使用することができるが、そうでなければモデルパラメータに割り当てられる可能性のあるメモリを使用する。
本稿では,32ビットの勾配状態を用いた場合の性能レベルを維持しながら,8ビット統計を用いた第1次勾配法を開発する。
論文 参考訳(メタデータ) (2021-10-06T15:43:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。