論文の概要: AsmEvo: Agentic Assembly-Level Optimization of AMD GPU Kernels with Functional Equivalence Verification
- arxiv url: http://arxiv.org/abs/2608.20711v1
- Date: Fri, 21 Aug 2026 03:34:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.35941
- Title: AsmEvo: Agentic Assembly-Level Optimization of AMD GPU Kernels with Functional Equivalence Verification
- Title（参考訳）: AsmEvo: 関数等価検証によるAMDGPUカーネルのエージェントアセンブリレベル最適化
- Abstract要約: 本稿では,AMD GPUカーネル用のエージェント組立レベルウェアAsmEvoを紹介する。
AsmEvoは、コードオブジェクトのリカバリ、メタデータのリカバリ、プロファイリングガイド付きホットウィンドウの編集、正確性に制限されたタイミング、パッチのフォールバックを組み合わせたものだ。
MI308Xでは、AsmEvoは選ばれた30のBenchカーネルの29を改良し、平均1.35倍、最大3.88倍のスピードアップを達成した。
- 参考スコア（独自算出の注目度）: 21.700338424307517
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-performance ML systems increasingly rely on GPU kernels whose editable source is unavailable, generated, or too distant from final machine code to expose remaining optimizations. Existing LLM kernel optimizers and autotuners mainly operate on CUDA, Triton, HIP, or tensor-program source and validate against reference implementations. We study a stricter setting: optimizing an already compiled AMDGPU code object, where the deployed binary is the only behavioral oracle. We present AsmEvo, an agentic assembly-level optimizer for AMD GPU kernels. Given an AMDGPU code object K0, AsmEvo reconstructs a reassemblable representation, proposes low-level edits with a long-horizon agent, rebuilds an ABI-preserving optimized object, and accepts candidates only after differential verification against K0 under identical launches. AsmEvo combines code-object recovery, metadata-aware rebuilding, profiling-guided hot-window editing, correctness-gated timing, and conservative in-place patch fallback. We conduct extensive experiments with AsmEvo on various AMD GPU kernels. On MI308X, AsmEvo improves 29 of 30 selected KernelBench kernels, reaching 1.35x geometric-mean and 3.88x maximum speedup. On MI300X production workloads, it improves all evaluated AITer binaries and vLLM/SGLang Triton assembly kernels, reaching 1.09x/1.31x and 1.18x/1.34x geometric-mean/maximum speedups, respectively, while preserving functional equivalence.
- Abstract（参考訳）: 高性能なMLシステムは、編集可能なソースが使用できない、生成できない、あるいは残りの最適化を公開するために最終マシンコードから遠すぎるGPUカーネルにますます依存している。
既存のLLMカーネルオプティマイザとオートチューナーは主にCUDA、Triton、HIP、テンソルプログラムソースで動作し、参照実装に対する検証を行う。
既にコンパイルされているAMDGPUコードオブジェクトを最適化する。
AMD GPUカーネル用のエージェントアセンブリレベル最適化器であるAsmEvoを提示する。
AMDGPUのコードオブジェクトK0が与えられたとき、AsmEvoは再組み立て可能な表現を再構築し、長い水平エージェントで低レベルの編集を提案し、ABI保存最適化されたオブジェクトを再構築し、同じ起動下でK0に対する差分検証後にのみ候補を受け入れる。
AsmEvoは、コードオブジェクトのリカバリ、メタデータ対応のリビルド、プロファイリングガイド付きホットウィンドウ編集、修正-ゲートタイミング、保守的なインプレースパッチフォールバックを組み合わせたものだ。
各種AMDGPUカーネル上でAsmEvoを用いた広範囲な実験を行った。
MI308Xでは、AsmEvoは30のカーネルのうち29を改良し、幾何平均が1.35倍、最大速度が3.88倍に達した。
MI300Xのプロダクションワークロードでは、評価済みのAITerバイナリとvLLM/SGLang Tritonアセンブリカーネルを改良し、それぞれ1.09x/1.31xと1.18x/1.34xの幾何平均/最大高速化を実現した。
関連論文リスト
- KernelBench-Verified: Do LLM-Generated Kernels Actually Beat PyTorch? [13.026983194416168]
大きな言語モデル(LLM)は、KernelBenchのようなベンチマークでPyTorchを上回っているように見えるカスタムカーネルを生成することができる。
We demonstrate that frontier models often involved in reward hacking to artificially inflate performance。
論文 参考訳（メタデータ） (2026-06-26T03:22:50Z) - Optimizing CUDA like a Human: Micro-Profiling Tools as Expert Surrogates for LLM-Based GPU Kernel Optimization [37.645358922637065]
KernelProはクローズドループのマルチエージェントシステムで、カーネルコードを自動生成、プロファイル、反復的に最適化する。
KernelProでは、レベル1/2/3の2.42x/4.69x/5.30xの平均スピードアップを実現し、あらゆる難易度で最先端のパフォーマンスを確立する。
論文 参考訳（メタデータ） (2026-06-24T23:28:09Z) - GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization [73.92934811090163]
カーネル評価のための選択的なGPUサロゲートとしてLLMがどのように機能するかを検討する。
限られたGPU測定予算下での高速カーネルの復旧に,その予測が正確で校正され,実用的に有用であるかどうかを計測する。
実験により,LLMは相対的なカーネル性能を正確に予測し,強化学習により性能を向上できることを示した。
論文 参考訳（メタデータ） (2026-05-29T15:56:08Z) - Kernel-Smith: A Unified Recipe for Evolutionary Kernel Optimization [48.656549870801285]
Kernel-Smithは高性能GPUカーネルと演算子生成のためのフレームワークである。
エージェント側では、Kernel-Smithは実行可能な候補の集団を維持し、反復的にそれらを改善している。
トレーニング側では、長距離進化軌道をステップ中心の監視と強化学習信号に変換する。
論文 参考訳（メタデータ） (2026-03-30T12:12:49Z) - KernelSkill: A Multi-Agent Framework for GPU Kernel Optimization [37.008713142905336]
本稿では,デュアルレベルメモリアーキテクチャを備えたマルチエージェントフレームワークであるKernelSkillを紹介する。
Kernel Levels 1-3では、KernelSkillはTorch Eagerよりも100%の成功率と平均速度5.44xBench、2.82x、1.92xを達成した。
論文 参考訳（メタデータ） (2026-03-10T13:43:38Z) - CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。
AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
論文 参考訳（メタデータ） (2026-02-27T18:58:05Z) - GPU Kernel Optimization Beyond Full Builds: An LLM Framework with Minimal Executable Programs [5.25288153386589]
大規模な言語モデル手法では、カーネルのコンパイルと実行を安価にチューニングできると仮定する。
完全なアプリケーションを構築することなくカーネルを最適化する性能フィードバックを備えたエンドツーエンドのLLMフレームワークを提案する。
このフレームワークは自動エラー修正とパフォーマンスパターン継承を統合し、欠陥を修正し、正確性を保ち、効果的なタイリング/メモリ/同期戦略を再利用し、検索コストを削減する。
論文 参考訳（メタデータ） (2025-12-15T07:20:15Z) - Geak: Introducing Triton Kernel AI Agent & Evaluation Benchmarks [11.253534066141668]
パフォーマンスと生産性の要求を満たすため、低レベルのカーネル開発を自動化することが不可欠である。
主要なクラウドプロバイダ、半導体企業、研究機関は現在、GPUのためのAI駆動コード生成に多大な投資をしている。
本稿では,TritonベースのGPUカーネルとGAAK(効率的なAI中心GPUカーネルの生成)の評価スイートを提案する。
論文 参考訳（メタデータ） (2025-07-31T02:26:58Z) - 3DGS-LM: Faster Gaussian-Splatting Optimization with Levenberg-Marquardt [65.25603275491544]
3DGS-LM, 3D Gaussian Splatting(3DGS)の再構築を高速化する新しい手法を提案する。
提案手法は, 元の3DGSよりも20%高速であり, 再構成品質の最適化が可能である。
論文 参考訳（メタデータ） (2024-09-19T16:31:44Z) - vTensor: Flexible Virtual Tensor Management for Efficient LLM Serving [53.972175896814505]
大規模言語モデル(LLM)は様々なドメインで広く使われ、数百万の日次要求を処理する。
大規模言語モデル(LLM)は様々なドメインで広く使われ、数百万の日次要求を処理する。
論文 参考訳（メタデータ） (2024-07-22T14:37:58Z) - Explore as a Storm, Exploit as a Raindrop: On the Benefit of Fine-Tuning Kernel Schedulers with Coordinate Descent [48.791943145735]
カーネルの品質を向上しながら,Ansorの検索時間を短縮する可能性を示す。
このアプローチを、Ansorが生成した最初の300のカーネルに適用する。
この結果は20の有名なディープラーニングモデルで再現されている。
論文 参考訳（メタデータ） (2024-06-28T16:34:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。