論文の概要: AscendGYM: A Cost-Aware Kernel Optimization Benchmark for Real-World Workloads on Ascend NPUs
- arxiv url: http://arxiv.org/abs/2611.17621v1
- Date: Fri, 13 Nov 2026 00:45:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.282441
- Title: AscendGYM: A Cost-Aware Kernel Optimization Benchmark for Real-World Workloads on Ascend NPUs
- Title(参考訳): AscendGYM: A Cost-Aware Kernel Optimization Benchmark for Real-World Workloads on Ascend NPUs
- Abstract要約: AscendGYMは3つの難易度で48のカーネルからなるベンチマークである。
各カーネルは、実世界のトレーニングと推論タスクからデータタイプとテンソル形状を収集するテストケースとペアリングされる。
本稿では,トークンコストに対する性能向上を定量化する新しい指標であるSpeedup-Token Score(STS)を提案する。
- 参考スコア(独自算出の注目度): 60.63803817986132
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kernel optimization is essential for efficient large language model (LLM) training and inference on Ascend NPUs. Existing Ascend kernel benchmarks primarily focus on kernel generation, with less emphasis on the ability of agents to optimize existing implementations under input configurations drawn from real workloads. To address this requirement, we introduce AscendGYM, a benchmark whose initial suite comprises 48 kernels across three difficulty levels. Each kernel is paired with test cases whose data types and tensor shapes are collected from real-world training and inference tasks. Consequently, performance improvements on AscendGYM map directly to the corresponding workloads. In terms of usability, two evaluation modes are supported in AscendGYM: model evaluation and model-harness evaluation. The kernel optimization capabilities of both trained models and custom agents are allowed to be measured. It provides a complete execution environment that closely reproduces how Ascend kernels are invoked in practical pipelines. For model evaluation, it additionally includes a built-in harness equipped with search orchestration and experience accumulation. Finally, we propose a new metric, the Speedup-Token Score (STS), which quantifies performance gains relative to token cost. By jointly considering speedup and cost, STS enables the assessment of practical kernel optimization capability of a model or harness under an acceptable budget. AscendGYM is available at https://github.com/SLAI-AITP/AscendGYM.
- Abstract(参考訳): カーネル最適化は、Ascend NPU上での効率的な大規模言語モデル(LLM)のトレーニングと推論に不可欠である。
既存のAscendカーネルベンチマークは主にカーネル生成に重点を置いており、エージェントが実際のワークロードから引き出された入力設定の下で既存の実装を最適化できることに重点を置いている。
この要件に対処するため、3つの難易度で48のカーネルからなるベンチマークAscendGYMを導入する。
各カーネルは、実世界のトレーニングと推論タスクからデータタイプとテンソル形状を収集するテストケースとペアリングされる。
その結果、AscendGYMは対応するワークロードに直接マップされる。
ユーザビリティに関しては,モデル評価とモデルハーネス評価という2つの評価モードがAscendGYMでサポートされている。
トレーニングされたモデルとカスタムエージェントの両方のカーネル最適化機能を測定することができる。
Ascendカーネルを実践的なパイプラインでどのように呼び出されるかを忠実に再現する、完全な実行環境を提供する。
モデル評価には、探索オーケストレーションと経験蓄積を備えた内蔵機器も備えている。
最後に,トークンコストに対する性能向上を定量化する新しい指標であるSpeedup-Token Score(STS)を提案する。
スピードアップとコストを共同で検討することにより、STSは許容可能な予算の下でモデルやハーネスの実用的なカーネル最適化能力を評価することができる。
AscendGYMはhttps://github.com/SLAI-AITP/AscendGYMで入手できる。
関連論文リスト
- KernelMosaic: An Open Dataset and Agentic Framework for CUDA Kernel Generation [5.322452212642358]
KernelMosaicは、さまざまなタスクを検証されたソリューションとトラジェクトリでペアリングするオープンデータセットである。
ヒューマンガイドによるレビューと多様性を意識した選択は、自然言語の記述、参照プログラム、数学的仕様、およびそれらの交点として表されるタスクをキュレートする。
論文 参考訳(メタデータ) (2026-11-10T17:45:06Z) - LLM4LLM: Bridging Kernel Benchmarks and Real Deployment via Closed-Loop Agentic Optimization [7.393546440833148]
大規模言語モデルは、低レベルのコードとカーネル最適化のために、ますます有能なエージェントになっている。
デプロイ対応のクローズドループ最適化フレームワーク LLM4LLM を紹介する。
評価されたモデルごとにエンドツーエンドのレイテンシを改善し、A100/H100で3.91$times$/6.98$times$ometry-meanスピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-22T08:12:16Z) - Kernel-Smith: A Unified Recipe for Evolutionary Kernel Optimization [48.656549870801285]
Kernel-Smithは高性能GPUカーネルと演算子生成のためのフレームワークである。
エージェント側では、Kernel-Smithは実行可能な候補の集団を維持し、反復的にそれらを改善している。
トレーニング側では、長距離進化軌道をステップ中心の監視と強化学習信号に変換する。
論文 参考訳(メタデータ) (2026-03-30T12:12:49Z) - AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization [13.951709632040908]
私たちは、この不足した専門知識を、実行を経験に変えることでブートストラップする、エピソードエージェントであるAscendrを紹介します。
Ascendrは、オープンソースのベースライン上での1.19倍の幾何平均スピードアップを実現し、オペレーターの49.61%が参照し、強力なエージェントと検索ベースラインを上回っている。
論文 参考訳(メタデータ) (2026-03-24T08:54:53Z) - Towards Cold-Start Drafting and Continual Refining: A Value-Driven Memory Approach with Application to NPU Kernel Synthesis [68.7701048879757]
EvoKernelは、カーネル合成のライフサイクルを自動化する自己進化型エージェントフレームワークである。
ステージ固有のQ値を学び、現在の目標への貢献に基づいて経験を優先する。
モデルの正しさを11.0%から83.0%に改善し、初期ドラフトよりも3.60倍のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-03-11T14:57:06Z) - BOOST: Bayesian Optimization with Optimal Kernel and Acquisition Function Selection Technique [1.0499611180329804]
カーネル獲得ペアの選択を自動化する新しいフレームワークであるBOOSTを提案する。
BOOSTは、様々なカーネル獲得ペアのパフォーマンスを予測し、高価な評価にコミットする前に最も有望なペアを特定する。
論文 参考訳(メタデータ) (2025-08-04T12:08:12Z) - Boosting Low-Data Instance Segmentation by Unsupervised Pre-training
with Saliency Prompt [103.58323875748427]
この研究は、低データ体制のための新しい教師なし事前学習ソリューションを提供する。
近年のPrompting技術の成功に触発されて,QEISモデルを強化した新しい事前学習手法を導入する。
実験結果から,本手法は3つのデータセット上でのいくつかのQEISモデルを大幅に向上させることが示された。
論文 参考訳(メタデータ) (2023-02-02T15:49:03Z) - On Coresets for Support Vector Machines [61.928187390362176]
coresetは、元のデータポイントの小さな、代表的なサブセットである。
我々は,本アルゴリズムを用いて,既製のSVMソルバをストリーミング,分散,動的データ設定に適用可能であることを示す。
論文 参考訳(メタデータ) (2020-02-15T23:25:12Z) - PolyScientist: Automatic Loop Transformations Combined with Microkernels
for Optimization of Deep Learning Primitives [55.79741270235602]
深層学習カーネル開発のためのハイブリッドソリューションを開発する。
我々は、高度な多面体技術を用いて、パフォーマンスのために外部ループを自動的に調整する。
論文 参考訳(メタデータ) (2020-02-06T08:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。