論文の概要: AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization
- arxiv url: http://arxiv.org/abs/2603.23566v1
- Date: Tue, 24 Mar 2026 08:54:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-26 21:06:10.943296
- Title: AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization
- Title(参考訳): AscendOptimizer: Ascend NPU Operator Optimizationのためのエピソードエージェント
- Authors: Jiehao Wu, Zixiao Huang, Wenhao Li, Chuyun Shen, Junjie Sheng, Xiangfeng Wang,
- Abstract要約: 私たちは、この不足した専門知識を、実行を経験に変えることでブートストラップする、エピソードエージェントであるAscendrを紹介します。
Ascendrは、オープンソースのベースライン上での1.19倍の幾何平均スピードアップを実現し、オペレーターの49.61%が参照し、強力なエージェントと検索ベースラインを上回っている。
- 参考スコア(独自算出の注目度): 13.951709632040908
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AscendC (Ascend C) operator optimization on Huawei Ascend neural processing units (NPUs) faces a two-fold knowledge bottleneck: unlike the CUDA ecosystem, there are few public reference implementations to learn from, and performance hinges on a coupled two-part artifact - a host-side tiling program that orchestrates data movement and a kernel program that schedules and pipelines instructions. We present AscendOptimizer, an episodic agent that bootstraps this missing expertise by turning execution into experience. On the host side, AscendOptimizer performs profiling-in-the-loop evolutionary search to discover valid and high-performing tiling and data-movement configurations directly from hardware feedback. On the kernel side, it mines transferable optimization motifs by rewinding optimized kernels - systematically de-optimizing them to synthesize instructive "bad-to-good" trajectories - and distills these motifs into a retrievable experience bank for guided rewriting. By alternating host tuning and kernel rewriting in a closed loop, AscendOptimizer steadily expands feasibility and pushes latency down. On a benchmark of 127 real AscendC operators, AscendOptimizer achieves a 1.19x geometric-mean speedup over the open-source baseline, with 49.61% of operators outperforming their references, outperforming strong agent and search baselines.
- Abstract(参考訳): AscendC (Ascend C) 演算子 Huawei Ascend ニューラル処理ユニット (NPU) の最適化は、2重の知識ボトルネックに直面している。CUDA エコシステムとは異なり、学ぶための公開リファレンス実装は少ない。
AscendOptimizer(source)は、この欠落した専門知識を経験に変えることでブートストラップするエピソードエージェントである。
ホスト側では、AscendOptimizerがプロファイリング・イン・ザ・ループの進化的探索を行い、ハードウェアフィードバックから直接、有効で高性能なタイリングとデータ移動構成を発見する。
カーネル側では、最適化されたカーネルを巻き戻すことで、トランスファー可能な最適化モチーフをマイニングし、体系的に非最適化して、インストラクティブな"バッド・トゥ・グッド"な軌道を合成し、これらのモチーフを、ガイド付きリライトのための検索可能なエクスペリエンスバンクに蒸留する。
ホストのチューニングとカーネルの書き換えをクローズドループで交互に行うことで、AscendOptimizerは徐々に実現可能性を高め、レイテンシーを下げる。
AscendOptimizerは127の実AscendC演算子のベンチマークで、オープンソースのベースラインの1.19倍の幾何平均高速化を実現し、49.61%の演算子が参照を上回り、強力なエージェントや検索ベースラインを上回っている。
関連論文リスト
- KernelBlaster: Continual Cross-Task CUDA Optimization via Memory-Augmented In-Context Reinforcement Learning [3.4998382481249286]
我々は、テストハーネス、検証コンポーネント、再現可能な評価を伴って、オープンソースのエージェントフレームワークとしてKernelBlasterをリリースした。
提案手法は, KernelBench Levels 1, 2, 3 の平均速度をそれぞれ 1.43x, 2.50x, 1.50x とする。
論文 参考訳(メタデータ) (2026-02-15T19:48:43Z) - A Two-Stage GPU Kernel Tuner Combining Semantic Refactoring and Search-Based Optimization [9.49293344824955]
本稿では,エージェント駆動反復ループ上にテンプレートベースの書き換え層を導入する。
提案手法は,実運用負荷に対する自動性能最適化を実現するために拡張することができる。
論文 参考訳(メタデータ) (2026-01-19T03:40:12Z) - Towards Robust Agentic CUDA Kernel Benchmarking, Verification, and Optimization [25.135006275638172]
本稿では,カーネル性能の厳密な評価と,さまざまなシナリオにおける正当性評価のための新しいベンチマークである,ロバスト・クベンチを紹介する。
また、トーチコードをカーネルに変換し、ランタイム設定を反復的に改善する包括的なエージェントフレームワークを提案する。
提案手法は,フォワードパスやバックパスを含む,実用アプリケーションのためのトーチ実装よりも優れたカーネルを生成する。
論文 参考訳(メタデータ) (2025-09-16T11:08:30Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z) - Harnessing Deep Learning and HPC Kernels via High-Level Loop and Tensor Abstractions on CPU Architectures [67.47328776279204]
この研究は、効率的でポータブルなDeep LearningとHigh Performance Computingカーネルを開発するためのフレームワークを導入している。
1)プロセッシングプリミティブ(TPP)を用いた計算コアの表現と,2)高レベルな宣言的手法でTPPのまわりの論理ループの表現の2つのステップでカーネルの開発を分解する。
我々は、スタンドアロンカーネルと、さまざまなCPUプラットフォームにおける最先端実装よりも優れたエンドツーエンドワークロードを使用して、このアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2023-04-25T05:04:44Z) - Performance Embeddings: A Similarity-based Approach to Automatic
Performance Optimization [71.69092462147292]
パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。
本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
論文 参考訳(メタデータ) (2023-03-14T15:51:35Z) - Stochastic Optimization with Laggard Data Pipelines [65.20044914532221]
共通最適化手法の「データ抽出」拡張は同期手法よりも優れた性能を示すことを示す。
具体的には、ミニバッチによる凸最適化において、データエコーは、最適統計率を維持しながら収束率の曲率に支配される部分の高速化をもたらすことを示す。
論文 参考訳(メタデータ) (2020-10-26T14:55:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。