論文の概要: CANNBot-CAKE: Collaborative Agentic Kernel Evolution for Ascend NPU
- arxiv url: http://arxiv.org/abs/2610.31034v1
- Date: Thu, 22 Oct 2026 10:12:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.316062
- Title: CANNBot-CAKE: Collaborative Agentic Kernel Evolution for Ascend NPU
- Title(参考訳): CANNBot-CAKE: Ascend NPUのための協調的エージェントカーネル進化
- Abstract要約: CAKEは、デプロイ可能なカスタムオペレータのためのCANNネイティブシステムである。
Ascend 950PR上の53のCANN-Bench v1.1演算子では、CAKEの集計結果は100%のケースパスレートが得られる。
- 参考スコア(独自算出の注目度): 13.381290985296019
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Efficient custom operators are essential for modern deep learning workloads, yet developing high-performance kernels for Ascend NPUs remains slow, expert-intensive, and difficult to automate. Although AI agents now approach expert performance on GPU kernel benchmarks, current models remain less capable of generating AscendC kernels for NPUs, potentially reflecting the relative scarcity of relevant training data. We thus present CAKE, a CANN-native system for deployable custom operators that combines adaptive multi-DSL routing, separate Generation and Evolution modes, and reviewed knowledge reuse through CAKE Book and a Self-Evolving Agent. On 53 CANN-Bench v1.1 operators on Ascend 950PR, CAKE's aggregated results achieve $100\%$ case pass rate on the standard set (1,060/1,060) and $98.28\%$ on the hidden set (4,167/4,240), with an overall mean score of 78.63 out of 100 and an average performance speedup of $1.334\times$ over the baseline. Evolution then pushes correct operators further: EngramGateFusion cuts aggregate device time by $46.6\%$ over 20 rounds and roughly halves the mean roofline gap. These results offer a practical path toward closing Ascend's AI-for-kernel capability gap.
- Abstract(参考訳): 効率的なカスタムオペレータは、現代のディープラーニングワークロードには不可欠ですが、Ascend NPU用の高性能カーネルの開発は、遅く、専門家集約的で、自動化が難しいままです。
AIエージェントは現在、GPUカーネルベンチマークのエキスパートパフォーマンスにアプローチしているが、現在のモデルは、NPU用のAscendCカーネルの生成能力が低いままであり、関連するトレーニングデータの相対的不足を反映している可能性がある。
そこで我々は、適応型マルチDSLルーティングとジェネレーションと進化モードの分離を組み合わせたカスタムオペレータをデプロイ可能なCANNネイティブシステムであるCAKEを紹介し、CAKE Bookとセルフ進化エージェントを通じて知識再利用をレビューした。
Ascend 950PR上の53のCANN-Bench v1.1演算子では、CAKEの集計結果は標準セット(1,060/1,060)で100\%、隠されたセット(4,167/4,240)で9,8.28\%、総平均スコアは100点中78.63点、平均パフォーマンス速度は1.334点である。
EngramGateFusionは、20ラウンド以上の合計デバイス時間を46.6\%削減し、平均的な屋根の隙間をほぼ半分にする。
これらの結果は、AscendのAI-for-カーネル能力ギャップを埋める実践的な道筋を提供する。
関連論文リスト
- iCoder-27B: Recursive AI-Led Development of Frontier Industrial Coding Model [89.9836668595474]
再帰的AI(Recursive AI)は、AIの構築と改善において、AIの完全な役割を担っている。
本研究では,エージェントがフロンティアモデルを開発するのにどの程度の人的関与が十分であるかを問う。
我々は,高密度で低周波なインタフェースに人間の入力を集中させ,エージェントはこれらの先行情報をインスタンス化し,実験を選択し,その結果を診断し,トレーニング戦略を改訂する。
産業コーディングの挑戦的な領域では、エージェントはデータを進化させ、SFT、オンライン自己蒸留、検証可能な報酬による強化学習を調整し、最終的に生産する。
論文 参考訳(メタデータ) (2026-08-28T15:51:26Z) - AgenticCANN: Automated Ascend C Operator Generation via Knowledge-Augmented Agentic Evolution [16.709206818546317]
AgenticCANNは、低コーパスNPU環境でのAscend C演算子の自動合成に適した知識強化されたエージェント進化フレームワークである。
本手法は, 要素ワイドおよび正規化演算子で90%から100%, 融合演算子で56%, 1B Panguモデル推論カーネルで6.65$times$スピードアップを実現する。
論文 参考訳(メタデータ) (2026-07-29T09:19:17Z) - NKI-Agent: Domain-Specific Fine-Tuning and Agentic Tool Use for Neuron Kernel Generation [18.169388901224416]
NKIカーネル生成のためのドメイン固有の微調整とエージェントループを組み合わせた最初のシステムであるNKI-Agentを提案する。
Opus 4.8は、エージェントツールなしでシングルショットモードで6%スコアし、SFTでトレーニングされたQwen3-Coder-30B-A3Bは、Sonnet 4 RLの1/100分の1で25.0%パスレートを達成した。
論文 参考訳(メタデータ) (2026-07-05T16:37:41Z) - IKNO: Infinite-order Kernel Neural Operators [57.17011066621087]
Infinite-order Kernel Neural Operator (IKNO) を提案する。
我々は、Kronecker eigendecompositionを介して製品グリッドにフルカーネル分解剤を適用するIKNO-Vanillaと、軸あたりの分解剤を構成する代替テンソル積演算子であるIKNO-TPの2つの相補的な無限次ニューラル演算子を構築した。
論文 参考訳(メタデータ) (2026-05-21T08:52:36Z) - Towards Cold-Start Drafting and Continual Refining: A Value-Driven Memory Approach with Application to NPU Kernel Synthesis [68.7701048879757]
EvoKernelは、カーネル合成のライフサイクルを自動化する自己進化型エージェントフレームワークである。
ステージ固有のQ値を学び、現在の目標への貢献に基づいて経験を優先する。
モデルの正しさを11.0%から83.0%に改善し、初期ドラフトよりも3.60倍のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-03-11T14:57:06Z) - CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。
AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
論文 参考訳(メタデータ) (2026-02-27T18:58:05Z) - AscendCraft: Automatic Ascend NPU Kernel Generation via DSL-Guided Transcompilation [8.878393510726008]
本稿では,自動アセンドCカーネル生成のためのDSL誘導型アプローチであるAscendCraftを提案する。
AscendingCraftは98.1%のコンパイル成功と90.4%の機能的正しさを達成した。
また、DSL誘導トランスコンパイルにより、LLMが正しいNPUカーネルと競合するNPUカーネルの両方を生成することができることを示す。
論文 参考訳(メタデータ) (2026-01-30T09:34:59Z) - AccelOpt: A Self-Improving LLM Agentic System for AI Accelerator Kernel Optimization [12.269456144158783]
本稿では,自己改善型大規模言語モデル(LLM)エージェントシステムであるAccelOptを紹介する。
NKIBenchは、AWS Trainiumアクセラレータカーネルの新しいベンチマークスイートで、現実世界のワークロードから抽出される複雑さがさまざまです。
評価の結果,AccelOptの能力は時間とともに向上し,ピークスループットの平均値はTranium 1で49%から61%,NKIBenchカーネルで45%から59%へと向上した。
論文 参考訳(メタデータ) (2025-11-19T22:49:37Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked
Models [56.21470608621633]
本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。
提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。
生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
論文 参考訳(メタデータ) (2021-05-07T11:39:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。