論文の概要: From Experience to Expertise: Adoption-Aware Memory Learning for Data-Scarce NPU Kernel Synthesis

• arxiv url: http://arxiv.org/abs/2609.35568v1
• Date: Mon, 28 Sep 2026 16:30:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 20:47:47.001644
• Title: From Experience to Expertise: Adoption-Aware Memory Learning for Data-Scarce NPU Kernel Synthesis
• Title（参考訳）: 経験から専門家へ:データスカースNPUカーネル合成における採用型メモリ学習
• Abstract要約: NPUカーネル合成のための持続的自己改善剤であるSAGEについて述べる。 最強の制御ベースラインでは,SAGEが95.5%,84.1%を達成した。 GLM-5.3では、SAGEはスパースフラッシュアテンションに関する torch_npu 参照よりも43.99倍のスピードアップを達成した。
• 参考スコア（独自算出の注目度）: 16.52432062548201
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: High-performance kernels underpin efficient accelerator execution but require expert tuning and lengthy manual optimization cycles. LLM coding agents promise automation, yet their CUDA knowledge transfers poorly to data-scarce domain-specific architectures (DSAs) such as NPUs, whose execution models and memory hierarchies differ substantially from those of GPUs. To address this transfer gap, post-training methods adapt LLMs to NPU programming but depend on scarce expert data and substantial training compute. Memory-learning agents instead adapt through external memory, but their uniform credit assignment gives adopted and unused experiences the same reward target, potentially biasing subsequent retrieval rankings. Moreover, when learned values guide only retrieval, high-value experiences that generalize across operators must be retrieved repeatedly rather than retained in context, thereby increasing retrieval overhead and weakening cross-task guidance. We therefore present SAGE, a persistent self-improving agent for NPU kernel synthesis. Adoption-Traced Utility estimation (ATU) combines explicit adoption records with kernel evaluation outcomes for adoption-aware credit assignment. Utility-Gated Consolidation (UGC) uses positive utility and repeated adoption across operators to select and abstract reusable rules into a bounded resident context. On NPUKernelBench, SAGE achieves a 95.5% execution rate versus 84.1% for the strongest controlled baseline, with 86.9% of solved operators outperforming torch_npu. With GLM-5.3, SAGE achieves a 43.99x speedup over the torch_npu reference on sparse flash attention. These results show that adoption-aware credit assignment and selective consolidation enable agents to accumulate and reuse hardware-specific knowledge across tasks.
• Abstract（参考訳）: 高性能カーネルは効率的なアクセラレータ実行を支えるが、専門家のチューニングと長い手動最適化サイクルを必要とする。 LLMコーディングエージェントは自動化を約束するが、CUDAの知識は、実行モデルとメモリ階層がGPUと大きく異なるNPUのようなデータスカースドメイン固有アーキテクチャ(DSA)に乏しい。 この移行ギャップに対処するため、後学習法はNPUプログラミングにLLMを適応させるが、専門的なデータやかなりの訓練計算に頼っている。 メモリ学習エージェントは、代わりに外部メモリを介して適応するが、その均一なクレジット割り当てによって、採用され未使用のエクスペリエンスが同じ報酬ターゲットとなり、その後の検索ランキングに偏りが生じる可能性がある。 さらに、学習した値が検索のみを導く場合、コンテキスト内に保持されるのではなく、演算子間で一般化された高価値体験を繰り返す必要があるため、検索オーバーヘッドが増加し、クロスタスクガイダンスが弱まる。 そこで我々は,NPUカーネル合成のための持続的自己改善剤であるSAGEを提案する。 Adoption-Traced Utility Estimation (ATU)は、明示的な採用記録とカーネル評価結果を組み合わせて、採用を意識したクレジット割り当てを行う。 UGC(Utility-Gated Consolidation)は、再利用可能なルールを選択して抽象化するために、演算子間で肯定的なユーティリティと反復的な採用を使用する。 NPUKernelBenchでは、最強の制御ベースラインではSAGEが95.5%、84.1%、解決された演算子の86.9%がトーチ_npuを上回っている。 GLM-5.3では、SAGEはスパースフラッシュアテンションに関する torch_npu 参照よりも43.99倍のスピードアップを達成した。 これらの結果から,エージェントはタスク全体にわたってハードウェア固有の知識を蓄積,再利用することが可能であることが示唆された。

関連論文リスト

• Aligning Dense Retrievers with LLM Utility via DistillationAligning Dense Retrievers with LLM Utility via Distillation [13.439895359551853]
  UAE(Utility-Aligned Embeddings)は、検索と生成ユーティリティを統合するためのフレームワークである。 UAEは検索リコール@1を30.59%改善し、MAPを30.16%、Token F1を17.3%改善した。 UAEは、競争性能を維持する効率的なLLM再分類法よりも180倍以上高速である。
  論文  参考訳（メタデータ） (2026-04-24T17:18:56Z)
• AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization [13.951709632040908]
  私たちは、この不足した専門知識を、実行を経験に変えることでブートストラップする、エピソードエージェントであるAscendrを紹介します。 Ascendrは、オープンソースのベースライン上での1.19倍の幾何平均スピードアップを実現し、オペレーターの49.61%が参照し、強力なエージェントと検索ベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-03-24T08:54:53Z)
• AceGRPO: Adaptive Curriculum Enhanced Group Relative Policy Optimization for Autonomous Machine Learning Engineering [52.67783579040657]
  AceGRPOは、エージェントの学習フロンティアにおけるタスクを優先順位付けして学習効率を最大化する機械学習システムである。 我々のトレーニングされたAce-30Bモデルは、MLE-Bench-Lite上で100%有効な応募率を実現し、プロプライエタリなフロンティアモデルの性能にアプローチし、より大きなオープンソースベースラインを上回ります。
  論文  参考訳（メタデータ） (2026-02-08T10:55:03Z)
• Prism: Efficient Test-Time Scaling via Hierarchical Search and Self-Verification for Discrete Diffusion Language Models [96.0074341403456]
  LLM推論を改善するための実用的な方法として、推論時計算が再導入されている。 テスト時間スケーリング(TTS)アルゴリズムの多くは、自動回帰デコーディングに依存している。 そこで我々は,dLLM のための効率的な TTS フレームワーク Prism を提案する。
  論文  参考訳（メタデータ） (2026-02-02T09:14:51Z)
• Optimizing Agentic Reasoning with Retrieval via Synthetic Semantic Information Gain Reward [24.738836592075927]
  本稿では, セマンティック情報獲得報酬による効果的な情報探索を動機付ける統合フレームワークを提案する。 7つの質問回答ベンチマークでの実験では、InfoReasonerは強力な検索強化ベースラインを一貫して上回っている。 我々の研究は、理論的に基礎を置き、検索を伴うエージェント推論へのスケーラブルな道を提供する。
  論文  参考訳（メタデータ） (2026-01-31T18:15:50Z)
• MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
  本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。 それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。 我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
  論文  参考訳（メタデータ） (2025-11-04T18:27:39Z)
• QiMeng-NeuComBack: Self-Evolving Translation from IR to Assembly Code [52.66657751895655]
  大規模言語モデル(LLM)は、ニューラルコンパイルという魅力的な新しいパラダイムを提供する。 本稿では,IR-to-assemblyコンパイル用に設計された新しいベンチマークデータセットであるNeuComBackを紹介する。 LLMの内部的なプロンプト戦略を進化させる自己進化的プロンプト最適化法を提案する。
  論文  参考訳（メタデータ） (2025-11-03T03:20:26Z)
• FactorLLM: Factorizing Knowledge via Mixture of Experts for Large Language Models [50.331708897857574]
  本稿では,高度に訓練された高密度FFNを余分なサブネットワークに分解する新しいアプローチであるFacterLLMを紹介する。 FactorLLMは、最大85%のモデル性能を確保しながら、推論速度を30%以上増加させながら、ソースモデルに匹敵するパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-08-15T16:45:16Z)
• Switchable Decision: Dynamic Neural Generation Networks [98.61113699324429]
  本稿では,各データインスタンスのリソースを動的に割り当てることで,推論を高速化するスイッチブルな決定を提案する。 提案手法は, 同一の精度を維持しながら, 推論時のコスト低減に有効である。
  論文  参考訳（メタデータ） (2024-05-07T17:44:54Z)
• OptEx: Expediting First-Order Optimization with Approximately Parallelized Iterations [12.696136981847438]
  ほぼ並列化されたイテレーション (OptEx) で高速化された一階最適化を導入する。 OptExは、並列コンピューティングを活用して、その反復的ボトルネックを軽減することで、FOOの効率を高める最初のフレームワークである。 我々は、カーネル化された勾配推定の信頼性とSGDベースのOpsExの複雑さを理論的に保証する。
  論文  参考訳（メタデータ） (2024-02-18T02:19:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。