論文の概要: Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
- arxiv url: http://arxiv.org/abs/2608.25570v1
- Date: Wed, 26 Aug 2026 09:27:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.701548
- Title: Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
- Title(参考訳): Beyond Scaling: エクスペリエンス駆動ワークフローとエクスペリエンスグラフメモリによるハードウェアカーネル最適化のための自己進化型LLMエージェント
- Abstract要約: 既存のカーネル最適化エージェントは、決定、その観察された実行フィードバック、そしてその証拠を使用する後の決定をほとんど保存しない。
ハードウェアカーネル最適化のための経験駆動型フレームワーク KOPE を提案する。
- 参考スコア(独自算出の注目度): 19.236924182307085
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hardware kernel optimization requires repeated compilation, correctness testing, profiling, and revision. LLM agents can automate parts of this process, and stronger foundation models, longer context windows, and longer execution horizons have improved optimization within individual tasks. These advances alone do not enable an agent to learn from completed optimization runs. Existing kernel-optimization agents seldom preserve a decision, its observed execution feedback, and the later decisions that use that evidence. Retaining every prior trajectory is also impractical because an expanding history competes with the current task for context. We present KOPE, an experience-driven framework for hardware kernel optimization. KOPE records optimization trajectories with correctness and performance feedback in Experience Graph Memory, then uses Active Context Management and Injection to retrieve relevant experience under a fixed token budget. The graph retains decision order, observed outcomes, and alternative branches, allowing evidence collected on the target hardware to inform later optimization steps and tasks. Under the same GLM-5.2 setting, the geometric mean of KOPE's per-operator speedups is $1.54\times$ that of CANNBot, the strongest competing baseline. In a complete 53-operator ablation, Active Context Management and Injection raises pass rate from 60.0\% to 84.6\%, increases the evaluator-reported positive-field geometric mean from 0.0382 to 0.0661, and reduces optimization token consumption from 15.9B to 1.113B tokens relative to passive agent-led context construction. Enabling Experience Graph Memory raises full-suite pass rate from 55.2\% to 84.6\% and yields a $1.43\times$ geometric-mean speedup on valid timing comparisons. These results support continual optimization through external experience while the foundation model remains fixed.
- Abstract(参考訳): ハードウェアカーネルの最適化には、繰り返しコンパイル、正確性テスト、プロファイリング、修正が必要である。
LLMエージェントはこのプロセスの一部を自動化することができ、より強力な基礎モデル、より長いコンテキストウインドウ、より長い実行地平線は個々のタスクにおける最適化を改善した。
これらの進歩だけでは、エージェントが完了した最適化実行から学ぶことができない。
既存のカーネル最適化エージェントは、決定、その観察された実行フィードバック、そしてその証拠を使用する後の決定をほとんど保存しない。
拡張履歴が現在のコンテキストのタスクと競合するため、すべての前の軌道を維持することも現実的ではない。
ハードウェアカーネル最適化のための経験駆動型フレームワーク KOPE を提案する。
KOPEは、最適化トラジェクトリの正確性とパフォーマンスフィードバックをエクスペリエンスグラフメモリに記録し、アクティブコンテキスト管理とインジェクションを使用して、固定トークン予算の下で関連するエクスペリエンスを検索する。
グラフは決定順序、観察結果、代替分岐を保持し、対象のハードウェアで収集された証拠を後続の最適化手順やタスクに通知する。
同じGLM-5.2設定の下では、KOPEの演算子ごとのスピードアップの幾何学的平均は、最強の競争ベースラインであるCANNBotの1.54\times$である。
53-operative ablation では、Active Context Management and Injection はパスレートを 60.0\% から 84.6\% に引き上げ、評価器が報告した正の場の幾何平均を 0.0382 から 0.0661 に引き上げ、最適化トークンの消費を 15.9B から 1.113B に減らした。
Enabling Experience Graph Memoryは、完全なパスレートを55.2\%から84.6\%に引き上げ、1.43\times$ geometry-mean speedupを有効タイミング比較で得る。
これらの結果は、基礎モデルが固定されている間、外部エクスペリエンスによる継続的な最適化をサポートする。
関連論文リスト
- COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization [55.60171725587438]
大規模言語モデル(LLM)エージェントは、以前のタスク経験から抽出した再利用可能なスキルの恩恵を受けることができる。
既存のスキル最適化手法は、コストのかかる実行ベースの評価と実質的なタスクデータに依存していることが多い。
動的に進化する候補空間上での予算付き逐次最適化としてスキル最適化を定式化する効率的なフレームワークである textbfCOBRA-Skills を導入する。
論文 参考訳(メタデータ) (2026-09-10T15:12:24Z) - LLM4LLM: Bridging Kernel Benchmarks and Real Deployment via Closed-Loop Agentic Optimization [7.393546440833148]
大規模言語モデルは、低レベルのコードとカーネル最適化のために、ますます有能なエージェントになっている。
デプロイ対応のクローズドループ最適化フレームワーク LLM4LLM を紹介する。
評価されたモデルごとにエンドツーエンドのレイテンシを改善し、A100/H100で3.91$times$/6.98$times$ometry-meanスピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-22T08:12:16Z) - Do Agent Optimizers Compound? A Continual-Learning Evaluation on Terminal-Bench 2.0 [53.71882250666667]
エージェント最適化法で報告されているほとんどの利得はワンショットである。
これは、デプロイされたエージェントにとって重要な設定をテストするものではない。
エージェントハーネス最適化に対する3つのアプローチを比較する。
論文 参考訳(メタデータ) (2026-07-15T16:36:04Z) - From Noisy Traces to Root Causes: Structural Trajectory Analysis and Causal Extraction for Agent Optimization [13.259841042680724]
本稿では、高信号雑音最適化コンテキストを構築するフレームワークSTRACEを紹介する。
STRACEは障害パターンをマイニングし、冗長なトレースをフィルタリングし、代表的な障害を保持する。
標準的なコンテキストフィルタリングベースラインを大幅に上回る。
論文 参考訳(メタデータ) (2026-07-08T17:57:27Z) - PERFOPT-Bench: Evaluating Coding Agents on Software Performance Optimization [18.924749191192433]
パフォーマンスの最適化は独特なエージェント的タスクである。
本稿では,このフルパフォーマンス・エンジニアリング・ループを評価するベンチマークであるPERFOPT-Benchを紹介する。
論文 参考訳(メタデータ) (2026-07-08T08:32:18Z) - optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。
LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
論文 参考訳(メタデータ) (2026-05-19T10:18:12Z) - Optimas: An Intelligent Analytics-Informed Generative AI Framework for Performance Optimization [0.6117371161379209]
Optimasは、マルチエージェントワークフロー上に構築された、モジュール化された、完全に自動化されたエンドツーエンドのAI生成フレームワークである。
パフォーマンス診断を、確立された文献ベースのコード変換にマッピングする。
100%正しいコードを生成し、98.82%以上の実験で性能を向上させる。
論文 参考訳(メタデータ) (2026-04-26T21:34:51Z) - AdaExplore: Failure-Driven Adaptation and Diversity-Preserving Search for Efficient Kernel Generation [59.964989458924585]
AdaExploreは、パフォーマンスクリティカルなカーネルコード生成のための蓄積された実行フィードバックによる自己改善を可能にするエージェントフレームワークである。
適応段階では、エージェントはタスクを合成し、繰り返し発生する障害を有効ルールの再利用可能なメモリに変換する。
探索段階では、候補核を木として整理し、小さな局所精製とより大きな構造再生を交互に行う。
論文 参考訳(メタデータ) (2026-04-17T18:25:03Z) - AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization [13.951709632040908]
私たちは、この不足した専門知識を、実行を経験に変えることでブートストラップする、エピソードエージェントであるAscendrを紹介します。
Ascendrは、オープンソースのベースライン上での1.19倍の幾何平均スピードアップを実現し、オペレーターの49.61%が参照し、強力なエージェントと検索ベースラインを上回っている。
論文 参考訳(メタデータ) (2026-03-24T08:54:53Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳(メタデータ) (2025-11-04T18:27:39Z) - In-the-Flow Agentic System Optimization for Effective Planning and Tool Use [73.72524040856052]
AgentFlowはトレーニング可能なインザフローエージェントフレームワークで、進化するメモリを通じて4つのモジュール(プランナ、実行子、検証子、ジェネレータ)をコーディネートする。
Flow-GRPOは、マルチターン最適化をトラクタブルな単一ターンポリシー更新のシーケンスに変換することで、長い水平、スパース・リワードのクレジット割り当てに取り組む。
エージェントフローは7Bスケールのバックボーンで、平均的精度が14.9%、エージェントが14.0%、数学が14.5%、科学的タスクが4.1%でトップパフォーマンスのベースラインを上回っている。
論文 参考訳(メタデータ) (2025-10-07T05:32:44Z) - DARS: Dynamic Action Re-Sampling to Enhance Coding Agent Performance by Adaptive Tree Traversal [55.13854171147104]
大規模言語モデル(LLM)は、自然言語処理、データ分析、ソフトウェア開発など、さまざまな領域に革命をもたらした。
符号化エージェントのための新しい推論時間計算スケーリングアプローチである動的アクション再サンプリング(DARS)を提案する。
我々は、SWE-Bench Liteベンチマークに対する我々のアプローチを評価し、このスケーリング戦略がClude 3.5 Sonnet V2で55%のパス@kスコアを達成したことを実証した。
論文 参考訳(メタデータ) (2025-03-18T14:02:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。