論文の概要: God Does Not Play Dice: Enforcing Batch Invariance in Agentic Kernel Generation
- arxiv url: http://arxiv.org/abs/2610.36623v1
- Date: Tue, 27 Oct 2026 04:27:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.482494
- Title: God Does Not Play Dice: Enforcing Batch Invariance in Agentic Kernel Generation
- Title(参考訳): 神はDiceをプレイしない:エージェントカーネル生成におけるバッチ不変性を強制する
- Abstract要約: 大規模言語モデル (LLM) は、GPU実行のために動的にユーザ要求をバッチするシステムを提供する。
GPUカーネルがバッチ不変性(BI)を欠いている場合、この変更されたバッチコンテキストは、変化しない入力の数値出力を変更することができる。
本稿では,契約誘導型静的依存関係解析とバッチコンテキスト間のビットワイド一貫性の動的検証を組み合わせたツールを提案する。
- 参考スコア(独自算出の注目度): 4.899411386280091
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) serving systems dynamically batch user requests for GPU execution, so the same request may be processed alongside different requests across runs. If the GPU kernels lack batch invariance (BI), this changing batch context can alter the numerical output for an unchanged input, undermining reproducibility. Existing kernel generation agents focus on correctness and efficiency but \emph{overlook BI}. We find 19 confirmed BI violations among 83 batch-applicable released artifacts. To address this limitation, we propose \tool, which combines contract-guided static dependency analysis with dynamic validation of bitwise consistency across batch contexts. \tool is designed as a plug-in component for general kernel agents, allowing their original optimization capabilities to be reused while adding BI enforcement. We integrate it as successive acceptance gates in the optimization loop, rejecting structurally risky or dynamically non-invariant candidates before performance benchmarking and returning feedback to the agent. Experiments across three agent frameworks under baseline and BI-aware generation on real world LLM serving tasks show that \tool improves the BI pass rate from 67.6\% to 91.9\% while retaining 91.8\% of the baseline geometric mean speedup. These results demonstrate that \tool can be incorporated into kernel optimization by agents as an additional reliability objective alongside correctness and speed.
- Abstract(参考訳): 大規模言語モデル(LLM)は、GPU実行のためのユーザリクエストを動的にバッチするシステムを提供する。
GPUカーネルがバッチ不変性(BI)を欠いている場合、この変更されたバッチコンテキストは、変化しない入力の数値出力を変更することができ、再現性を損なう。
既存のカーネル生成エージェントは正確性と効率に重点を置いているが、 \emph{overlook BI} である。
83のバッチ適用可能なリリースアーティファクトのうち19のBI違反が確認された。
この制限に対処するために,契約誘導型静的依存関係解析とバッチコンテキスト間のビットワイド一貫性の動的検証を組み合わせた,‘tool’を提案する。
\toolは一般的なカーネルエージェントのプラグインコンポーネントとして設計されており、BIの強化を加えながら元の最適化機能を再利用することができる。
最適化ループに連続する受け入れゲートとして統合し、性能ベンチマークの前に構造的に危険か動的に非不変候補を拒絶し、エージェントにフィードバックを返す。
実世界のLLMサービスタスクにおいて、ベースライン下の3つのエージェントフレームワークとBIを意識した生成実験は、ベースラインの幾何学的平均速度の91.8\%を維持しながら、 \toolがBIパスレートを67.6\%から91.9\%に改善していることを示している。
これらの結果から, エージェントによるカーネル最適化に‘tool’を組み込むことが, 正確性や高速化とともに, さらなる信頼性向上の目標となることが示唆された。
関連論文リスト
- Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory [19.236924182307085]
既存のカーネル最適化エージェントは、決定、その観察された実行フィードバック、そしてその証拠を使用する後の決定をほとんど保存しない。
ハードウェアカーネル最適化のための経験駆動型フレームワーク KOPE を提案する。
論文 参考訳(メタデータ) (2026-08-26T09:27:39Z) - PERFOPT-Bench: Evaluating Coding Agents on Software Performance Optimization [18.924749191192433]
パフォーマンスの最適化は独特なエージェント的タスクである。
本稿では,このフルパフォーマンス・エンジニアリング・ループを評価するベンチマークであるPERFOPT-Benchを紹介する。
論文 参考訳(メタデータ) (2026-07-08T08:32:18Z) - Bayesian-Agent: Posterior-Guided Skill Evolution for LLM Agent Harnesses [30.457068495035386]
textbfBayesianAgentは、再利用可能なスキルとSOPを、特定のプロンプト、コンテキスト、利用環境下で凍結モデルが成功するかどうかの仮説として扱う。
ベイジアン=アジェントの記録は、軌道証拠を検証し、各技術に対して特徴条件付きカテゴリー後部を維持し、後方状態をパッチ、分割、圧縮、引退、探索のような検査可能な行動にマッピングする。
論文 参考訳(メタデータ) (2026-06-06T21:40:19Z) - AdaExplore: Failure-Driven Adaptation and Diversity-Preserving Search for Efficient Kernel Generation [59.964989458924585]
AdaExploreは、パフォーマンスクリティカルなカーネルコード生成のための蓄積された実行フィードバックによる自己改善を可能にするエージェントフレームワークである。
適応段階では、エージェントはタスクを合成し、繰り返し発生する障害を有効ルールの再利用可能なメモリに変換する。
探索段階では、候補核を木として整理し、小さな局所精製とより大きな構造再生を交互に行う。
論文 参考訳(メタデータ) (2026-04-17T18:25:03Z) - ARGUS: Agentic GPU Optimization Guided by Data-Flow Invariants [12.49256588033198]
LLMベースのコーディングエージェントは、機能的に正しいGPUカーネルを生成することができるが、その性能は、重要な計算に関する手動最適化ライブラリよりもはるかに低いままである。
データフロー不変量を通じてこの問題に対処するエージェントフレームワークであるArgusを紹介します。
我々は、GEMM、フラッシュアテンション、MoEカーネルにわたるAMD MI300X GPU上でArgusを評価する。
論文 参考訳(メタデータ) (2026-04-16T15:49:31Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - Outrunning LLM Cutoffs: A Live Kernel Crash Resolution Benchmark for All [57.23434868678603]
Live-kBenchは、新たに発見されたカーネルバグのエージェントをスクラップし、評価するセルフ進化ベンチマークの評価フレームワークである。
kEnvは、カーネルのコンパイル、実行、フィードバックのためのエージェントに依存しないクラッシュ解決環境である。
kEnvを用いて3つの最先端エージェントをベンチマークし、最初の試行で74%のクラッシュを解決したことを示す。
論文 参考訳(メタデータ) (2026-02-02T19:06:15Z) - SCOPE: Prompt Evolution for Enhancing Agent Effectiveness [53.75986399936395]
大規模言語モデル(LLM)エージェントは、大規模で動的なコンテキストを生成する環境にますますデプロイされている。
エージェントはこのコンテキストにアクセスできますが、静的なプロンプトには効果的に管理するメカニズムがありません。
textbfSCOPE (Self-evolving Context Optimization via Prompt Evolution) を導入する。
本稿では,戦術的特異性(即時誤りの解消)と戦略的汎用性(長期原則の進化)のバランスをとるデュアルストリーム機構を提案する。
論文 参考訳(メタデータ) (2025-12-17T12:25:05Z) - SABER: Small Actions, Big Errors -- Safeguarding Mutating Steps in LLM Agents [52.20768003832476]
我々は$$-Bench (Airline/Retail) および SWE-Bench Verified 上での実行トレースを分析する。
成功を失敗に戻すための、先進的な逸脱、最初期の行動、レベル分岐を形式化する。
モデルに依存しない,勾配のない,テスト時のセーフガードである cm を導入します。
論文 参考訳(メタデータ) (2025-11-26T01:28:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。