論文の概要: EdgeKernelBench: Unified LLM-Driven Kernel Generation for Edge Backends
- arxiv url: http://arxiv.org/abs/2610.24648v1
- Date: Sat, 17 Oct 2026 11:51:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-22 17:13:45.133923
- Title: EdgeKernelBench: Unified LLM-Driven Kernel Generation for Edge Backends
- Title（参考訳）: EdgeKernelBench: エッジバックエンド用の統一LLM駆動カーネル生成
- Abstract要約: 統合IRデプロイメントフレームワークとエッジワークロードの階層的なベンチマークを組み合わせたEdgeKernelBenchを紹介します。
ベンチマークは、個々の演算子からコンパクトなモデルグラフ、代表的エッジアプリケーションドメインまで、徐々に大きなプログラムスコープにまたがる。
次に、層状IRによる最適化を組織するLayered Edge Kernel Agent (LEKA)を導入する。
- 参考スコア（独自算出の注目度）: 14.921600309927557
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent works show that LLMs can generate kernels with strong performance on server GPUs. Edge deployment presents distinct challenges because the hardware is heterogeneous, the software stacks are fragmented, and the resource budgets are tight. LLM kernel generation across diverse edge backends has yet to be studied systematically. We introduce EdgeKernelBench, which combines a unified IR deployment framework with a hierarchical benchmark for edge workloads. The unified IR captures reusable computation, scheduling, and memory decisions and connects to each target backend through a compiler interface. The benchmark spans progressively larger program scopes, from individual operators to compact model graphs, across representative edge application domains. We instantiate the design with TVM as a reference compiler and validate it across heterogeneous edge backends. With a single generation attempt, the best model achieves 64.5% Correct@1 but only 25.5% Fast@1.0. This gap shows that functional correctness does not consistently translate into performance gains. We therefore introduce the Layered Edge Kernel Agent (LEKA), which organizes optimization through a layered IR. On the agent evaluation subset, LEKA achieves 43.5% Fast@1.0, compared with 13.0% for direct generation and 26.1% for Claude Code. LEKA and Claude Code use the same base model and optimization budget. Together, EdgeKernelBench and LEKA support unified evaluation and layered optimization of kernels generated by LLMs across edge backends.
- Abstract（参考訳）: 最近の研究によると、LLMはサーバGPU上で高いパフォーマンスでカーネルを生成することができる。
ハードウェアは異質であり、ソフトウェアスタックは断片化され、リソース予算は厳格である。
多様なエッジバックエンドにまたがるLLMカーネル生成は、まだ体系的に研究されていない。
統合IRデプロイメントフレームワークとエッジワークロードの階層的ベンチマークを組み合わせたEdgeKernelBenchを紹介します。
統合IRは再利用可能な計算、スケジューリング、メモリの決定をキャプチャし、コンパイラインターフェースを介して各ターゲットバックエンドに接続する。
ベンチマークは、個々の演算子からコンパクトなモデルグラフ、代表的エッジアプリケーションドメインまで、徐々に大きなプログラムスコープにまたがる。
参照コンパイラとしてTVMを用いて設計をインスタンス化し、異種エッジバックエンドで検証する。
単一世代の試みでは、最高のモデルは64.5%Correct@1だが、Fast@1.0は25.5%しか得られない。
このギャップは、機能的正しさが常に性能向上に変換されないことを示している。
そこで我々は、層状IRによる最適化を組織するLayered Edge Kernel Agent (LEKA)を導入する。
エージェント評価サブセットでは、LEKAは43.5%のFast@1.0を達成するが、直接生成では13.0%、クロードコードでは26.1%である。
LEKAとClaude Codeは同じベースモデルと最適化予算を使っている。
EdgeKernelBenchとLEKAは、エッジバックエンド間でLLMが生成するカーネルの統一評価と階層最適化をサポートする。
関連論文リスト
- LLM4LLM: Bridging Kernel Benchmarks and Real Deployment via Closed-Loop Agentic Optimization [7.393546440833148]
大規模言語モデルは、低レベルのコードとカーネル最適化のために、ますます有能なエージェントになっている。
デプロイ対応のクローズドループ最適化フレームワーク LLM4LLM を紹介する。
評価されたモデルごとにエンドツーエンドのレイテンシを改善し、A100/H100で3.91$times$/6.98$times$ometry-meanスピードアップを達成する。
論文 参考訳（メタデータ） (2026-08-22T08:12:16Z) - AsmEvo: Agentic Assembly-Level Optimization of AMD GPU Kernels with Functional Equivalence Verification [21.700338424307517]
本稿では,AMD GPUカーネル用のエージェント組立レベルウェアAsmEvoを紹介する。
AsmEvoは、コードオブジェクトのリカバリ、メタデータのリカバリ、プロファイリングガイド付きホットウィンドウの編集、正確性に制限されたタイミング、パッチのフォールバックを組み合わせたものだ。
MI308Xでは、AsmEvoは選ばれた30のBenchカーネルの29を改良し、平均1.35倍、最大3.88倍のスピードアップを達成した。
論文 参考訳（メタデータ） (2026-08-21T03:34:22Z) - Are LLM-Generated GPU Kernels Production-Ready? A Trace-Driven Benchmark and Optimization Agent [10.241408048987038]
既存のGPUカーネル生成ベンチマークは、デプロイされたワークロードから分岐する合成またはキュレートされたソースから問題を引き出す。
Atrex-Benchは、30の演算子と440の形状が、計算限定のメモリリッチGPUのフルクラスタ生産推定トレースから直接サンプリングされるベンチマークである。
論文 参考訳（メタデータ） (2026-07-16T03:49:50Z) - FastKernels: Benchmarking GPU Kernel Generation in Production [15.284289018908781]
LLMベースのGPUカーネル生成エージェントは急速に進歩している。
しかし、彼らの進歩は最適化されたベンチマークによって制限されています。
Fast Kernelsはプロダクショングレードの推論フレームワークで、強化されたシステムと同等に動作する。
論文 参考訳（メタデータ） (2026-05-22T04:19:04Z) - optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。
LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
論文 参考訳（メタデータ） (2026-05-19T10:18:12Z) - Kernel-Smith: A Unified Recipe for Evolutionary Kernel Optimization [48.656549870801285]
Kernel-Smithは高性能GPUカーネルと演算子生成のためのフレームワークである。
エージェント側では、Kernel-Smithは実行可能な候補の集団を維持し、反復的にそれらを改善している。
トレーニング側では、長距離進化軌道をステップ中心の監視と強化学習信号に変換する。
論文 参考訳（メタデータ） (2026-03-30T12:12:49Z) - Resource-Efficient Iterative LLM-Based NAS with Feedback Memory [49.44875022114861]
ニューラルアーキテクチャサーチ(NAS)はネットワーク設計を自動化するが、従来の手法ではかなりの計算資源を必要とする。
本稿では,大規模言語モデル(LLM)を活用して,畳み込みニューラルネットワークアーキテクチャを反復的に生成し,評価し,洗練するクローズドループパイプラインを提案する。
論文 参考訳（メタデータ） (2026-03-12T16:00:22Z) - $\nabla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
$nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。
$nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
論文 参考訳（メタデータ） (2026-03-05T08:42:54Z) - StitchCUDA: An Automated Multi-Agents End-to-End GPU Programing Framework with Rubric-based Agentic Reinforcement Learning [26.264303471292845]
エンドツーエンドGPUプログラム生成のためのマルチエージェントフレームワークであるStitchCUDAを提案する。
実験の結果、StitchCUDAはエンドツーエンドのプログラミングタスクで100%近く成功し、マルチエージェントベースラインの1.72倍の高速化を実現している。
論文 参考訳（メタデータ） (2026-03-03T06:04:49Z) - CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。
AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
論文 参考訳（メタデータ） (2026-02-27T18:58:05Z) - Thinking Before Running! Efficient Code Generation with Thorough Exploration and Optimal Refinement [47.89758553708932]
textbfThinkCoderは、徹底的な探索と最適な精錬を組み合わせたフレームワークです。
探索フェーズは、潜在的な解を探すことによって解空間を多様化し、続いて精度を高める精製フェーズが続く。
テスト時間計算のオーバーヘッドを最小化するために、Reinforced Self-Training (ReST) を用いた優先駆動最適化を導入する。
論文 参考訳（メタデータ） (2024-12-30T07:02:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。