論文の概要: CAKE: Compiler-Agent Co-Design for Frontier Kernel Evolution
- arxiv url: http://arxiv.org/abs/2608.12629v1
- Date: Wed, 12 Aug 2026 22:31:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.338662
- Title: CAKE: Compiler-Agent Co-Design for Frontier Kernel Evolution
- Title（参考訳）: CAKE:フロンティアカーネル進化のためのコンパイラ・アジェントの共同設計
- Abstract要約: CAKEはコンパイラーエージェントの共同設計であり、CAKE IRは型付きハードウェア仕様のスケジュール表現である。
CCAKEは、検証、コストモデリング、局所診断をサポートしながら、ワープロール、メモリ移動、同期、パイプラインを公開する。
- 参考スコア（独自算出の注目度）: 8.254499148634542
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: GPU kernel agents and GPU programming languages have advanced separately, leaving expert kernels difficult to reproduce. Agents usually treat the compiler as a fixed black box and receive only errors, correctness outcomes, and timing, while existing DSLs either hide critical scheduling decisions or expose them through difficult layout abstractions. We present CAKE, a compiler-agent co-design in which agents author CAKE IR, a typed, hardware-explicit schedule representation. CAKE exposes warp roles, memory movement, synchronization, and pipelines while supporting verification, cost modeling, and localized diagnostics. The harness itself evolves: recurring failures become verifier rules, IR primitives, model calibrations, and reusable optimization tactics. In matched implementation-hidden Flash-KMeans clean starts on B200, the best CAKE IR candidate at an 80-million-token budget runs at 1.144x the tuned FlashML baseline, compared with 0.928x for direct CUDA/PTX. Beyond this benchmark, agent-generated Kimi Delta Attention achieves a 2.05x geometric-mean speedup over official FlashKDA and passes end-to-end serving validation. Dispatcher-backed KNN and KMeans improve performance by 1.42x to 2.12x across more than 400 shapes, and four kernel changes are available as upstream PRs. CAKE targets NVIDIA GPUs from Ampere through Blackwell and separates single-shape evolution from library generalization and dispatch.
- Abstract（参考訳）: GPUカーネルエージェントとGPUプログラミング言語は別々に進化しており、専門家カーネルの再生は困難である。
エージェントは通常、コンパイラを固定されたブラックボックスとして扱い、エラー、正確性の結果、タイミングのみを受け取る。
本稿では,コンパイラ・エージェントの共同設計であるCAKE IRについて紹介する。
CAKEは、検証、コストモデリング、局所診断をサポートしながら、ワープロール、メモリ移動、同期、パイプラインを公開する。
繰り返し発生する障害は検証ルール、IRプリミティブ、モデルキャリブレーション、再利用可能な最適化戦術となる。
実装を隠した Flash-KMeans のクリーンスタートは B200 上で行われ、80万ドルの予算で最高の CAKE IR 候補は、調整された FlashML ベースラインの 1.144 倍で、直接CUDA/PTX は 0.928 倍である。
このベンチマーク以外にも、エージェント生成のKim Delta Attentionは、公式のFlashKDAよりも2.05倍の幾何平均スピードアップを実現し、エンドツーエンドのサービスバリデーションをパスしている。
ディパッチャーが支援するKNNとKMeansは400以上の形状でパフォーマンスを1.42倍から2.12倍に改善し、アップストリームPRとして4つのカーネル変更が利用可能である。
CAKEはAmpereからBlackwellまでのNVIDIA GPUをターゲットにしており、ライブラリの一般化とディスパッチから単一形状の進化を分離している。
関連論文リスト
- LLM4LLM: Bridging Kernel Benchmarks and Real Deployment via Closed-Loop Agentic Optimization [7.393546440833148]
大規模言語モデルは、低レベルのコードとカーネル最適化のために、ますます有能なエージェントになっている。
デプロイ対応のクローズドループ最適化フレームワーク LLM4LLM を紹介する。
評価されたモデルごとにエンドツーエンドのレイテンシを改善し、A100/H100で3.91$times$/6.98$times$ometry-meanスピードアップを達成する。
論文 参考訳（メタデータ） (2026-08-22T08:12:16Z) - AsmEvo: Agentic Assembly-Level Optimization of AMD GPU Kernels with Functional Equivalence Verification [21.700338424307517]
本稿では,AMD GPUカーネル用のエージェント組立レベルウェアAsmEvoを紹介する。
AsmEvoは、コードオブジェクトのリカバリ、メタデータのリカバリ、プロファイリングガイド付きホットウィンドウの編集、正確性に制限されたタイミング、パッチのフォールバックを組み合わせたものだ。
MI308Xでは、AsmEvoは選ばれた30のBenchカーネルの29を改良し、平均1.35倍、最大3.88倍のスピードアップを達成した。
論文 参考訳（メタデータ） (2026-08-21T03:34:22Z) - Speculative Correction: Draft-then-Refine Decoding for Diffusion Language Models [50.758327861505784]
まず、まず完全なドラフトを生成し、次に双方向拡散を用いて完全な応答を洗練する。
LLaDA2.1-FlashとLLaDA2.1-Miniの2つの構成を評価する。
Flash-FlashはGSM8K-384の精度を0.848から0.899に改善し、選択したFlashブロック自動回帰ベースラインの1.20倍高速に動作した。
Mini-Flashは2.17倍高速に動作しながら、0.294対0.300のMATH-384性能を含む、有用な品質とレイテンシのトレードオフを提供する。
論文 参考訳（メタデータ） (2026-07-21T17:58:10Z) - Harness Engineering for LLM-Driven GPU Kernel Generation [1.375573703671189]
大規模言語モデル(LLM)はGPUカーネル生成を支援するが、その実用性は生成したコードが確実に制約され、検証され、プロファイルされ、選択されるかどうかに依存する。
本稿では,MLSys 2026 FlashInfer AI Kernel Generation ContestにおけるLLM駆動型GPUカーネル最適化のためのハーネス中心システムを提案する。
論文 参考訳（メタデータ） (2026-07-20T14:14:14Z) - Are LLM-Generated GPU Kernels Production-Ready? A Trace-Driven Benchmark and Optimization Agent [10.241408048987038]
既存のGPUカーネル生成ベンチマークは、デプロイされたワークロードから分岐する合成またはキュレートされたソースから問題を引き出す。
Atrex-Benchは、30の演算子と440の形状が、計算限定のメモリリッチGPUのフルクラスタ生産推定トレースから直接サンプリングされるベンチマークである。
論文 参考訳（メタデータ） (2026-07-16T03:49:50Z) - PairCoder++: Pair Programming as a Universal Paradigm for Verified Code-Driven Multimodal and Structured-Artifact Generation [51.92442051257354]
PairCoderは、実行のみではなく、完全な公式メトリックスイート上で、アーティファクトが検証可能なすべてのベンチマークを本質的に改善する。
TikZのコンパイルレートは、各モデルで10から30ポイント、シングルモデルの2.9から9.2倍である。
論文 参考訳（メタデータ） (2026-07-02T08:36:02Z) - KernelBench-Verified: Do LLM-Generated Kernels Actually Beat PyTorch? [13.026983194416168]
大きな言語モデル(LLM)は、KernelBenchのようなベンチマークでPyTorchを上回っているように見えるカスタムカーネルを生成することができる。
We demonstrate that frontier models often involved in reward hacking to artificially inflate performance。
論文 参考訳（メタデータ） (2026-06-26T03:22:50Z) - VisualClaw: A Real-Time, Personalized Agent for the Physical World [76.89211120690028]
2つの原則に基づいて構築された自己進化型マルチモーダルエージェントであるVisualClawを紹介する。
第一に、ハイブリッド符号化は、情報の少ないストリーミングフレームをカスケードゲートでフィルタリングすることにより、デプロイメントコストを低減する。
第二に、スキルの進化により、エージェントは失敗から学び、将来の質問に役立つスキルバンク更新を生成する。
論文 参考訳（メタデータ） (2026-06-15T06:58:22Z) - AutoMegaKernel: A Statically-Checked Agent Harness for Self-Retargeting Megakernel Synthesis [0.0]
AutoMegaresearchKernel (AMK)はHuggingFace Llamaファミリーモデルを単一の永続的なカーネルにコンパイルし、1回の起動で全前方パスを実行する。
AMKは、高帯域のトレーニングクラスであるA100/H100でcuBLASをパスし、ハーネスがクロスSM同期ボトルネックをローカライズする。
これはデコード位置0における精度非対称(W8A16とbf16)の比較であり、最大の実チェックポイントはTinyLlama-1.1Bである。
論文 参考訳（メタデータ） (2026-06-08T16:02:03Z) - ChipMATE: Multi-Agent Training via Reinforcement Learning for Enhanced RTL Generation [55.947962672433675]
ChipMATEは、RTL生成のための最初の自己学習型マルチエージェントフレームワークである。
ChipMATEは産業的な実践に触発され、VerilogエージェントとPythonのリファレンスモデルエージェントをペアにし、相互に出力を検証する。
ChipMATEは、VerilogEval V2で75.0%と80.1%パス@1を4Bと9Bベースモデルで達成している。
論文 参考訳（メタデータ） (2026-05-13T01:04:21Z) - Compiler-First State Space Duality and Portable $O(1)$ Autoregressive Caching for Inference [0.0]
Mamba-2のステートスペース双対性アルゴリズムは、XLAの融合とタイリングが実際に最適化したものにきれいにマッピングする。
我々は,XLA の標準プリミティブとして,完全な推論パス (プリフィル,キャッシュされた自己回帰復号化) を実装した。
この実装は、単一のJAXソースからCPU、NVIDIA GPU、Google Cloud TPUで無修正で実行される。
論文 参考訳（メタデータ） (2026-03-10T12:03:00Z) - Outrunning LLM Cutoffs: A Live Kernel Crash Resolution Benchmark for All [57.23434868678603]
Live-kBenchは、新たに発見されたカーネルバグのエージェントをスクラップし、評価するセルフ進化ベンチマークの評価フレームワークである。
kEnvは、カーネルのコンパイル、実行、フィードバックのためのエージェントに依存しないクラッシュ解決環境である。
kEnvを用いて3つの最先端エージェントをベンチマークし、最初の試行で74%のクラッシュを解決したことを示す。
論文 参考訳（メタデータ） (2026-02-02T19:06:15Z) - CrashFixer: A crash resolution agent for the Linux kernel [58.152358195983155]
この作業は、システムレベルのLinuxカーネルバグのベンチマークと、Linuxカーネルで実験を実行するプラットフォームを共有するkGymの上に構築されている。
CrashFixerはLinuxカーネルのバグに適応する最初のLCMベースのソフトウェア修復エージェントである。
論文 参考訳（メタデータ） (2025-04-29T04:18:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。