論文の概要: A Case Study of a Multi-Agent Kernel-Optimization Loop That Learns a New AI Accelerator

• arxiv url: http://arxiv.org/abs/2610.38329v1
• Date: Wed, 28 Oct 2026 06:29:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.37657
• Title: A Case Study of a Multi-Agent Kernel-Optimization Loop That Learns a New AI Accelerator
• Title（参考訳）: 新しいAI加速器を学習するマルチエージェントカーネル最適化ループの一事例
• Abstract要約: このような加速器のために構築されたエージェントループのケーススタディを示す。 我々の例はFuriosaAI RNGD NPUで、最近、わずかにドキュメント化されたRust DSLでプログラムされています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frontier large language models write correct CUDA kernels for most single-operator benchmark tasks, yet their accuracy collapses on accelerators whose architecture and programming language they have rarely seen. We present a case study of an LLM agent loop built for such accelerators. Our example is the FuriosaAI RNGD NPU, programmed in a recent, sparsely documented Rust DSL, where the loop optimized three Gemma-4-12B decode kernels over 12 days on a shared, scarce device. The loop builds its own target knowledge: it writes and checks a summary of the DSL documentation, measures the chip with microbenchmarks, records compiler-derived legality rules, and revisits this knowledge when the toolchain changes, rechecking rules and measurements where it can. A role-based search over per-kernel Design Trees explores whole-kernel designs and accumulates small accepted changes in the best version of each kernel. Because device time is scarce and readings are noisy, cheap checks screen new designs before any device run, and late in the run a change was accepted only after repeated comparisons with the best kernel on the device. The final kernels reach a 9.293x geomean speedup over the official baseline, each within 1.25x of the cycles needed just to move its weights. Our prompts, profiler and acceptance test are available at https://github.com/bgchun-fs/multi-agent-kernel-gen-loop.
• Abstract（参考訳）: 最前線の大規模言語モデルは、ほとんどのシングルオペレーターベンチマークタスクに対して正しいCUDAカーネルを記述するが、その正確さは、アーキテクチャやプログラミング言語がめったに見られないアクセラレーターで崩壊する。 このような加速器用に構築されたLLMエージェントループのケーススタディを示す。 我々の例はFuriosaAI RNGD NPUで、最近のドキュメントの少ないRust DSLでプログラムされ、ループは共有の少ないデバイスで12日間にわたって3つのGemma-4-12Bデコードカーネルを最適化した。 ループは、DSLドキュメントの要約を書き、チェックし、マイクロベンチマークでチップを計測し、コンパイラ由来の合法性ルールを記録し、ツールチェーンが変更した時にその知識を再検討する。 カーネル毎の設計ツリーに対するロールベースの検索は、カーネル全体の設計を探索し、各カーネルのベストバージョンで受け入れられた小さな変更を蓄積する。 デバイス時間は少なく、読み出しはノイズが多いため、安価なチェックではデバイスが実行される前に新しいデザインを新規に表示し、実行後期には、デバイス上で最高のカーネルと繰り返し比較した後にのみ変更が受け入れられた。 最終的なカーネルは、公式のベースライン上の9.293倍のGeomeanスピードアップに達し、それぞれがウェイトを動かすのに必要なサイクルの1.25倍以内である。 プロンプト、プロファイラ、受け入れテストはhttps://github.com/bgchun-fs/multi-agent-kernel-gen-loop.comで利用可能です。

関連論文リスト

• AttnFuse: A Composable DSL for Compiling Attentions to Fused GPU Kernels [0.3580891736370874]
  PyTorchの最近のflex_attentionは、Pythonでカスタムの注意パターンを記述し、融合したカーネルにコンパイルすることを可能にする。 我々は、RoPEファーストクラスの操作のようなプリ・マルチプリケーション・トランスフォーメーションを実現する小さなDSLであるAttnFuseを紹介します。 AttnFuseは、RoPE+causalパターン上のflex_attentionよりも2.10$times$のスピードアップを達成する。
  論文  参考訳（メタデータ） (2026-09-11T23:55:03Z)
• Correct but Slow: An Empirical Study of the GPU Kernel Evaluation Gap in Modern Domain-Specific Languages [9.908756853186018]
  機能的に有効なカーネルは、置き換えを意図した最適化されたライブラリオペレータのスループットよりもはるかに低い可能性がある。 NVIDIA A100 と GH200 GPU 上の 5 つの演算子カテゴリから,22 の Triton と TileLang のカーネルを用いて,この精度と性能のギャップについて検討した。
  論文  参考訳（メタデータ） (2026-07-05T18:33:12Z)
• GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization [73.92934811090163]
  カーネル評価のための選択的なGPUサロゲートとしてLLMがどのように機能するかを検討する。 限られたGPU測定予算下での高速カーネルの復旧に,その予測が正確で校正され,実用的に有用であるかどうかを計測する。 実験により,LLMは相対的なカーネル性能を正確に予測し,強化学習により性能を向上できることを示した。
  論文  参考訳（メタデータ） (2026-05-29T15:56:08Z)
• FastKernels: Benchmarking GPU Kernel Generation in Production [15.284289018908781]
  LLMベースのGPUカーネル生成エージェントは急速に進歩している。 しかし、彼らの進歩は最適化されたベンチマークによって制限されています。 Fast Kernelsはプロダクショングレードの推論フレームワークで、強化されたシステムと同等に動作する。
  論文  参考訳（メタデータ） (2026-05-22T04:19:04Z)
• CrashFixer: A crash resolution agent for the Linux kernel [58.152358195983155]
  この作業は、システムレベルのLinuxカーネルバグのベンチマークと、Linuxカーネルで実験を実行するプラットフォームを共有するkGymの上に構築されている。 CrashFixerはLinuxカーネルのバグに適応する最初のLCMベースのソフトウェア修復エージェントである。
  論文  参考訳（メタデータ） (2025-04-29T04:18:51Z)
• KernelBench: Can LLMs Write Efficient GPU Kernels? [36.4117525096377]
  KernelBenchは、高速で正確なカーネルを記述する言語モデルの能力を評価するためのオープンソースのフレームワークである。 本稿では,関数的に正しい生成カーネルの割合を計測する,新しい評価基準であるfast_pを紹介する。 実験の結果,フロンティア推論モデルが最も優れているが,全体としては不足していることがわかった。
  論文  参考訳（メタデータ） (2025-02-14T19:30:53Z)
• KGym: A Platform and Dataset to Benchmark Large Language Models on Linux Kernel Crash Resolution [59.20933707301566]
  大規模言語モデル(LLM)は、ますます現実的なソフトウェア工学(SE)タスクにおいて一貫して改善されている。 現実世界のソフトウェアスタックでは、Linuxカーネルのような基本的なシステムソフトウェアの開発にSEの取り組みが費やされています。 このような大規模システムレベルのソフトウェアを開発する際にMLモデルが有用かどうかを評価するため、kGymとkBenchを紹介する。
  論文  参考訳（メタデータ） (2024-07-02T21:44:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。