論文の概要: NKI-Agent: Domain-Specific Fine-Tuning and Agentic Tool Use for Neuron Kernel Generation
- arxiv url: http://arxiv.org/abs/2607.04395v1
- Date: Sun, 05 Jul 2026 16:37:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.920078
- Title: NKI-Agent: Domain-Specific Fine-Tuning and Agentic Tool Use for Neuron Kernel Generation
- Title（参考訳）: NKI-Agent:ニューロン生成のためのドメイン特化ファインチューニングおよびエージェントツール
- Abstract要約: NKIカーネル生成のためのドメイン固有の微調整とエージェントループを組み合わせた最初のシステムであるNKI-Agentを提案する。
Opus 4.8は、エージェントツールなしでシングルショットモードで6%スコアし、SFTでトレーニングされたQwen3-Coder-30B-A3Bは、Sonnet 4 RLの1/100分の1で25.0%パスレートを達成した。
- 参考スコア（独自算出の注目度）: 18.169388901224416
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent agentic approaches to LLM-based kernel generation have achieved impressive results on CUDA. For emerging AI accelerators such as AWS Trainium and Inferentia, automated kernel generation and optimization remain largely unaddressed. Writing kernels for these chips via the Neuron Kernel Interface (NKI) is particularly challenging: developers must navigate a multi-engine architecture, tile-based programming, and explicit data movement across multi-level memory hierarchy. Moreover, no publicly-available training data, benchmarks, or tool-augmented agents exist for this domain. We introduce NKI-Agent, the first system combining domain-specific supervised fine-tuning (SFT) with a compile-verify-fix agent loop for NKI kernel generation. We adapt the existing CUDA-Agent framework to Neuron hardware, curate 6,000 NKI kernel generation tasks for training, and construct NKIBench, a 250-task benchmark across three difficulty levels. Evaluated on real Trn1 hardware, NKI-Agent with Claude Opus 4.8 and a rank-aware system prompt achieves a 77.3% pass rate on the 150-task NKIBench. We show that tool use is critical: Opus 4.8 scores 6% in single-shot mode without agent tools. On a 60-task subset, we show that an SFT-trained Qwen3-Coder-30B-A3B achieves 25.0% pass rate at 1/100th the cost, outperforming Claude Sonnet 4 (15.0%). We also report that Group Relative Policy Optimization (GRPO) with binary compilation reward fails to improve over SFT, providing guidance on reward design for RL-based kernel generation.
- Abstract（参考訳）: LLMベースのカーネル生成に対する最近のエージェント的アプローチは、CUDAにおいて印象的な成果を上げている。
AWS TrainiumやInferentiaといった新興AIアクセラレータにとって、カーネルの自動生成と最適化は、ほとんど役に立たないままだ。
開発者はマルチエンジンアーキテクチャ、タイルベースのプログラミング、マルチレベルメモリ階層間の明示的なデータ移動をナビゲートする必要がある。
さらに、このドメインでは、公開可能なトレーニングデータ、ベンチマーク、ツール拡張されたエージェントは存在しない。
NKIカーネル生成のためのコンパイル検証エージェントループとドメイン固有教師付き微調整(SFT)を組み合わせた最初のシステムであるNKI-Agentを紹介する。
我々は既存のCUDA-AgentフレームワークをNeuronハードウェアに適応させ、トレーニング用の6000のNKIカーネル生成タスクをキュレートし、3つの困難レベルにわたる250タスクベンチマークであるNKIBenchを構築した。
実際のTrn1ハードウェアで評価され、Claude Opus 4.8とランク認識システムを備えたNKI-Agentは、150タスクのNKIBenchで77.3%のパスレートを達成する。
Opus 4.8はエージェントツールなしでシングルショットモードで6%スコアします。
60タスクのサブセットでは、SFTでトレーニングされたQwen3-Coder-30B-A3Bが1/100のコストで25.0%のパスレートを実現し、Claude Sonnet 4 (15.0%)を上回った。
また、バイナリコンパイル報酬を持つグループ相対ポリシー最適化(GRPO)は、SFTよりも改善せず、RLベースのカーネル生成に対する報酬設計のガイダンスを提供する。
関連論文リスト
- AgenticCANN: Automated Ascend C Operator Generation via Knowledge-Augmented Agentic Evolution [16.709206818546317]
AgenticCANNは、低コーパスNPU環境でのAscend C演算子の自動合成に適した知識強化されたエージェント進化フレームワークである。
本手法は, 要素ワイドおよび正規化演算子で90%から100%, 融合演算子で56%, 1B Panguモデル推論カーネルで6.65$times$スピードアップを実現する。
論文 参考訳（メタデータ） (2026-07-29T09:19:17Z) - KernelGenBench: A Multi-Source and Multi-Chip Benchmark for LLM-based Kernel Generation [13.879112914967058]
大規模言語モデル(LLM)は、効率的なアクセラレーターカーネルの需要を著しく増加させているが、カーネル開発は高度に専門的で労働集約的な課題である。
我々は,多種多様な演算子および異種ハードウェアプラットフォームにわたるLLMおよびエージェント生成Tritonカーネル評価のための統一ベンチマークであるKernelGenBenchを提案する。
論文 参考訳（メタデータ） (2026-07-22T12:40:11Z) - Orchard: An Open-Source Agentic Modeling Framework [124.68499958175111]
スケーラブルなエージェントモデリングのためのオープンソースのフレームワークOrchardを紹介します。
Orchard Envは、サンドボックスライフサイクル管理のための再利用可能なプリミティブを提供する軽量環境サービスである。
Orchard Envの上に、3つのエージェントモデリングレシピを構築します。
論文 参考訳（メタデータ） (2026-05-14T16:35:12Z) - ChipCraftBrain: Validation-First RTL Generation via Multi-Agent Orchestration [0.0]
MAGEのようなマルチエージェントのアプローチはVerilogEvalでは95.9%に達したが、厳しい産業ベンチマークではテストされていない。
本稿では,シンボリック・ニューラル推論と適応型マルチエージェントオーケストレーションを組み合わせた自動RTL生成フレームワークChipCraftBrainを提案する。
論文 参考訳（メタデータ） (2026-04-21T17:20:24Z) - Kernel-Smith: A Unified Recipe for Evolutionary Kernel Optimization [48.656549870801285]
Kernel-Smithは高性能GPUカーネルと演算子生成のためのフレームワークである。
エージェント側では、Kernel-Smithは実行可能な候補の集団を維持し、反復的にそれらを改善している。
トレーニング側では、長距離進化軌道をステップ中心の監視と強化学習信号に変換する。
論文 参考訳（メタデータ） (2026-03-30T12:12:49Z) - Towards Cold-Start Drafting and Continual Refining: A Value-Driven Memory Approach with Application to NPU Kernel Synthesis [68.7701048879757]
EvoKernelは、カーネル合成のライフサイクルを自動化する自己進化型エージェントフレームワークである。
ステージ固有のQ値を学び、現在の目標への貢献に基づいて経験を優先する。
モデルの正しさを11.0%から83.0%に改善し、初期ドラフトよりも3.60倍のスピードアップを実現している。
論文 参考訳（メタデータ） (2026-03-11T14:57:06Z) - CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。
AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
論文 参考訳（メタデータ） (2026-02-27T18:58:05Z) - Fine-Tuning GPT-5 for GPU Kernel Generation [5.109141377873154]
本稿では,フロンティアモデルの強化学習のための環境とツールについて述べる。
単一触覚設定では、微調整されたモデルにより、カーネルの正しさが43.7%から77.0%に向上する。
完全なコーディングエージェントに統合されると、拡張されたKernelBenchスイートで97.4%の問題を解決することができる。
論文 参考訳（メタデータ） (2026-02-11T16:22:54Z) - KernelCraft: Benchmarking for Agentic Close-to-Metal Kernel Generation on Emerging Hardware [25.808580418841718]
新しいAIアクセラレータは、しばしば開発者が手動で低レベルのカーネルを作る必要がある。
これにより、新興ハードウェアプラットフォームが市場に到達するのを効果的に防ぐことができる。
KernelCraftは、エージェントがカスタマイズされたアクセラレーターのために低レベルのカーネルを生成し最適化する能力を評価する最初のベンチマークである。
論文 参考訳（メタデータ） (2026-02-10T14:52:02Z) - AccelOpt: A Self-Improving LLM Agentic System for AI Accelerator Kernel Optimization [12.269456144158783]
本稿では,自己改善型大規模言語モデル(LLM)エージェントシステムであるAccelOptを紹介する。
NKIBenchは、AWS Trainiumアクセラレータカーネルの新しいベンチマークスイートで、現実世界のワークロードから抽出される複雑さがさまざまです。
評価の結果,AccelOptの能力は時間とともに向上し,ピークスループットの平均値はTranium 1で49%から61%,NKIBenchカーネルで45%から59%へと向上した。
論文 参考訳（メタデータ） (2025-11-19T22:49:37Z) - CudaForge: An Agent Framework with Hardware Feedback for CUDA Kernel Optimization [36.794824560677064]
CudaForgeは、カーネル生成と最適化のためのトレーニング不要なマルチエージェントワークフローである。
OpenAI-o3のようなベースモデルを活用することで、CudaForgeは97.6%の正しさと平均1.68$times$スピードアップを達成した。
論文 参考訳（メタデータ） (2025-10-23T22:52:00Z) - FusionLLM: A Decentralized LLM Training System on Geo-distributed GPUs with Adaptive Compression [55.992528247880685]
分散トレーニングは、システム設計と効率に関する重要な課題に直面します。
大規模深層ニューラルネットワーク(DNN)のトレーニング用に設計・実装された分散トレーニングシステムFusionLLMを提案する。
本システムと手法は,収束性を確保しつつ,ベースライン法と比較して1.45～9.39倍の高速化を実現可能であることを示す。
論文 参考訳（メタデータ） (2024-10-16T16:13:19Z) - FPGA-based AI Smart NICs for Scalable Distributed AI Training Systems [62.20308752994373]
我々は、フィールドプログラマブルゲートアレイ(FPGA)を用いた分散AI訓練システムのための新しいスマートネットワークインタフェースカード(NIC)を提案する。
提案するFPGAベースのAIスマートNICは,従来のNICを用いたベースラインシステムと比較して,6ノードで1.6倍,32ノードで2.5倍の性能向上が期待できる。
論文 参考訳（メタデータ） (2022-04-22T21:57:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。