論文の概要: CUDA-Harness: Harnessing Agentic CUDA Kernel Generation and Optimization from Natural Language
- arxiv url: http://arxiv.org/abs/2609.00058v1
- Date: Sun, 30 Aug 2026 13:51:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.804132
- Title: CUDA-Harness: Harnessing Agentic CUDA Kernel Generation and Optimization from Natural Language
- Title（参考訳）: CUDA-Harness: 自然言語からのエージェントCUDAカーネル生成と最適化
- Abstract要約: Text2CUDAは、自然言語(Text2CUDA)から直接カーネルを生成する。
LLM(Large Language Models)は、LLMベースのカーネル生成を探求する一連の研究を促進する。
本稿では,自然言語からエージェント型カーネルレベルの最適化を実現するフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 12.536212788514815
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Developing high-performance CUDA kernels demands specialized knowledge in algorithm implementation, correctness validation, and hardware-aware parallel optimization, creating a substantial expertise barrier and making generating CUDA kernels directly from natural language (Text2CUDA) essential. Meanwhile, the general-purpose code generation capability of Large Language Models (LLMs) prompts a series of works exploring LLM-based CUDA kernel generation. They mainly focus on transpilation from high-level frameworks such as PyTorch to CUDA (Torch2CUDA) rather than Text2CUDA, where models must understand the high-level input semantics and handle low-level kernel implementation and validation. Additionally, these methods are vulnerable to reward hacking due to reliance on predefined test inputs. In this paper, we propose CUDA-Harness, a framework for harnessing agentic CUDA kernel generation and optimization from natural language. Specifically, we introduce Intermediate-Structured Generation to connect high-level semantic understanding with low-level kernel generation. To dilute reward hacking in Text2CUDA, we construct Synthesis-Based Verification to provide isolated test data and progressive validation. Furthermore, we propose Feedback-Adaptive Evolution, a kernel evolution strategy that prioritizes correctness while optimizing performance. Finally, through extensive experiments, we demonstrate the effectiveness of CUDA-Harness, with further evaluations illustrating generalization across LLMs, hardware platforms, and to C-to-CUDA transpilation.
- Abstract（参考訳）: 高性能なCUDAカーネルの開発には、アルゴリズムの実装、正当性検証、ハードウェア対応並列最適化に関する特別な知識が必要であり、相当な専門知識の障壁を生み出し、自然言語(Text2CUDA)から直接CUDAカーネルを生成する必要がある。
一方、LLM(Large Language Models)の汎用コード生成能力は、LLMベースのCUDAカーネル生成を探求する一連の研究を促している。
主に、PyTorchのようなハイレベルなフレームワークから、Text2CUDAではなくCUDA(Torch2CUDA)へのトランスパイルに焦点を当てており、モデルがハイレベルなインプットセマンティクスを理解し、低レベルなカーネル実装とバリデーションを扱う必要がある。
さらに、これらの方法は事前に定義されたテストインプットに依存するため、ハックに対する報奨に脆弱である。
本稿では,エージェント型CUDAカーネル生成と自然言語からの最適化のためのフレームワークであるCUDA-Harnessを提案する。
具体的には、中間構造生成を導入し、高レベルな意味理解と低レベルなカーネル生成を接続する。
テキスト2CUDAにおける報酬のハッキングを減らし,独立したテストデータとプログレッシブ・バリデーションを提供するための合成ベース検証を構築した。
さらに、性能を最適化しながら正しさを優先するカーネル進化戦略である、フィードバック適応進化を提案する。
最後に, CUDA-Harnessの有効性を実証し, LLM, ハードウェアプラットフォーム, C-to-CUDAトランスパイレーションの一般化を実証する。
関連論文リスト
- Accelerated Decoding of Centroid Positional Encoding for Instance Segmentation [49.97373153077311]
本稿では,各画素が遠心波の位置埋め込みを行う場合の,遠心波符号化に伴うデコードオーバーヘッドについて検討する。
当社のソリューションは、デコードオーバーヘッドを大幅に削減し、Endto-Endレイテンシを改善し、CPUベースのアプローチと単純なGPU実装の両方を上回ります。
論文 参考訳（メタデータ） (2026-09-15T09:05:17Z) - GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization [73.92934811090163]
カーネル評価のための選択的なGPUサロゲートとしてLLMがどのように機能するかを検討する。
限られたGPU測定予算下での高速カーネルの復旧に,その予測が正確で校正され,実用的に有用であるかどうかを計測する。
実験により,LLMは相対的なカーネル性能を正確に予測し,強化学習により性能を向上できることを示した。
論文 参考訳（メタデータ） (2026-05-29T15:56:08Z) - CUDAHercules: Benchmarking Hardware-Aware Expert-level CUDA Optimization for LLMs [45.52512820646709]
我々は、エンドツーエンドの人間-専門家SOTAシステムに対して生成されたベンチマークであるHerculesを紹介する。
自動化プログラミングは完全な解決には程遠いものであり、より強力なハードウェア推論、より良いツール使用、トレーニング目標が必要です。
論文 参考訳（メタデータ） (2026-05-08T20:35:27Z) - CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。
AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
論文 参考訳（メタデータ） (2026-02-27T18:58:05Z) - KernelBlaster: Continual Cross-Task CUDA Optimization via Memory-Augmented In-Context Reinforcement Learning [3.4998382481249286]
我々は、テストハーネス、検証コンポーネント、再現可能な評価を伴って、オープンソースのエージェントフレームワークとしてKernelBlasterをリリースした。
提案手法は, KernelBench Levels 1, 2, 3 の平均速度をそれぞれ 1.43x, 2.50x, 1.50x とする。
論文 参考訳（メタデータ） (2026-02-15T19:48:43Z) - CUDABench: Benchmarking LLMs for Text-to-CUDA Generation [11.395567633975878]
近年の研究では、GPU生成におけるLarge Language Models(LLM)の可能性が実証されている。
ハードウェア固有の性能クリティカルなプログラミング機能を考えると、LLM生成したGPUプログラムの性能を正確に評価するのは簡単ではない。
LLMのテキスト・ツー・キューダ機能を評価するために設計された総合ベンチマークであるGPUBenchを紹介する。
論文 参考訳（メタデータ） (2026-02-13T09:46:45Z) - DICE: Diffusion Large Language Models Excel at Generating CUDA Kernels [17.979042914049842]
拡散大言語モデル (dLLM) は自己回帰(AR) LLM に代わる魅力的な代替品として登場した。
CuKeは、高性能カーネル向けに最適化された拡張データセットである。
DICEはカーネル生成用に設計された拡散大言語モデルである。
論文 参考訳（メタデータ） (2026-02-12T08:45:13Z) - Towards Robust Agentic CUDA Kernel Benchmarking, Verification, and Optimization [25.135006275638172]
本稿では,カーネル性能の厳密な評価と,さまざまなシナリオにおける正当性評価のための新しいベンチマークである,ロバスト・クベンチを紹介する。
また、トーチコードをカーネルに変換し、ランタイム設定を反復的に改善する包括的なエージェントフレームワークを提案する。
提案手法は,フォワードパスやバックパスを含む,実用アプリケーションのためのトーチ実装よりも優れたカーネルを生成する。
論文 参考訳（メタデータ） (2025-09-16T11:08:30Z) - Harnessing Deep Learning and HPC Kernels via High-Level Loop and Tensor Abstractions on CPU Architectures [67.47328776279204]
この研究は、効率的でポータブルなDeep LearningとHigh Performance Computingカーネルを開発するためのフレームワークを導入している。
1)プロセッシングプリミティブ(TPP)を用いた計算コアの表現と,2)高レベルな宣言的手法でTPPのまわりの論理ループの表現の2つのステップでカーネルの開発を分解する。
我々は、スタンドアロンカーネルと、さまざまなCPUプラットフォームにおける最先端実装よりも優れたエンドツーエンドワークロードを使用して、このアプローチの有効性を実証する。
論文 参考訳（メタデータ） (2023-04-25T05:04:44Z) - PolyScientist: Automatic Loop Transformations Combined with Microkernels
for Optimization of Deep Learning Primitives [55.79741270235602]
深層学習カーネル開発のためのハイブリッドソリューションを開発する。
我々は、高度な多面体技術を用いて、パフォーマンスのために外部ループを自動的に調整する。
論文 参考訳（メタデータ） (2020-02-06T08:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。