論文の概要: Towards Automated Kernel Generation in the Era of LLMs

• arxiv url: http://arxiv.org/abs/2601.15727v1
• Date: Thu, 22 Jan 2026 07:53:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-23 21:37:20.532717
• Title: Towards Automated Kernel Generation in the Era of LLMs
• Title（参考訳）: LLM時代のカーネル自動生成に向けて
• Authors: Yang Yu, Peiyu Zang, Chi Hsu Tsai, Haiming Wu, Yixin Shen, Jialing Zhang, Haoyu Wang, Zhiyou Xiao, Jingze Shi, Yuyu Luo, Wentao Zhang, Chunlei Men, Guang Liu, Yonghua Lin,
• Abstract要約: カーネルエンジニアリングは時間がかかり、スケールできないプロセスです。 大規模言語モデル(LLM)やエージェントシステムの最近の進歩は、カーネル生成と最適化を自動化する新しい可能性を開いた。 フィールドは断片化され続けており、LLM駆動のカーネル生成の体系的な視点が欠如している。
• 参考スコア（独自算出の注目度）: 17.69471168609145
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The performance of modern AI systems is fundamentally constrained by the quality of their underlying kernels, which translate high-level algorithmic semantics into low-level hardware operations. Achieving near-optimal kernels requires expert-level understanding of hardware architectures and programming models, making kernel engineering a critical but notoriously time-consuming and non-scalable process. Recent advances in large language models (LLMs) and LLM-based agents have opened new possibilities for automating kernel generation and optimization. LLMs are well-suited to compress expert-level kernel knowledge that is difficult to formalize, while agentic systems further enable scalable optimization by casting kernel development as an iterative, feedback-driven loop. Rapid progress has been made in this area. However, the field remains fragmented, lacking a systematic perspective for LLM-driven kernel generation. This survey addresses this gap by providing a structured overview of existing approaches, spanning LLM-based approaches and agentic optimization workflows, and systematically compiling the datasets and benchmarks that underpin learning and evaluation in this domain. Moreover, key open challenges and future research directions are further outlined, aiming to establish a comprehensive reference for the next generation of automated kernel optimization. To keep track of this field, we maintain an open-source GitHub repository at https://github.com/flagos-ai/awesome-LLM-driven-kernel-generation.
• Abstract（参考訳）: 現代のAIシステムの性能は、その基盤となるカーネルの品質によって根本的な制約を受けており、ハイレベルなアルゴリズムセマンティクスを低レベルなハードウェア操作に変換する。 最適に近いカーネルを実現するには、ハードウェアアーキテクチャやプログラミングモデルに関する専門家レベルの理解が必要だ。 大規模言語モデル(LLM)とLLMベースのエージェントの最近の進歩は、カーネル生成と最適化を自動化する新しい可能性を開いた。 LLMは、形式化が難しい専門家レベルのカーネル知識を圧縮するのに適しており、エージェントシステムは、カーネル開発を反復的なフィードバック駆動ループとしてキャストすることで、さらにスケーラブルな最適化を可能にする。 この地域では急速な進歩があった。 しかし、フィールドは断片化され続けており、LLM駆動のカーネル生成の体系的な視点が欠如している。 この調査は、既存のアプローチの構造化された概要を提供し、LLMベースのアプローチとエージェント最適化ワークフローを網羅し、この領域における学習と評価の基盤となるデータセットとベンチマークを体系的にコンパイルすることで、このギャップに対処する。 さらに、重要なオープン課題と今後の研究方向性を概説し、次世代の自動カーネル最適化の包括的な参照を確立することを目的としている。 この分野を追跡するため、私たちはhttps://github.com/flagos-ai/awesome-LLM-driven-kernel-generationでオープンソースのGitHubリポジトリをメンテナンスしています。

関連論文リスト

• AscendKernelGen: A Systematic Study of LLM-Based Kernel Generation for Neural Processing Units [39.846358001824996]
  我々は,NPUカーネル開発のための世代評価統合フレームワークAscend KernelGenを提案する。 本稿では,実世界のカーネル実装から派生したチェーン・オブ・シント推論を取り入れた高品質なデータセットAscend-CoTを紹介する。 NPU KernelBenchも設計しています。これは、様々な複雑さレベルにわたるコンパイル、正確性、パフォーマンスを評価するための包括的なベンチマークです。
  論文  参考訳（メタデータ） (2026-01-12T03:12:58Z)
• QiMeng-NeuComBack: Self-Evolving Translation from IR to Assembly Code [52.66657751895655]
  大規模言語モデル(LLM)は、ニューラルコンパイルという魅力的な新しいパラダイムを提供する。 本稿では,IR-to-assemblyコンパイル用に設計された新しいベンチマークデータセットであるNeuComBackを紹介する。 LLMの内部的なプロンプト戦略を進化させる自己進化的プロンプト最適化法を提案する。
  論文  参考訳（メタデータ） (2025-11-03T03:20:26Z)
• STARK: Strategic Team of Agents for Refining Kernels [23.717055490630596]
  我々は,GPUカーネル最適化のためのエージェントフレームワークを導入し,マルチエージェント協調による設計空間を探索する。 このフレームワークはエキスパートエンジニアのワークフローを模倣し、LCMがハードウェアトレードオフを推論し、プロファイリングフィードバックを取り入れ、カーネルを反復的に洗練することを可能にする。 我々は,LLMに基づくカーネル最適化のベンチマークであるKernelBenchに対するアプローチを評価し,ベースラインエージェントよりも大幅に改善したことを示す。
  論文  参考訳（メタデータ） (2025-10-19T20:41:46Z)
• Evolution of Kernels: Automated RISC-V Kernel Optimization with Large Language Models [26.985412258634256]
  大規模言語モデル(LLM)は、自動化されたカーネル最適化の約束を示し、包括的な技術ドキュメントと成熟した不足を伴うドメインの成功を示している。 本稿では,LLMベースの進化的プログラム検索フレームワークであるEvolution of Kernels(EoK)について紹介する。 EoKは中央値1.27倍のスピードアップを達成した。
  論文  参考訳（メタデータ） (2025-09-14T08:11:06Z)
• Discrete Tokenization for Multimodal LLMs: A Comprehensive Survey [69.45421620616486]
  本研究は、大規模言語モデル(LLM)用に設計された離散トークン化手法の最初の構造的分類と解析である。 古典的および近代的なパラダイムにまたがる8つの代表的なVQ変種を分類し、アルゴリズムの原理を分析し、力学を訓練し、LLMパイプラインとの統合に挑戦する。 コードブックの崩壊、不安定な勾配推定、モダリティ固有の符号化制約など、重要な課題を特定する。
  論文  参考訳（メタデータ） (2025-07-21T10:52:14Z)
• GPU Kernel Scientist: An LLM-Driven Framework for Iterative Kernel Optimization [0.0]
  本稿では,アクセルカーネルを反復精製する自動化手法を提案する。 本手法は多段階進化過程においてLLMを用いる。 このアプローチがAMD MI300ターゲットアーキテクチャの課題をどのようにナビゲートするかを詳述する。
  論文  参考訳（メタデータ） (2025-06-25T19:59:34Z)
• Thinking Longer, Not Larger: Enhancing Software Engineering Agents via Scaling Test-Time Compute [61.00662702026523]
  より大規模なモデルではなく、推論時間の増加を活用する統合されたテスト時間計算スケーリングフレームワークを提案する。 当社のフレームワークには,内部TTCと外部TTCの2つの補完戦略が組み込まれている。 当社の textbf32B モデルは,DeepSeek R1 671B や OpenAI o1 など,はるかに大きなモデルを上回る 46% の課題解決率を実現している。
  論文  参考訳（メタデータ） (2025-03-31T07:31:32Z)
• LLM Inference Unveiled: Survey and Roofline Model Insights [62.92811060490876]
  大規模言語モデル(LLM)推論は急速に進化しており、機会と課題のユニークなブレンドを提示している。 本調査は, 研究状況を要約するだけでなく, 屋上モデルに基づく枠組みを導入することによって, 従来の文献レビューから際立っている。 このフレームワークは、ハードウェアデバイスにLSMをデプロイする際のボトルネックを特定し、実用上の問題を明確に理解する。
  論文  参考訳（メタデータ） (2024-02-26T07:33:05Z)
• PolyScientist: Automatic Loop Transformations Combined with Microkernels for Optimization of Deep Learning Primitives [55.79741270235602]
  深層学習カーネル開発のためのハイブリッドソリューションを開発する。 我々は、高度な多面体技術を用いて、パフォーマンスのために外部ループを自動的に調整する。
  論文  参考訳（メタデータ） (2020-02-06T08:02:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。