論文の概要: Hardware-Aware Features for CUTLASS Kernel Selection

• arxiv url: http://arxiv.org/abs/2609.35587v1
• Date: Mon, 28 Sep 2026 16:39:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 20:34:36.234098
• Title: Hardware-Aware Features for CUTLASS Kernel Selection
• Title（参考訳）: CUTLASSカーネル選択のためのハードウェア・アウェア機能
• Abstract要約: 本稿では,CUTLASSカーネル選択のためのハードウェア認識表現を提案する。 我々は490万のCUTLASSカーネルのデータセットを構築し、各問題内の候補をランク付けするために勾配ブーストおよびニューラルラーニング・ツー・ランクのモデルを訓練する。
• 参考スコア（独自算出の注目度）: 47.157030334464345
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: GPU libraries such as CUTLASS expose tens of thousands of semantically equivalent kernels for a single operation, making exhaustive autotuning expensive and execution-free selection difficult. Existing analytical selectors require hand-designed performance rules, while learned selectors operate on raw configuration parameters and must infer hardware consequences from data. We introduce a hardware-aware representation for CUTLASS kernel selection that augments candidate configurations with statically computable estimates of induced hardware behavior. We construct a dataset of 4.9 million CUTLASS kernels and train gradient-boosted and neural learning-to-rank models to rank candidates within each problem. On held-out exhaustive evaluation problems, hardware-aware representations reduce selection regret by up to 40\% relative to structural baselines and 64.2\% relative to NVIDIA's matrix-multiply heuristics. We further evaluate data-efficient cross-precision and epilogue-fusion transfer within CUTLASS GEMM, showing that explicitly representing candidate-induced hardware behavior provides a useful inductive bias for learned kernel selection.
• Abstract（参考訳）: CUTLASSのようなGPUライブラリは、単一の操作に対して数万のセマンティックに等価なカーネルを公開している。 既存の分析セレクタは手書きのパフォーマンスルールを必要とするが、学習されたセレクタは生の設定パラメータで動作し、データからハードウェアの結果を推測しなければならない。 本稿では,CUTLASSカーネル選択のためのハードウェア認識表現を提案する。 我々は490万のCUTLASSカーネルのデータセットを構築し、各問題内の候補をランク付けするために勾配ブーストおよびニューラルラーニング・ツー・ランクのモデルを訓練する。 徹底的な評価問題では、ハードウェア対応の表現は、構造的ベースラインに対して最大40 %、NVIDIAの行列多重ヒューリスティックに対して64.2 %まで、選択の後悔を減らしている。 さらに,CUTLASS GEMM内のデータ-効率のクロス精度とエピローグ-フュージョン変換を評価し,候補ハードウェアの動作を明示的に表現することは,学習したカーネル選択に有用な帰納バイアスを与えることを示す。

関連論文リスト

• GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization [73.92934811090163]
  カーネル評価のための選択的なGPUサロゲートとしてLLMがどのように機能するかを検討する。 限られたGPU測定予算下での高速カーネルの復旧に,その予測が正確で校正され,実用的に有用であるかどうかを計測する。 実験により,LLMは相対的なカーネル性能を正確に予測し,強化学習により性能を向上できることを示した。
  論文  参考訳（メタデータ） (2026-05-29T15:56:08Z)
• PICore: Physics-Informed Unsupervised Coreset Selection for Data Efficient Neural Operator Training [22.740738769143604]
  ニューラル演算子を訓練するための教師なしコアセット選択フレームワークであるPICoreを提案する。 PICoreは、PDEソリューションへのアクセスを必要とせずに、最も有益なトレーニングサンプルを特定する。 PICoreは、教師付きコアセット選択法と比較してトレーニング効率を最大78%向上させる。
  論文  参考訳（メタデータ） (2025-07-23T02:32:44Z)
• Optimal Kernel Tuning Parameter Prediction using Deep Sequence Models [0.44998333629984877]
  本稿では,深部列列列モデルを用いて,計算カーネルを管理する最適チューニングパラメータを予測する手法を提案する。 提案アルゴリズムは、AMD機械学習プリミティブライブラリであるMIOpenにおいて、様々な畳み込みカーネル上で90%以上の精度を達成することができる。
  論文  参考訳（メタデータ） (2024-04-15T22:25:54Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Snacks: a fast large-scale kernel SVM solver [0.8602553195689513]
  SnacksはKernel Support Vector Machines用の新しい大規模ソルバである。 スナックは、カーネル行列の「Nystr」近似と、下次法の加速変種に依存している。
  論文  参考訳（メタデータ） (2023-04-17T04:19:20Z)
• HW-Aware Initialization of DNN Auto-Tuning to Improve Exploration Time and Robustness [1.165213554548421]
  本研究は,VTAハードウェアにおける自動チューニングプロセスとその基盤となる性能予測モデルに,不正な構成がどう影響するかを評価する。 AutoTVMの妥当性駆動方式が開発され、最良のソリューションを見つけるのに必要なハードウェアの41.6%しか必要としない。
  論文  参考訳（メタデータ） (2022-05-31T07:16:14Z)
• Taming Nonconvexity in Kernel Feature Selection---Favorable Properties of the Laplace Kernel [77.73399781313893]
  カーネルベースの特徴選択の客観的機能を確立することが課題である。 非言語最適化に利用可能な勾配に基づくアルゴリズムは、局所ミニマへの収束を保証できるだけである。
  論文  参考訳（メタデータ） (2021-06-17T11:05:48Z)
• Kernel Identification Through Transformers [54.3795894579111]
  カーネル選択はガウス過程(GP)モデルの性能決定において中心的な役割を果たす。 この研究は、高次元GP回帰モデルのためのカスタムカーネル関数を構築するという課題に対処する。 KITT: Kernel Identification through Transformersを提案する。
  論文  参考訳（メタデータ） (2021-06-15T14:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。