論文の概要: FlipFlop: A Static Analysis-based Energy Optimization Framework for GPU Kernels

• arxiv url: http://arxiv.org/abs/2601.13345v1
• Date: Mon, 19 Jan 2026 19:30:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-21 22:47:23.034135
• Title: FlipFlop: A Static Analysis-based Energy Optimization Framework for GPU Kernels
• Title（参考訳）: FlipFlop:GPUカーネルのための静的解析に基づくエネルギー最適化フレームワーク
• Abstract要約: FlipFlopは、静的コード解析を使用してエネルギー消費を予測し、最適なスレッドブロック構成を推奨するフレームワークである。 最適エネルギー効率の設定を83%の精度で識別すると同時に、最適化検索スペースを93.4%削減することで開発者の努力を最小限に抑える。 マルチヘッドアテンションカーネルでは、NVIDIAの占有率に対して最大79%の省エネと106%のスループット向上を達成している。
• 参考スコア（独自算出の注目度）: 38.75222180281849
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Artificial Intelligence (AI) applications, such as Large Language Models, are primarily driven and executed by Graphics Processing Units (GPUs). These GPU programs (kernels) consume substantial amounts of energy, yet software developers often lack the hardware expertise and ad hoc knowledge required to optimize for power efficiency. We propose FlipFlop, a framework using static code analysis to predict energy consumption and recommend Pareto-optimal thread block configurations considering both power consumption and execution time. Our framework requires no runtime execution and analyzes PTX code, a low-level instruction set for CUDA-enabled GPUs. It is validated across a diverse set of GPUs and kernels, including multi-head attention, convolution, and matrix multiplication. FlipFlop achieves 83% accuracy in identifying locally optimal energy-efficient configurations, while also minimizing developer effort by reducing the optimization search space by 93.4%. For multi-head attention kernels, it yields up to 79% energy savings and 106% throughput gains relative to NVIDIA's occupancy heuristic. By integrating static analysis with real-time monitoring and providing explainable optimization guidance, FlipFlop empowers developers to create sustainable, high-performance GPU software which minimizes environmental and computational costs.
• Abstract（参考訳）: 大規模言語モデルのような人工知能(AI)アプリケーションは、主にグラフィックス処理ユニット(GPU)によって駆動され、実行される。 これらのGPUプログラム(カーネル)は、かなりのエネルギーを消費するが、ソフトウェア開発者は、電力効率の最適化に必要なハードウェアの専門知識とアドホックな知識を欠いていることが多い。 FlipFlopは、静的コード解析を用いてエネルギー消費を予測するフレームワークであり、電力消費と実行時間の両方を考慮したパレート最適スレッドブロック構成を推奨する。 本フレームワークは,CUDA対応GPUの低レベル命令セットであるPTXコードを解析する。 マルチヘッドアテンション、畳み込み、行列乗算など、GPUとカーネルの多様なセットで検証されている。 FlipFlopは、局所最適エネルギー効率の設定を83%精度で識別すると同時に、最適化検索スペースを93.4%削減することで開発者の努力を最小化している。 マルチヘッドアテンションカーネルでは、NVIDIAの占有ヒューリスティックと比較して最大79%の省エネと106%のスループット向上を達成している。 静的解析をリアルタイム監視に統合し、説明可能な最適化ガイダンスを提供することで、FlipFlopは開発者が環境と計算コストを最小限に抑える持続可能な高性能GPUソフトウェアを作成することができる。

関連論文リスト

• HIERA: Workload-Aware Planning Across Implementation Spaces for GPU Kernel Optimization [17.600449573236194]
  カーネル最適化のための階層型検索空間計画フレームワークであるtextscHIERAを提案する。 textscHIERAは、拡張されたタスク仕様を構築し、PyTorch演算子、ライブラリ、カスタムカーネルにまたがる適切な実装空間を選択する。 実験の結果、textscHIERAは既存のトレーニング不要の手法よりも全体的な実装の洗練、妥当性、最適化性能が向上した。
  論文  参考訳（メタデータ） (2026-08-21T14:29:20Z)
• GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization [73.92934811090163]
  カーネル評価のための選択的なGPUサロゲートとしてLLMがどのように機能するかを検討する。 限られたGPU測定予算下での高速カーネルの復旧に,その予測が正確で校正され,実用的に有用であるかどうかを計測する。 実験により,LLMは相対的なカーネル性能を正確に予測し,強化学習により性能を向上できることを示した。
  論文  参考訳（メタデータ） (2026-05-29T15:56:08Z)
• Splats under Pressure: Exploring Performance-Energy Trade-offs in Real-Time 3D Gaussian Splatting under Constrained GPU Budgets [0.0]
  本稿では,GPU計算予算の異なるエッジクライアント上でのリアルタイム3Dガウススプラッティング(3DGS)の実現可能性について検討する。 複数の物理デバイスを評価する代わりに、エミュレーションベースのアプローチを採用しています。 フレームレート、実行時の動作、そして様々な複雑さのシーンにおける消費電力を測定します。
  論文  参考訳（メタデータ） (2026-04-08T15:05:29Z)
• A Practical Two-Stage Framework for GPU Resource and Power Prediction in Heterogeneous HPC Systems [0.41942958779358674]
  我々は、VASP(Venture ab initio Simulation Package)の消費電力だけでなく、GPU利用とGPUメモリ利用の分析を行う。 VASPは、NERSCのPerlmutter上で広く使われている材料科学アプリケーションである。 異種HPCシステムアプリケーションの平均GPUパワー、最大GPU利用率、最大GPUメモリ利用率を予測するためのリソース予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-02T15:27:09Z)
• CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation [51.72529978689561]
  Agentは、カーネルの専門知識を3つのコンポーネントで開発する大規模なエージェント強化学習システムである。 AgentはKernelBench上で、トーチコンパイルよりも100%、100%、92%高速なレートを提供する。
  論文  参考訳（メタデータ） (2026-02-27T18:58:05Z)
• GPU-Accelerated Algorithms for Graph Vector Search: Taxonomy, Empirical Study, and Research Directions [54.570944939061555]
  本稿では,GPU加速グラフに基づくベクトル探索アルゴリズムについて包括的に研究する。 我々は、GPU最適化戦略の詳細な分類を確立し、アルゴリズムタスクとハードウェア実行ユニット間のマッピングを明確にする。 我々の発見は、スケーラブルで堅牢なGPUベースの近接検索システムを設計するための明確なガイドラインを提供する。
  論文  参考訳（メタデータ） (2026-02-10T16:18:04Z)
• Eliminating Multi-GPU Performance Taxes: A Systems Approach to Efficient Distributed LLMs [61.953548065938385]
  分析フレームワークとして'3つの税'(バルク同期、カーネル間データローカリティ、カーネルローンチオーバーヘッド)を紹介した。 我々は、分散GPU実行におけるキー非効率に対処するために、厳密なBSPモデルを超えて移動することを提案する。 BSPベースのアプローチによるエンドツーエンドのレイテンシの10-20%の高速化を観察する。
  論文  参考訳（メタデータ） (2025-11-04T01:15:44Z)
• CUDA-LLM: LLMs Can Write Efficient CUDA Kernels [9.287036563375617]
  大規模言語モデル(LLM)は汎用コード生成において強力な機能を示している。 我々は,textbfFeature SearchReinforcement (FSR) FSRという新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-10T10:51:03Z)
• A GPU Implementation of Multi-Guiding Spark Fireworks Algorithm for Efficient Black-Box Neural Network Optimization [2.9608128305931825]
  本稿では,Multi-Guiding Spark Fireworks Algorithm (MGFWA)のGPU高速化版を提案する。 スピードとソリューションの品質の両方において、その優れた性能を示します。 提案した実装は、Swarmインテリジェンスアルゴリズムを高速化するための有望なアプローチを提供する。
  論文  参考訳（メタデータ） (2025-01-07T17:09:07Z)
• Multi-GPU RI-HF Energies and Analytic Gradients $-$ Towards High Throughput Ab Initio Molecular Dynamics [0.0]
  本稿では,複数グラフィクス処理ユニット(GPU)を用いた高次ハートリー・フォックエネルギーと解析勾配の解法を最適化したアルゴリズムと実装を提案する。 このアルゴリズムは特に、中小分子(10-100原子)の高スループット初期分子動力学シミュレーションのために設計されている。
  論文  参考訳（メタデータ） (2024-07-29T00:14:10Z)
• Enhancing Dropout-based Bayesian Neural Networks with Multi-Exit on FPGA [20.629635991749808]
  本稿では,フィールドプログラマブルゲートアレイ(FPGA)ベースのアクセラレータを効率よく生成するアルゴリズムとハードウェアの共同設計フレームワークを提案する。 アルゴリズムレベルでは、計算とメモリのオーバーヘッドを低減した、新しいマルチエグジット・ドロップアウトベースのベイズNNを提案する。 ハードウェアレベルでは,提案する効率的なベイズNNのためのFPGAベースのアクセラレータを生成するための変換フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-20T17:08:42Z)
• Harnessing Deep Learning and HPC Kernels via High-Level Loop and Tensor Abstractions on CPU Architectures [67.47328776279204]
  この研究は、効率的でポータブルなDeep LearningとHigh Performance Computingカーネルを開発するためのフレームワークを導入している。 1)プロセッシングプリミティブ(TPP)を用いた計算コアの表現と,2)高レベルな宣言的手法でTPPのまわりの論理ループの表現の2つのステップでカーネルの開発を分解する。 我々は、スタンドアロンカーネルと、さまざまなCPUプラットフォームにおける最先端実装よりも優れたエンドツーエンドワークロードを使用して、このアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-25T05:04:44Z)
• Power Constrained Autotuning using Graph Neural Networks [1.7188280334580197]
  本稿では,最新のプロセッサ上での科学応用の性能,パワー,エネルギー効率を向上させるための,グラフニューラルネットワークに基づく新しい自動チューニング手法を提案する。 提案手法では,標準のOpenMP構成に対して,平均的な幾何的性能改善が25%以上,13%以上となる,異なる電力制約でOpenMP構成を識別する。
  論文  参考訳（メタデータ） (2023-02-22T16:06:00Z)
• Source Code Classification for Energy Efficiency in Parallel Ultra Low-Power Microcontrollers [5.4352987210173955]
  本稿では,ソフトウェアツールチェーンの知性を向上し,最新のアーキテクチャを最大限に活用することを目的とする。 低電力の並列組込みアーキテクチャの場合、これは、例えばコア数の観点から構成を見つけることを意味し、最小限のエネルギー消費につながる。 実験によれば、ソースコード上で機械学習モデルを使用して最適なエネルギースケーリング構成を自動的に選択することは可能であり、エネルギー最小化のための自動システム構成のコンテキストで使用できる可能性がある。
  論文  参考訳（メタデータ） (2020-12-12T15:12:03Z)
• Kernel methods through the roof: handling billions of points efficiently [94.31450736250918]
  カーネル法は、非パラメトリック学習に対するエレガントで原則化されたアプローチを提供するが、今のところ大規模な問題ではほとんど利用できない。 最近の進歩は、最適化、数値線形代数、ランダム射影など、多くのアルゴリズム的アイデアの利点を示している。 ここでは、これらの取り組みをさらに進めて、GPUハードウェアを最大限に活用する解決器を開発し、テストする。
  論文  参考訳（メタデータ） (2020-06-18T08:16:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。