論文の概要: Accelerating Transfer-Learning-Based Autotuning with Predictive LLVM IR Performance Ranking
- arxiv url: http://arxiv.org/abs/2609.15807v1
- Date: Mon, 14 Sep 2026 16:14:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.494682
- Title: Accelerating Transfer-Learning-Based Autotuning with Predictive LLVM IR Performance Ranking
- Title(参考訳): 予測型LLVM IR性能ランキングによるトランスファーラーニングベースオートチューニングの高速化
- Abstract要約: 本研究では、機械学習に基づくアンサンブルLLVM中間表現-オントローダ、Neural configuration Scorer(NCS)を設計する自動チューニングフレームワークを提案する。
NCSは、トランスファーラーニングベースのオートチューニングによってサンプリングされたIRの性能をランク付けし、チューニングオーバーヘッドを低減し、サブパー評価を回避することで、チューニングプロセスの効率を向上させる。
我々のフレームワークは、最先端のオートチューニング技術と同様に、最大で61.67%、HPCベンチマークの平均で27.85%の性能向上を実現している。
- 参考スコア(独自算出の注目度): 13.022670782343397
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As the complexity of High Performance Computing (HPC) ecosys- tems continually increases, achieving optimal performance becomes a challenge. Traditional performance autotuning techniques pro- vide promising means to navigate this complexity, these techniques remain computationally intensive and require many evaluations to find optimal configurations. This work proposes an autotuning framework that designs a machine learning-based ensemble LLVM Intermediate Representa- tion (IR) ranker, Neural Configuration Scorer (NCS). NCS ranks the performance of IRs sampled by a transfer-learning-based autotuner, improving the efficiency of the tuning process by reducing tuning overheads and circumventing subpar evaluations. By leveraging knowledge from related tasks, we are able to effectively exploit the transfer relationship to access high-performing configurations in fewer samples than traditional techniques that rely upon itera- tive refinement. Our framework can achieve similar performance improvements as state-of-the-art autotuning techniques with up to 61.67% fewer evaluations, averaging 27.85% fewer evaluations across various HPC benchmarks.
- Abstract(参考訳): ハイパフォーマンスコンピューティング(HPC)エコサイス-テムの複雑さが継続的に増大するにつれて、最適なパフォーマンスを達成することが課題となる。
従来のパフォーマンス自動チューニング技術は、この複雑さをナビゲートする手段であり、これらの手法は計算集約的であり、最適な構成を見つけるために多くの評価を必要とする。
本研究では、機械学習に基づくアンサンブルLLVM中間表現(IR)ローダであるNeural Configuration Scorer(NCS)を設計する自動チューニングフレームワークを提案する。
NCSは、トランスファーラーニングベースのオートチューニングによってサンプリングされたIRの性能をランク付けし、チューニングオーバーヘッドを低減し、サブパー評価を回避することで、チューニングプロセスの効率を向上させる。
関連するタスクからの知識を活用することで、移動関係を効果的に活用して、イタラティブな改善に依存した従来の手法よりも少ないサンプルで高性能な構成にアクセスできる。
我々のフレームワークは、最先端のオートチューニング技術と同様に、最大で61.67%、HPCベンチマークの平均で27.85%の性能向上を実現している。
関連論文リスト
- Constraint-aware Optimization in Auto-Tuning [0.0]
自動チューニングのための4つの進化的アルゴリズムの制約を意識した変種を提示・評価する。
制約を意識した最適化は、制約のないメソッドよりも高速な収束と性能向上につながることを示す。
論文 参考訳(メタデータ) (2026-06-17T10:21:45Z) - An End-to-End Deep Reinforcement Learning Approach for Solving the Traveling Salesman Problem with Drones [12.385878815004283]
本研究では、ドローンによるトラベリングセールスマン問題(TSP-D)を解決するための階層的アクター・クリティカル深部強化学習フレームワークを提案する。
アーキテクチャは、Transformerにインスパイアされたエンコーダと、効率の良いMinimal Gated Unitデコーダの2つの主要な計算で構成されている。
フレームワーク全体が非同期のアドバンテージアクター-クリティカルパラダイム内で動作します。
論文 参考訳(メタデータ) (2025-11-07T14:26:29Z) - Automated Algorithm Design for Auto-Tuning Optimizers [0.3459227740065624]
我々は,大規模言語モデルを用いて自動チューニング問題に適した最適化アルゴリズムを自動生成する,新しいパラダイムを導入する。
6つのハードウェアプラットフォームにまたがる4つのリアルタイム自動チューニングアプリケーション上で,これらのアルゴリズムを評価する。
自動チューニングの最先端パラメータよりも平均72.4%向上した最適化アルゴリズムを最適に実現した。
論文 参考訳(メタデータ) (2025-10-19T09:38:15Z) - XQC: Well-conditioned Optimization Accelerates Deep Reinforcement Learning [26.063477716451512]
我々は,ソフトアクター・クリティックをベースとした,よく動機付けられた,サンプル効率の高いディープアクター・クリティックアルゴリズムであるXQCを紹介する。
55のプロプリセプションと15の視覚に基づく連続制御タスクにまたがる最先端のサンプル効率を実現する。
論文 参考訳(メタデータ) (2025-09-29T17:58:53Z) - Controllable Prompt Tuning For Balancing Group Distributional Robustness [53.336515056479705]
グループ間で優れたパフォーマンスを実現するための最適化スキームを導入し、それらの性能を著しく犠牲にすることなく、全員に良い解決策を見出す。
本稿では,制御可能なプロンプトチューニング(CPT)を提案する。
突発的相関ベンチマークでは, 変換器と非変換器の両アーキテクチャ, および非モーダルおよびマルチモーダルデータにまたがって, 最先端の結果が得られた。
論文 参考訳(メタデータ) (2024-03-05T06:23:55Z) - Transfer-Learning-Based Autotuning Using Gaussian Copula [0.0]
ガウスコプラ(GC)に基づくTLに基づく最初の自動チューニング手法を提案する。
GCは、最初の評価で64.37%のピーク数ショットのパフォーマンスを達成することができる。さらに、GCモデルは、最大33.39$times$ speedupという数ショット転送予算を決定することができる。
論文 参考訳(メタデータ) (2024-01-09T16:52:57Z) - Federated Learning of Large Language Models with Parameter-Efficient
Prompt Tuning and Adaptive Optimization [71.87335804334616]
フェデレートラーニング(FL)は、分散データとの協調モデルトレーニングを可能にする、有望なパラダイムである。
LLM(Large Language Models)のトレーニングプロセスは一般的に重要なパラメータの更新を引き起こす。
本稿では,性能と効率を同時に向上する効率的な部分的プロンプトチューニング手法を提案する。
論文 参考訳(メタデータ) (2023-10-23T16:37:59Z) - Mechanic: A Learning Rate Tuner [52.4242550204696]
我々は,任意の基本最適化アルゴリズムの学習率尺度係数を調整し,自動的にスケジュールする手法を導入し,それをテクスチャメカニックと呼ぶ。
各種バッチサイズ,スケジュール,基本最適化アルゴリズムを用いて,大規模深層学習タスクにおけるテクスチャメカニックを厳格に評価する。
論文 参考訳(メタデータ) (2023-05-31T19:32:43Z) - Towards Compute-Optimal Transfer Learning [82.88829463290041]
我々は、事前訓練されたモデルのゼロショット構造化プルーニングにより、性能を最小限に抑えて計算効率を向上させることができると主張している。
その結果,事前訓練されたモデルの畳み込み畳み込みフィルタは,低計算条件下で20%以上の性能向上をもたらす可能性が示唆された。
論文 参考訳(メタデータ) (2023-04-25T21:49:09Z) - Performance Embeddings: A Similarity-based Approach to Automatic
Performance Optimization [71.69092462147292]
パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。
本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
論文 参考訳(メタデータ) (2023-03-14T15:51:35Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。