論文の概要: Constraint-aware Optimization in Auto-Tuning
- arxiv url: http://arxiv.org/abs/2606.28372v1
- Date: Wed, 17 Jun 2026 10:21:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 10:59:02.053808
- Title: Constraint-aware Optimization in Auto-Tuning
- Title(参考訳): オートチューニングにおける制約認識最適化
- Abstract要約: 自動チューニングのための4つの進化的アルゴリズムの制約を意識した変種を提示・評価する。
制約を意識した最適化は、制約のないメソッドよりも高速な収束と性能向上につながることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automatic performance tuning, or auto-tuning, is a key technique in high-performance computing, enabling applications to adapt to complex and evolving hardware architectures. A central challenge is the need to optimize over large discrete, constrained parameter spaces, where many candidate configurations are invalid due to hardware or software correctness constraints. Traditional evolutionary algorithms, such as Differential Evolution, Particle Swarm Optimization, and Genetic Algorithms, are not inherently constraint-aware and thus often waste computational resources evaluating invalid solutions. In this work, we present and evaluate constraint-aware variants of four evolutionary algorithms for auto-tuning. Through extensive experiments on a representative benchmark suite, we show that constraint-aware optimization leads to faster convergence and improved performance over unconstrained methods. Furthermore, we demonstrate that our methods outperform the pyATF methods, a state-of-the-art framework for constraint-based auto-tuning. Our results demonstrate that incorporating constraint-awareness into the optimization process significantly enhances their applicability and effectiveness in real-world auto-tuning problems. Constraint-awareness improved algorithm efficiency by ~39 on average, correlated with search space sparsity. The algorithms developed in this study are publicly available as open-source contributions to the Kernel Tuner framework, facilitating future research and benefitting users.
- Abstract(参考訳): 自動パフォーマンスチューニング(auto-tuning)は、アプリケーションが複雑で進化するハードウェアアーキテクチャに適応できるようにする、高性能コンピューティングにおける重要な技術である。
主な課題は、ハードウェアやソフトウェアの正しさの制約により、多くの候補設定が無効となる、大きな離散的制約付きパラメータ空間を最適化することである。
微分進化、粒子群最適化、遺伝的アルゴリズムといった伝統的な進化的アルゴリズムは本質的に制約を意識していないため、無効解を評価する計算資源を浪費することが多い。
本研究では,自動チューニングのための4つの進化的アルゴリズムの制約を考慮した変種を提示し,評価する。
代表的なベンチマークスイートの広範な実験を通して,制約を考慮した最適化が,制約のないメソッドよりも高速な収束と性能向上につながることを示す。
さらに,制約に基づく自動チューニングのための最先端フレームワークであるpyATF法よりも優れていることを示す。
本研究は,制約認識を最適化プロセスに組み込むことで,実世界のオートチューニング問題における適用性と有効性を大幅に向上することを示す。
制約認識はアルゴリズムの効率を平均39倍に改善し、探索空間の空間幅と相関した。
この研究で開発されたアルゴリズムは、Kernel Tunerフレームワークへのオープンソースコントリビューションとして公開されている。
関連論文リスト
- A new dual-population constrained multi-objective evolutionary optimization algorithm with repair constraint handling for structural optimization [0.0]
本稿では,多目的工学応用のための制約付き進化最適化アルゴリズムを提案する。
このアルゴリズムは2つの相互作用する集団を用いて情報を交換し、効果的なグローバルな探索を可能にし、局所的な最適性への収束のリスクを低減する。
提案アルゴリズムは72バールトラス,120バールトラス,および数百の非線形故障制約を含む3つの工学的問題で検証される。
論文 参考訳(メタデータ) (2026-07-14T00:57:07Z) - Evolution of Optimization Methods: Algorithms, Scenarios, and Evaluations [98.44542103979735]
勾配勾配降下法(SGD)とアダム(Adam)による1次勾配勾配降下法は、現代の訓練パイプラインの基礎となる。
大規模モデルトレーニング、厳格なプライバシ要件、分散学習パラダイムは、プライバシ保護とメモリ効率に関する従来のアプローチにおける重要な制限を明らかにする。
深層学習最適化アルゴリズムの進化軌道を振り返って分析し、様々なモデルアーキテクチャやトレーニングシナリオの主流を包括的に評価する。
我々は、重要な新興トレンドと基本設計のトレードオフを抽出し、将来の研究の有望な方向性を示唆する。
論文 参考訳(メタデータ) (2026-04-14T17:01:36Z) - Optimizing Optimizers for Fast Gradient-Based Learning [53.81268610971847]
勾配学習における設計の自動化に関する理論的基礎を築いた。
勾配損失信号をパラメータ運動に変換する関数として扱うことにより、この問題は凸最適化問題の族に還元される。
論文 参考訳(メタデータ) (2025-12-06T09:50:41Z) - Automated Algorithm Design for Auto-Tuning Optimizers [0.3459227740065624]
我々は,大規模言語モデルを用いて自動チューニング問題に適した最適化アルゴリズムを自動生成する,新しいパラダイムを導入する。
6つのハードウェアプラットフォームにまたがる4つのリアルタイム自動チューニングアプリケーション上で,これらのアルゴリズムを評価する。
自動チューニングの最先端パラメータよりも平均72.4%向上した最適化アルゴリズムを最適に実現した。
論文 参考訳(メタデータ) (2025-10-19T09:38:15Z) - LLM-guided Chemical Process Optimization with a Multi-Agent Approach [8.714038047141202]
本稿では,最小限のプロセス記述から動作制約を自律的に推論するマルチエージェントLLMフレームワークを提案する。
当社のAutoGenベースのフレームワークは、制約生成、パラメータ検証、シミュレーション、最適化ガイダンスのための特別なエージェントを備えたOpenAIのo3モデルを採用しています。
論文 参考訳(メタデータ) (2025-06-26T01:03:44Z) - Preference Optimization for Combinatorial Optimization Problems [54.87466279363487]
強化学習(Reinforcement Learning, RL)は、ニューラルネットワーク最適化のための強力なツールとして登場した。
大幅な進歩にもかかわらず、既存のRLアプローチは報酬信号の減少や大規模な行動空間における非効率な探索といった課題に直面している。
統計的比較モデルを用いて定量的報酬信号を定性的選好信号に変換する新しい手法であるPreference Optimizationを提案する。
論文 参考訳(メタデータ) (2025-05-13T16:47:00Z) - DeclareAligner: A Leap Towards Efficient Optimal Alignments for Declarative Process Model Conformance Checking [1.4064491732635231]
本稿では,AIパスフィニング手法であるA*探索アルゴリズムを用いた新しいアルゴリズムであるDeclareAlignerを紹介する。
提案手法は,8,054個の合成および実寿命アライメント問題を用いて評価し,最適アライメントを効率的に計算できることを実証した。
論文 参考訳(メタデータ) (2025-03-13T15:49:29Z) - Accelerated First-Order Optimization under Nonlinear Constraints [61.98523595657983]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。
これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文 参考訳(メタデータ) (2023-02-01T08:50:48Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - EOS: a Parallel, Self-Adaptive, Multi-Population Evolutionary Algorithm
for Constrained Global Optimization [68.8204255655161]
EOSは実数値変数の制約付きおよび制約なし問題に対する大域的最適化アルゴリズムである。
これはよく知られた微分進化(DE)アルゴリズムに多くの改良を加えている。
その結果、EOSisは、最先端の単一人口自己適応Dアルゴリズムと比較して高い性能を達成可能であることが証明された。
論文 参考訳(メタデータ) (2020-07-09T10:19:22Z) - Adaptive Discretization for Model-Based Reinforcement Learning [10.21634042036049]
本稿では,適応離散化手法を導入し,効率的なモデルに基づくエピソード強化学習アルゴリズムを設計する。
我々のアルゴリズムは、空間の適応的な離散化を維持するために拡張された楽観的なワンステップ値反復に基づいている。
論文 参考訳(メタデータ) (2020-07-01T19:36:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。