論文の概要: Analyzing Adaptive Parameter Landscapes in Parameter Adaptation Methods
for Differential Evolution
- arxiv url: http://arxiv.org/abs/2009.12531v1
- Date: Sat, 26 Sep 2020 08:12:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-14 08:37:11.943807
- Title: Analyzing Adaptive Parameter Landscapes in Parameter Adaptation Methods
for Differential Evolution
- Title(参考訳): 微分進化のためのパラメータ適応法における適応パラメータランドスケープの解析
- Authors: Ryoji Tanabe
- Abstract要約: 本稿では,パラメータ適応過程におけるモーメントをキャプチャする適応パラメータランドスケープの概念を提案する。
第2に,適応パラメータのランドスケープを1ステップのグリーディ改善指標を用いて解析する手法を提案する。
第三に、提案手法を用いて、PAMの適応パラメータのランドスケープについて検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Since the scale factor and the crossover rate significantly influence the
performance of differential evolution (DE), parameter adaptation methods (PAMs)
for the two parameters have been well studied in the DE community. Although
PAMs can sufficiently improve the effectiveness of DE, PAMs are poorly
understood (e.g., the working principle of PAMs). One of the difficulties in
understanding PAMs comes from the unclarity of the parameter space that
consists of the scale factor and the crossover rate. This paper addresses this
issue by analyzing adaptive parameter landscapes in PAMs for DE. First, we
propose a concept of an adaptive parameter landscape, which captures a moment
in a parameter adaptation process. For each iteration, each individual in the
population has its adaptive parameter landscape. Second, we propose a method of
analyzing adaptive parameter landscapes using a 1-step-lookahead greedy
improvement metric. Third, we examine adaptive parameter landscapes in PAMs by
using the proposed method. Results provide insightful information about PAMs in
DE.
- Abstract(参考訳): スケール係数とクロスオーバー率が微分進化(DE)の性能に大きく影響しているため,2つのパラメータに対するパラメータ適応法(PAM)はDコミュニティでよく研究されている。
PAMはDEの有効性を十分に改善できるが、PAMは理解が不十分である(例えば、PAMの動作原理)。
PAMを理解することの難しさの1つは、スケール係数とクロスオーバー率からなるパラメータ空間の不明瞭さである。
本稿では,DEMにおける適応パラメータランドスケープを解析し,この問題に対処する。
まず,パラメータ適応プロセスにおいてモーメントをキャプチャする適応パラメータランドスケープの概念を提案する。
反復ごとに、個体群の各個体は適応パラメータのランドスケープを持つ。
第2に,適応パラメータのランドスケープを1ステップのグレディ改善指標を用いて解析する手法を提案する。
第3に,提案手法を用いて適応パラメータのランドスケープについて検討する。
結果は、DEMにおけるPAMに関する洞察に富んだ情報を提供する。
関連論文リスト
- A Unified Gaussian Process for Branching and Nested Hyperparameter
Optimization [19.351804144005744]
ディープラーニングでは、条件に依存したパラメータのチューニングが一般的に行われている。
新しいGPモデルでは、新しいカーネル関数を通じて入力変数間の依存構造が説明される。
ニューラルネットワークの一連の合成シミュレーションおよび実データ応用において、高い予測精度とより良い最適化効率が観察される。
論文 参考訳(メタデータ) (2024-01-19T21:11:32Z) - Optimization of Discrete Parameters Using the Adaptive Gradient Method
and Directed Evolution [49.1574468325115]
最適解の探索は、個人の集団によって行われる。
適応していない個体は死に、最適な個体は交配し、結果として進化力学が導かれた。
論文 参考訳(メタデータ) (2024-01-12T15:45:56Z) - Optimizing ADMM and Over-Relaxed ADMM Parameters for Linear Quadratic
Problems [32.04687753889809]
Alternating Direction Method of Multipliers (ADMM) は、幅広い機械学習アプリケーションで注目を集めている。
本稿では, ペナルティパラメータの値を最適化するための一般的な手法を提案し, 続いて, 最適緩和パラメータを計算するための新しいクローズドフォーム式を提案する。
次に、ランダムなインスタンス化と多様なイメージングアプリケーションを用いてパラメータ選択法を実験的に検証する。
論文 参考訳(メタデータ) (2024-01-01T04:01:40Z) - Winning Prize Comes from Losing Tickets: Improve Invariant Learning by
Exploring Variant Parameters for Out-of-Distribution Generalization [76.27711056914168]
Out-of-Distribution (OOD) 一般化は、分散固有の特徴に適合することなく、様々な環境によく適応する堅牢なモデルを学ぶことを目的としている。
LTH(Lottery Ticket hypothesis)に基づく最近の研究は、学習目標を最小化し、タスクに重要なパラメータのいくつかを見つけることでこの問題に対処している。
Invariant Learning (EVIL) における変数探索手法を提案する。
論文 参考訳(メタデータ) (2023-10-25T06:10:57Z) - Sensitivity-Aware Visual Parameter-Efficient Fine-Tuning [91.5113227694443]
私たちは新しいビジュアルを提案します。
Sensuous-Aware Fine-Tuning (SPT) スキーム。
SPTはタスク固有の重要な位置にトレーニング可能なパラメータを割り当てる。
ダウンストリーム認識タスクの幅広い実験により,SPTは既存のPEFT法と相補的であることが示された。
論文 参考訳(メタデータ) (2023-03-15T12:34:24Z) - General Framework for Self-Supervised Model Priming for
Parameter-Efficient Fine-tuning [54.47460770634613]
本稿では,パラメータ効率の高い手法の少数ショット適応とクロスドメイン一般化能力を高めるための汎用フレームワークを提案する。
本フレームワークでは,パラメータ効率向上のための自己教師型モデルを用いて,下流の諸課題に迅速に適応する。
我々は160種類のNLPタスクを含む数ショットのクロスドメインベンチマークで実験を行った。
論文 参考訳(メタデータ) (2022-12-02T08:56:53Z) - On the Effectiveness of Parameter-Efficient Fine-Tuning [79.6302606855302]
現在、多くの研究が、パラメータのごく一部のみを微調整し、異なるタスク間で共有されるパラメータのほとんどを保持することを提案している。
これらの手法は, いずれも細粒度モデルであり, 新たな理論的解析を行う。
我々の理論に根ざした空間性の有効性にもかかわらず、調整可能なパラメータをどう選ぶかという問題はまだ未解決のままである。
論文 参考訳(メタデータ) (2022-11-28T17:41:48Z) - Good Intentions: Adaptive Parameter Management via Intent Signaling [50.01012642343155]
そこで本研究では,既存の機械学習スタックに自然に統合された新たなインテントシグナリング機構を提案する。
次に、このメカニズムに基づいて、完全に適応的でゼロチューニングのパラメータマネージャであるAdaPMについて説明する。
私たちの評価では、AdaPMは、最先端のパラメータマネージャにマッチするか、あるいはパフォーマンスが良くなりました。
論文 参考訳(メタデータ) (2022-06-01T13:02:19Z) - Dual Parameterization of Sparse Variational Gaussian Processes [29.977303466172906]
スパース変分ガウス過程(SVGP)法は非共役ガウス過程推論の一般的な選択である。
本稿では,双対パラメータ化による計算効率の向上について述べる。
このアプローチは、現在のSVGPメソッドと同じメモリコストを持つが、より速く、より正確である。
論文 参考訳(メタデータ) (2021-11-05T11:31:42Z) - TPAM: A Simulation-Based Model for Quantitatively Analyzing Parameter
Adaptation Methods [7.538482310185133]
PAMの追跡性能を評価するためのターゲット関数に基づくPAMシミュレーションフレームワークを提案する。
提案したTPAM上での5つの適応DES(jDE, EPSDE, JADE, MDE, SHADE)のPAMの追跡性能を評価する。
論文 参考訳(メタデータ) (2020-10-05T09:25:48Z) - How Far Are We From an Optimal, Adaptive DE? [7.538482310185133]
我々は、適応DEに対する(ほぼ)最適パラメータ適応プロセスがどのように振る舞うかを考察する。
我々は、このほぼ最適なプロセスと、既存のDECの適応機構とを比較した。
論文 参考訳(メタデータ) (2020-10-02T14:38:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。