論文の概要: Analyzing Adaptive Parameter Landscapes in Parameter Adaptation Methods
for Differential Evolution
- arxiv url: http://arxiv.org/abs/2009.12531v1
- Date: Sat, 26 Sep 2020 08:12:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-14 08:37:11.943807
- Title: Analyzing Adaptive Parameter Landscapes in Parameter Adaptation Methods
for Differential Evolution
- Title（参考訳）: 微分進化のためのパラメータ適応法における適応パラメータランドスケープの解析
- Authors: Ryoji Tanabe
- Abstract要約: 本稿では,パラメータ適応過程におけるモーメントをキャプチャする適応パラメータランドスケープの概念を提案する。
第2に,適応パラメータのランドスケープを1ステップのグリーディ改善指標を用いて解析する手法を提案する。
第三に、提案手法を用いて、PAMの適応パラメータのランドスケープについて検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Since the scale factor and the crossover rate significantly influence the
performance of differential evolution (DE), parameter adaptation methods (PAMs)
for the two parameters have been well studied in the DE community. Although
PAMs can sufficiently improve the effectiveness of DE, PAMs are poorly
understood (e.g., the working principle of PAMs). One of the difficulties in
understanding PAMs comes from the unclarity of the parameter space that
consists of the scale factor and the crossover rate. This paper addresses this
issue by analyzing adaptive parameter landscapes in PAMs for DE. First, we
propose a concept of an adaptive parameter landscape, which captures a moment
in a parameter adaptation process. For each iteration, each individual in the
population has its adaptive parameter landscape. Second, we propose a method of
analyzing adaptive parameter landscapes using a 1-step-lookahead greedy
improvement metric. Third, we examine adaptive parameter landscapes in PAMs by
using the proposed method. Results provide insightful information about PAMs in
DE.
- Abstract（参考訳）: スケール係数とクロスオーバー率が微分進化(DE)の性能に大きく影響しているため,2つのパラメータに対するパラメータ適応法(PAM)はDコミュニティでよく研究されている。
PAMはDEの有効性を十分に改善できるが、PAMは理解が不十分である(例えば、PAMの動作原理)。
PAMを理解することの難しさの1つは、スケール係数とクロスオーバー率からなるパラメータ空間の不明瞭さである。
本稿では,DEMにおける適応パラメータランドスケープを解析し,この問題に対処する。
まず,パラメータ適応プロセスにおいてモーメントをキャプチャする適応パラメータランドスケープの概念を提案する。
反復ごとに、個体群の各個体は適応パラメータのランドスケープを持つ。
第2に,適応パラメータのランドスケープを1ステップのグレディ改善指標を用いて解析する手法を提案する。
第3に,提案手法を用いて適応パラメータのランドスケープについて検討する。
結果は、DEMにおけるPAMに関する洞察に富んだ情報を提供する。
関連論文リスト
- GEPS: Boosting Generalization in Parametric PDE Neural Solvers through Adaptive Conditioning [14.939978372699084]
データ駆動型アプローチは、異なるPDEパラメータを持つ非常に多種多様な軌跡を組み込むことでパラメトリックPDEを学ぶ。
GEPSはPdeソルバのGEneralizationを促進するための単純な適応機構である。
完全データ駆動型と物理対応型ニューラルソルバの両方に対するアプローチの汎用性を実証する。
論文 参考訳（メタデータ） (2024-10-31T12:51:40Z) - Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。
私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。
最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
論文 参考訳（メタデータ） (2024-07-08T12:32:51Z) - Adaptive Preference Scaling for Reinforcement Learning with Human Feedback [103.36048042664768]
人間からのフィードバックからの強化学習(RLHF)は、AIシステムと人間の価値を合わせるための一般的なアプローチである。
本稿では,分散ロバスト最適化(DRO)に基づく適応的優先損失を提案する。
提案手法は多用途であり,様々な選好最適化フレームワークに容易に適用可能である。
論文 参考訳（メタデータ） (2024-06-04T20:33:22Z) - ETHER: Efficient Finetuning of Large-Scale Models with Hyperplane Reflections [59.839926875976225]
本稿では,HypErplane Reflectionsによる高効率微調整を行うETHER変換ファミリを提案する。
特に,既存のPEFT法と極めて少ないパラメータで一致または性能を向上するEtheRと緩和ETHER+を導入する。
論文 参考訳（メタデータ） (2024-05-30T17:26:02Z) - A Unified Gaussian Process for Branching and Nested Hyperparameter
Optimization [19.351804144005744]
ディープラーニングでは、条件に依存したパラメータのチューニングが一般的に行われている。
新しいGPモデルでは、新しいカーネル関数を通じて入力変数間の依存構造が説明される。
ニューラルネットワークの一連の合成シミュレーションおよび実データ応用において、高い予測精度とより良い最適化効率が観察される。
論文 参考訳（メタデータ） (2024-01-19T21:11:32Z) - Optimization of Discrete Parameters Using the Adaptive Gradient Method
and Directed Evolution [49.1574468325115]
最適解の探索は、個人の集団によって行われる。
適応していない個体は死に、最適な個体は交配し、結果として進化力学が導かれた。
論文 参考訳（メタデータ） (2024-01-12T15:45:56Z) - Optimizing ADMM and Over-Relaxed ADMM Parameters for Linear Quadratic
Problems [32.04687753889809]
Alternating Direction Method of Multipliers (ADMM) は、幅広い機械学習アプリケーションで注目を集めている。
本稿では, ペナルティパラメータの値を最適化するための一般的な手法を提案し, 続いて, 最適緩和パラメータを計算するための新しいクローズドフォーム式を提案する。
次に、ランダムなインスタンス化と多様なイメージングアプリケーションを用いてパラメータ選択法を実験的に検証する。
論文 参考訳（メタデータ） (2024-01-01T04:01:40Z) - Sensitivity-Aware Visual Parameter-Efficient Fine-Tuning [91.5113227694443]
私たちは新しいビジュアルを提案します。
Sensuous-Aware Fine-Tuning (SPT) スキーム。
SPTはタスク固有の重要な位置にトレーニング可能なパラメータを割り当てる。
ダウンストリーム認識タスクの幅広い実験により,SPTは既存のPEFT法と相補的であることが示された。
論文 参考訳（メタデータ） (2023-03-15T12:34:24Z) - Good Intentions: Adaptive Parameter Management via Intent Signaling [50.01012642343155]
そこで本研究では,既存の機械学習スタックに自然に統合された新たなインテントシグナリング機構を提案する。
次に、このメカニズムに基づいて、完全に適応的でゼロチューニングのパラメータマネージャであるAdaPMについて説明する。
私たちの評価では、AdaPMは、最先端のパラメータマネージャにマッチするか、あるいはパフォーマンスが良くなりました。
論文 参考訳（メタデータ） (2022-06-01T13:02:19Z) - TPAM: A Simulation-Based Model for Quantitatively Analyzing Parameter
Adaptation Methods [7.538482310185133]
PAMの追跡性能を評価するためのターゲット関数に基づくPAMシミュレーションフレームワークを提案する。
提案したTPAM上での5つの適応DES(jDE, EPSDE, JADE, MDE, SHADE)のPAMの追跡性能を評価する。
論文 参考訳（メタデータ） (2020-10-05T09:25:48Z) - How Far Are We From an Optimal, Adaptive DE? [7.538482310185133]
我々は、適応DEに対する(ほぼ)最適パラメータ適応プロセスがどのように振る舞うかを考察する。
我々は、このほぼ最適なプロセスと、既存のDECの適応機構とを比較した。
論文 参考訳（メタデータ） (2020-10-02T14:38:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。