論文の概要: Trial-Based Dominance Enables Non-Parametric Tests to Compare both the
Speed and Accuracy of Stochastic Optimizers
- arxiv url: http://arxiv.org/abs/2212.09423v1
- Date: Mon, 19 Dec 2022 12:58:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 14:44:26.526171
- Title: Trial-Based Dominance Enables Non-Parametric Tests to Compare both the
Speed and Accuracy of Stochastic Optimizers
- Title(参考訳): 確率最適化器の速度と精度を比較するための非パラメトリックテストを可能にする試行ベースドミナンス
- Authors: Kenneth V. Price, Abhishek Kumar, Ponnuthurai N Suganthan
- Abstract要約: 本稿では,2変数の試行データセットに線形順序を課す簡単な方法について述べる。
シミュレーションにより、Uスコアは2つのアルゴリズムの良さを識別するタスクにおいて、支配よりもはるかに効果的であることが示される。
- 参考スコア(独自算出の注目度): 15.546339162261681
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Non-parametric tests can determine the better of two stochastic optimization
algorithms when benchmarking results are ordinal, like the final fitness values
of multiple trials. For many benchmarks, however, a trial can also terminate
once it reaches a pre-specified target value. When only some trials reach the
target value, two variables characterize a trial's outcome: the time it takes
to reach the target value (or not) and its final fitness value. This paper
describes a simple way to impose linear order on this two-variable trial data
set so that traditional non-parametric methods can determine the better
algorithm when neither dominates. We illustrate the method with the
Mann-Whitney U-test. A simulation demonstrates that U-scores are much more
effective than dominance when tasked with identifying the better of two
algorithms. We test U-scores by having them determine the winners of the CEC
2022 Special Session and Competition on Real-Parameter Numerical Optimization.
- Abstract(参考訳): 非パラメトリックテストは、複数の試行の最終適合値のように、ベンチマーク結果が順序づけられた場合の2つの確率最適化アルゴリズムの利点を決定することができる。
しかし、多くのベンチマークでは、試行が所定の目標値に達したら終了することもできる。
いくつかの試行が目標値に達すると、2つの変数がトライアルの結果を特徴付ける:目標値(またはそうでない)に達するのに要する時間とその最終適合値。
本稿では,この2変数の試行データセットに線形順序を課す簡単な方法について述べる。
この方法をMann-Whitney U-testで説明する。
シミュレーションにより、u-scoreは2つのアルゴリズムの良さを識別するタスクにおいて、支配よりもずっと効果的であることが示される。
我々は、実パラメータ数値最適化に関するCEC 2022スペシャルセッションとコンペティションの勝者を決定することでUスコアをテストする。
関連論文リスト
- Faster WIND: Accelerating Iterative Best-of-$N$ Distillation for LLM Alignment [81.84950252537618]
本稿では,反復的BONDと自己プレイアライメントの統一的なゲーム理論接続を明らかにする。
WINレート支配(WIN rate Dominance, WIND)という新しいフレームワークを構築し, 正規化利率支配最適化のためのアルゴリズムを多数提案する。
論文 参考訳(メタデータ) (2024-10-28T04:47:39Z) - Bayesian Optimization for Non-Convex Two-Stage Stochastic Optimization Problems [2.9016548477524156]
知識に基づく獲得関数を定式化し,第1段と第2段の変数を協調的に最適化する。
可変型間の寸法と長さの差が2段階アルゴリズムの非効率性をもたらすことを示す。
論文 参考訳(メタデータ) (2024-08-30T16:26:31Z) - A Multi-objective Newton Optimization Algorithm for Hyper-Parameter
Search [0.0]
このアルゴリズムを用いて畳み込みニューラルネットワークの多クラス物体検出問題に対する最適確率しきい値(8パラメータのベクトル)を探索する。
このアルゴリズムは、デフォルト値0.5に比べて総合的に高い真正(TP)と低い偽正(FP)率を生成する。
論文 参考訳(メタデータ) (2024-01-07T21:12:34Z) - A framework for paired-sample hypothesis testing for high-dimensional
data [7.400168551191579]
我々は、各一対のインスタンスを接続するラインセグメントの双分割超平面によって定義される決定規則によって、スコアリング関数が生成できるという考えを提唱した。
まず、各一対の双分極超平面とホッジス・リーマン推定器から導出される集約規則を推定する。
論文 参考訳(メタデータ) (2023-09-28T09:17:11Z) - Spectral Regularized Kernel Two-Sample Tests [7.915420897195129]
MMD (maximum mean discrepancy) two-sample test to be optimal to the terms of the separation boundary in the Hellinger distance。
スペクトル正則化に基づくMDD試験の修正を提案し,MMD試験よりも分離境界が小さく,最小限の試験が最適であることを証明した。
その結果,テストしきい値がエレガントに選択されるテストの置換変種が,サンプルの置換によって決定されることがわかった。
論文 参考訳(メタデータ) (2022-12-19T00:42:21Z) - On the Assessment of Benchmark Suites for Algorithm Comparison [7.501426386641256]
BBOBスイートのほとんどのベンチマーク関数は、高い難易度(最適化アルゴリズムと比較)と低い差別性を有することを示す。
我々は、ベンチマークスイートの設計を改善することを含む、ベンチマークにおけるIRTの潜在的な使用について論じる。
論文 参考訳(メタデータ) (2021-04-15T11:20:11Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking
Fairness and Algorithm Utility [54.179859639868646]
Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。
学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。
本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-15T10:08:39Z) - ADAHESSIAN: An Adaptive Second Order Optimizer for Machine Learning [91.13797346047984]
本稿では,2次最適化アルゴリズムであるADAHESSIANを紹介する。
ADAHESSIANは、他の適応最適化手法と比較して、新しい最先端の成果を大きなマージンで達成することを示す。
論文 参考訳(メタデータ) (2020-06-01T05:00:51Z) - Ranking a set of objects: a graph based least-square approach [70.7866286425868]
同一労働者の群集によるノイズの多いペアワイズ比較から始まる$N$オブジェクトのランク付けの問題について考察する。
品質評価のために,最小二乗内在的最適化基準に依存する非適応的ランキングアルゴリズムのクラスを提案する。
論文 参考訳(メタデータ) (2020-02-26T16:19:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。