論文の概要: Population Control meets Doob's Martingale Theorems: the Noise-free
Multimodal Case
- arxiv url: http://arxiv.org/abs/2005.13970v1
- Date: Sun, 24 May 2020 13:47:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 13:49:43.137146
- Title: Population Control meets Doob's Martingale Theorems: the Noise-free
Multimodal Case
- Title(参考訳): ドオブのMartingale理論と人口制御 : ノイズフリーマルチモーダル事例
- Authors: Marie-Liesse Cauwet, Olivier Teytaud
- Abstract要約: 本研究では,騒音のないマルチモーダルケースにおいて,人口制御から着想を得たテストベース人口規模適応法(TBPSA)について検討した。
TBPSAはノイズのないマルチモーダルの文脈でも強力であることを示す。
- 参考スコア(独自算出の注目度): 3.68886451991102
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study a test-based population size adaptation (TBPSA) method, inspired
from population control, in the noise-free multimodal case. In the noisy
setting, TBPSA usually recommends, at the end of the run, the center of the
Gaussian as an approximation of the optimum. We show that combined with a more
naive recommendation, namely recommending the visited point which had the best
fitness value so far, TBPSA is also powerful in the noise-free multimodal
context.
We demonstrate this experimentally and explore this mechanism theoretically:
we prove that TBPSA is able to escape plateaus with probability one in spite of
the fact that it can converge to local minima. This leads to an algorithm
effective in the multimodal setting without resorting to a random restart from
scratch.
- Abstract(参考訳): 本研究では,騒音のないマルチモーダルケースにおいて,人口制御から着想を得たテストベース人口規模適応法(TBPSA)について検討した。
ノイズの多い環境では、TBPSAは通常、実行の終わりにガウスの中心を最適値の近似として推奨する。
提案手法は,これまで最も適合度の高い訪問点を推薦する手法と組み合わせることで,雑音のないマルチモーダル環境においてもtbpsaが有効であることを示す。
我々は、この機構を実験的に実証し、理論的にこのメカニズムを探求する:我々は、BPSAが局所的なミニマに収束できるという事実にもかかわらず、確率1で高原から逃れることができることを証明した。
これにより、スクラッチからランダムに再起動することなく、マルチモーダル設定で有効なアルゴリズムが得られる。
関連論文リスト
- Regret Minimization and Statistical Inference in Online Decision Making with High-dimensional Covariates [7.21848268647674]
我々は、決定のための$varepsilon$-greedybanditアルゴリズムと、疎帯域パラメータを推定するためのハードしきい値アルゴリズムを統合する。
マージン条件下では、我々の手法は、$O(T1/2)$ regret あるいは古典的な$O(T1/2)$-consistent推論のいずれかを達成する。
論文 参考訳(メタデータ) (2024-11-10T01:47:11Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-08T16:06:29Z) - Entropy-MCMC: Sampling from Flat Basins with Ease [10.764160559530849]
我々は, シャープモードから解放された円滑な後円板に類似した定常分布である補助誘導変数を導入し, MCMC試料を平らな盆地に導出する。
この導出変数をモデルパラメータと統合することにより、計算オーバーヘッドを最小限に抑えた効率的なサンプリングを可能にする、単純なジョイント分布を作成する。
実験により,提案手法は後方の平らな盆地から試料を採取し,比較したベースラインを複数ベンチマークで比較した。
論文 参考訳(メタデータ) (2023-10-09T04:40:20Z) - Optimizing the Noise in Self-Supervised Learning: from Importance
Sampling to Noise-Contrastive Estimation [80.07065346699005]
GAN(Generative Adversarial Networks)のように、最適な雑音分布はデータ分布に等しくなると広く想定されている。
我々は、この自己教師型タスクをエネルギーベースモデルの推定問題として基礎づけるノイズ・コントラスト推定に目を向ける。
本研究は, 最適雑音のサンプリングは困難であり, 効率性の向上は, データに匹敵する雑音分布を選択することに比べ, 緩やかに行うことができると結論付けた。
論文 参考訳(メタデータ) (2023-01-23T19:57:58Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - From Optimality to Robustness: Dirichlet Sampling Strategies in
Stochastic Bandits [0.0]
本研究では、腕の観察を再サンプリングした経験的指標のペア比較に基づいて、ジェネリックディリクレサンプリング(DS)アルゴリズムについて検討する。
この戦略の異なる変種は、分布が有界であるときに証明可能な最適後悔保証と、半有界分布に対して軽度量子状態の対数後悔を実現することを示す。
論文 参考訳(メタデータ) (2021-11-18T14:34:21Z) - AdaPT-GMM: Powerful and robust covariate-assisted multiple testing [0.7614628596146599]
偽発見率(FDR)制御を用いた複数検定の実証的ベイズ法を提案する。
本手法は,アダプティブp値しきい値法(AdaPT)をマスク方式の一般化により洗練する。
我々は、AdaPT-GMMと呼ばれる新しい手法が一貫して高出力を実現することを、広範囲にわたるシミュレーションと実データ例で示す。
論文 参考訳(メタデータ) (2021-06-30T05:06:18Z) - Statistical Efficiency of Thompson Sampling for Combinatorial
Semi-Bandits [56.31950477139053]
半帯域フィードバック(CMAB)を用いたマルチアームバンディットの検討
我々は Combinatorial Thompson Smpling Policy (CTS) の変種を解析する。
この最終結果は,Y Combinatorial Bandit Policy (ESCB) の効率的なサンプリングに代わるものだ。
論文 参考訳(メタデータ) (2020-06-11T17:12:11Z) - Lower bounds in multiple testing: A framework based on derandomized
proxies [107.69746750639584]
本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。
これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
論文 参考訳(メタデータ) (2020-05-07T19:59:51Z) - Noisy Adaptive Group Testing using Bayesian Sequential Experimental
Design [63.48989885374238]
病気の感染頻度が低い場合、Dorfman氏は80年前に、人のテストグループは個人でテストするよりも効率が良いことを示した。
本研究の目的は,ノイズの多い環境で動作可能な新しいグループテストアルゴリズムを提案することである。
論文 参考訳(メタデータ) (2020-04-26T23:41:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。