論文の概要: Can Global Optimization Strategy Outperform Myopic Strategy for Bayesian Parameter Estimation?

• arxiv url: http://arxiv.org/abs/2007.00373v1
• Date: Wed, 1 Jul 2020 10:31:16 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-14 22:45:58.767359
• Title: Can Global Optimization Strategy Outperform Myopic Strategy for Bayesian Parameter Estimation?
• Title（参考訳）: ベイズパラメータ推定における大域的最適化戦略はミオピック戦略を上回るか?
• Authors: Juanping Zhu, Hairong Gu
• Abstract要約: 本報告では,グローバル戦略とミオピック戦略のパフォーマンス改善と負担を比較検討した実験結果に基づいて,その回避策を提案する。 グローバル戦略の新たな地平線は、最も即時的な次のステップ以外の、最適なグローバルユーティリティの改善に無視できる貢献をしている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Bayesian adaptive inference is widely used in psychophysics to estimate psychometric parameters. Most applications used myopic one-step ahead strategy which only optimizes the immediate utility. The widely held expectation is that global optimization strategies that explicitly optimize over some horizon can largely improve the performance of the myopic strategy. With limited studies that compared myopic and global strategies, the expectation was not challenged and researchers are still investing heavily to achieve global optimization. Is that really worthwhile? This paper provides a discouraging answer based on experimental simulations comparing the performance improvement and computation burden between global and myopic strategies in parameter estimation of multiple models. The finding is that the added horizon in global strategies has negligible contributions to the improvement of optimal global utility other than the most immediate next steps (of myopic strategy). Mathematical recursion is derived to prove that the contribution of utility improvement of each added horizon step diminishes fast as that step moves further into the future.
• Abstract（参考訳）: ベイズ適応推論は心理物理学において心理学的パラメータを推定するために広く用いられている。 ほとんどのアプリケーションは、直近のユーティリティのみを最適化する、ミオピックワンステップ戦略を使用していた。 ある地平線上で明示的に最適化するグローバル最適化戦略は、ミオピック戦略の性能を大幅に改善できると広く期待されている。 筋電図と世界戦略を比較する限られた研究で、期待は達成されず、研究者は依然としてグローバルな最適化に多大な投資をしている。 本当に価値があるのか? 本稿では,複数モデルのパラメータ推定におけるグローバル戦略とミオピック戦略の性能改善と計算負荷を比較する実験シミュレーションに基づく不明瞭な答えを提案する。 この発見は、グローバル戦略における新たな地平線が、最も直接的な次のステップ(近視的戦略)以外の最適なグローバルユーティリティの改善に欠かせない貢献をしていることを示している。 数学的な再帰は、各追加水平ステップの実用性向上の寄与が、そのステップが将来的に進むにつれて急速に減少することを示すために導かれる。

関連論文リスト

• Beyond Single-Model Views for Deep Learning: Optimization versus Generalizability of Stochastic Optimization Algorithms [13.134564730161983]
  本稿では、勾配降下(SGD)とその変種に着目し、ディープラーニングの最適化に新しいアプローチを採用する。 我々はSGDとその変種がSAMのような平らなミニマと同等の性能を示すことを示した。 本研究は、トレーニング損失とホールドアウト精度の関係、およびSGDとノイズ対応変種の性能について、いくつかの重要な知見を明らかにした。
  論文  参考訳（メタデータ） (2024-03-01T14:55:22Z)
• Unleashing the Potential of Large Language Models as Prompt Optimizers: An Analogical Analysis with Gradient-based Model Optimizers [108.72225067368592]
  本稿では,大規模言語モデル(LLM)に基づくプロンプトの設計について検討する。 モデルパラメータ学習における2つの重要な要素を同定する。 特に、勾配に基づく最適化から理論的な枠組みや学習手法を借用し、改良された戦略を設計する。
  論文  参考訳（メタデータ） (2024-02-27T15:05:32Z)
• An Invariant Information Geometric Method for High-Dimensional Online Optimization [9.538618632613714]
  本稿では,対応するフレームワークから派生した,完全な不変性指向進化戦略アルゴリズムを提案する。 ベイズ最適化と進化戦略における主要なアルゴリズムに対してSynCMAをベンチマークする。 あらゆるシナリオにおいて、SynCMAはサンプル効率において他のアルゴリズムよりも優れた能力を示す。
  論文  参考訳（メタデータ） (2024-01-03T07:06:26Z)
• Iterative Layerwise Training for Quantum Approximate Optimization Algorithm [0.39945675027960637]
  最適化問題の解法における量子近似最適化アルゴリズム(QAOA)の能力は近年,盛んに研究されている。 本稿では,QAOAによる問題解決における最適化コスト削減の可能性を検討する。
  論文  参考訳（メタデータ） (2023-09-24T05:12:48Z)
• DeepHive: A multi-agent reinforcement learning approach for automated discovery of swarm-based optimization policies [0.0]
  Swarm内の各エージェントの状態は、設計空間内の現在の位置と関数値として定義される。 提案手法は,様々なベンチマーク最適化関数を用いて検証し,他のグローバル最適化手法との比較を行った。
  論文  参考訳（メタデータ） (2023-03-29T18:08:08Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Understanding the Effect of Stochasticity in Policy Optimization [86.7574122154668]
  最適化手法の優位性は、正確な勾配が用いられるかどうかに大きく依存することを示す。 次に,政策最適化におけるコミット率の概念を紹介する。 第三に、外部のオラクル情報がない場合には、収束を加速するために幾何を利用することと、最適性をほぼ確実に達成することとの間に本質的にトレードオフがあることが示される。
  論文  参考訳（メタデータ） (2021-10-29T06:35:44Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)
• Mixed Strategies for Robust Optimization of Unknown Objectives [93.8672371143881]
  そこでは,不確実なパラメータの最悪の実現に対して,未知の目的関数を最適化することを目的として,ロバストな最適化問題を考察する。 我々は,未知の目的をノイズ点評価から逐次学習する,新しいサンプル効率アルゴリズムGP-MROを設計する。 GP-MROは、最悪のケースで期待される目標値を最大化する、堅牢でランダムな混合戦略の発見を目指している。
  論文  参考訳（メタデータ） (2020-02-28T09:28:17Z)
• Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
  適応性は現代最適化理論において重要であるが、研究されていない性質である。 提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
  論文  参考訳（メタデータ） (2020-02-13T05:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。