論文の概要: Exploring Exploration in Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2502.08208v1
• Date: Wed, 12 Feb 2025 08:38:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-13 13:47:44.240677
• Title: Exploring Exploration in Bayesian Optimization
• Title（参考訳）: ベイズ最適化における探索
• Authors: Leonard Papenmeier, Nuojin Cheng, Stephen Becker, Luigi Nardi,
• Abstract要約: 本研究は, 獲得関数の探索特性を定量化する2つの新しい手法を提案する。 ブラックボックス問題にまたがるいくつかのよく知られた獲得関数の爆発的性質について検討する。
• 参考スコア（独自算出の注目度）: 6.745285924097932
• License:
• Abstract: A well-balanced exploration-exploitation trade-off is crucial for successful acquisition functions in Bayesian optimization. However, there is a lack of quantitative measures for exploration, making it difficult to analyze and compare different acquisition functions. This work introduces two novel approaches - observation traveling salesman distance and observation entropy - to quantify the exploration characteristics of acquisition functions based on their selected observations. Using these measures, we examine the explorative nature of several well-known acquisition functions across a diverse set of black-box problems, uncover links between exploration and empirical performance, and reveal new relationships among existing acquisition functions. Beyond enabling a deeper understanding of acquisition functions, these measures also provide a foundation for guiding their design in a more principled and systematic manner.
• Abstract（参考訳）: ベイズ最適化における獲得関数の成功には、よくバランスのとれた探索・探索のトレードオフが不可欠である。 しかし、探索のための定量的な尺度が欠如しており、異なる取得機能の解析と比較が困難である。 本研究は, トラベリングセールスマン距離とオブザーバエントロピーの2つの新しいアプローチを導入し, その選択した観測結果に基づいて, 獲得関数の探索特性を定量化する。 これらの尺度を用いて,ブラックボックス問題にまたがるいくつかのよく知られた獲得関数の爆発的性質を検証し,探索と経験的性能の関係を明らかにするとともに,既存の獲得関数間の新たな関係を明らかにする。 取得機能のより深い理解を可能にするだけでなく、これらの措置は、より原則的で体系的な方法で設計を導くための基盤も提供します。

関連論文リスト

• Disentangling Exploration of Large Language Models by Optimal Exploitation [3.633554611703142]
  この作業は、探索を唯一の目的として分離し、エージェントに将来のリターンを高める情報の提供を任せる。 様々なモデルによる総合的な実験は、ほとんどの場合、状態空間を十分に探索するのに苦労していることを示している。 パラメータカウントと探索性能の正の相関を観測し,より大きなモデルで優れた性能を示す。
  論文  参考訳（メタデータ） (2025-01-15T16:30:29Z)
• Collaborative Knowledge Infusion for Low-resource Stance Detection [83.88515573352795]
  姿勢検出モデルを支援するために、ターゲット関連の知識がしばしば必要である。 低リソース姿勢検出タスクに対する協調的知識注入手法を提案する。
  論文  参考訳（メタデータ） (2024-03-28T08:32:14Z)
• Trial and Error: Exploration-Based Trajectory Optimization for LLM Agents [49.85633804913796]
  本稿では,ETOと呼ばれる探索に基づく軌道最適化手法を提案する。 この学習方法はオープンLLMエージェントの性能を向上させるために設計されている。 3つの複雑なタスクに関する実験は、ETOがベースライン性能をはるかに上回っていることを示す。
  論文  参考訳（メタデータ） (2024-03-04T21:50:29Z)
• Mastering the exploration-exploitation trade-off in Bayesian Optimization [0.2538209532048867]
  取得関数は、探索とエクスプロイトの間のバランスを評価するための次のソリューションの選択を駆動する。 本稿では,爆発的選択と搾取的選択のトレードオフを適応的に習得する,新たな獲得機能を提案する。
  論文  参考訳（メタデータ） (2023-05-15T13:19:03Z)
• Dynamic Exploration-Exploitation Trade-Off in Active Learning Regression with Bayesian Hierarchical Modeling [4.132882666134921]
  探査・探査を同時に検討する方法は、最適でないかもしれないトレードオフを制御するために、固定的またはアドホックな手段を同時に採用する。 我々は,BHEEMと呼ばれるベイズ的階層的アプローチを開発し,探査・探査のトレードオフを動的にバランスさせる。
  論文  参考訳（メタデータ） (2023-04-16T01:40:48Z)
• Guarantees for Epsilon-Greedy Reinforcement Learning with Function Approximation [69.1524391595912]
  エプシロングレーディ、ソフトマックス、ガウシアンノイズといった神秘的な探索政策は、いくつかの強化学習タスクにおいて効率的に探索することができない。 本稿では,このような政策を理論的に分析し,筋電図探索による強化学習のための最初の後悔とサンプル複雑度境界を提供する。
  論文  参考訳（メタデータ） (2022-06-19T14:44:40Z)
• Rectified Max-Value Entropy Search for Bayesian Optimization [54.26984662139516]
  我々は、相互情報の概念に基づいて、修正されたMES取得関数を開発する。 その結果、RMESは、いくつかの合成関数ベンチマークと実世界の最適化問題において、MESよりも一貫した改善を示している。
  論文  参考訳（メタデータ） (2022-02-28T08:11:02Z)
• Self-Attention Neural Bag-of-Features [103.70855797025689]
  我々は最近導入された2D-Attentionの上に構築し、注意学習方法論を再構築する。 本稿では,関連情報を強調した2次元目視マスクを学習する機能・時間的アテンション機構を提案する。
  論文  参考訳（メタデータ） (2022-01-26T17:54:14Z)
• Efficient Exploration in Binary and Preferential Bayesian Optimization [0.5076419064097732]
  BOアルゴリズムは,異なるタイプの不確かさを区別することが重要であることを示す。 本稿では,最先端のBO関数より優れた新たな獲得関数を提案する。
  論文  参考訳（メタデータ） (2021-10-18T14:44:34Z)
• Inverse Bayesian Optimization: Learning Human Search Strategies in a Sequential Optimization Task [0.10499611180329801]
  本稿では,ベイズ最適化の逆問題について考察する。 観察された探索経路に基づいてエージェントの潜時獲得関数を推定する。 実験から人間の行動を解析し,その方法を説明する。
  論文  参考訳（メタデータ） (2021-04-16T15:40:34Z)
• Understanding the origin of information-seeking exploration in probabilistic objectives for control [62.997667081978825]
  探索と探索のトレードオフは適応行動の記述の中心である。 このトレードオフを解決する1つのアプローチは、エージェントが固有の「探索駆動」を持っていることを装備または提案することであった。 汎用的最大化と情報参照行動の組み合わせは, 目的の全く異なる分類の最小化から生じることを示す。
  論文  参考訳（メタデータ） (2021-03-11T18:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。