論文の概要: Bootstrap Flow-Map Tree Sampling Enables Online Feedback Driven Search
- arxiv url: http://arxiv.org/abs/2607.02915v1
- Date: Fri, 03 Jul 2026 03:21:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.45745
- Title: Bootstrap Flow-Map Tree Sampling Enables Online Feedback Driven Search
- Title(参考訳): オンラインフィードバック駆動検索を可能にするBootstrap Flow-Map Treeのサンプリング
- Abstract要約: 本稿では,Bootstrap Flow-Map-Tree (BFMT)を紹介した。
BFMTは単一関数評価を用いて任意の木の深さから完全な木道構築を可能にする。
多様な探索およびアライメントタスクにわたる大規模な実験と改善は、BFMTがベースラインアプローチを大幅に上回っていることを示す。
- 参考スコア(独自算出の注目度): 26.617381371184635
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In many scientific and engineering domains, maximizing discovery within a limited sampling budget demands strategic, observation-guided exploration. While generative models have enabled training-free reward alignment, current methods typically excel in local searches within narrow regions of the underlying distribution. These approaches struggle when preferences are unknown a priori and only revealed through sequential feedback-a scenario demanding broad exploration to uncover high-utility regions. To address this, we introduce Bootstrap Flow-Map-Tree (a.k.a BFMT), a novel computationally efficient sampling framework designed for history-aware global search and alignment under sampling budget constraints. BFMT enables full tree-path construction from any tree depth using a single function evaluation, drastically reducing computational overhead while providing critical foresight for sequential sampling. By enabling dynamic transition time steps scheduling, BFMT efficiently allocates its sampling budget, smoothly transitioning from broad global exploration to fine-grained local refinement of high-utility modes discovered through exploration. Extensive experiments and ablations across diverse search and alignment tasks demonstrate that BFMT substantially outperforms baseline approaches.
- Abstract(参考訳): 多くの科学・工学分野において、限られたサンプリング予算内での発見を最大化するためには、戦略的、観測誘導的な探索が必要である。
生成モデルはトレーニング不要な報酬アライメントを可能にしているが、現在の手法は一般に、基礎となる分布の狭い領域内の局所的な探索において優れている。
これらのアプローチは、優先順位が不明で、シーケンシャルなフィードバックによってのみ明らかにされる場合に苦労する。
この問題を解決するためにBootstrap Flow-Map-Tree(別名BFMT)を紹介した。
BFMTは1つの関数評価を用いて木の深さから完全な木道構築を可能にし、逐次サンプリングのための重要な監視を提供しながら、計算オーバーヘッドを大幅に削減する。
動的遷移時間ステップのスケジューリングを可能にすることにより、BFMTはサンプリング予算を効率的に配分し、広い地球規模の探査から探索を通して発見された高ユーティリティモードのきめ細かい局所的な精細化へとスムーズに移行する。
多様な探索およびアライメントタスクにわたる大規模な実験と改善は、BFMTがベースラインアプローチを大幅に上回っていることを示す。
関連論文リスト
- LATS: Levy Adaptive Tree Sampling for Feedback-Driven Diverse Target Discovery [27.918142160227713]
Levy Adaptive Tree Search (LATS)は、オンラインフィードバック駆動検索のための原則的なサンプリングフレームワークである。
LATSはサンプルの忠実度と構造的多様性を保ちながら、低濃度で高ユーティリティな領域の発見に成功した。
論文 参考訳(メタデータ) (2026-09-06T18:00:02Z) - An Efficient Beam Search Algorithm for Active Perception in Mobile Robotics [10.002920418375007]
アクティブな知覚は、ロボットがどこに移動するかを判断しなければならない自律ロボット工学の基本的な問題である。
既存のアプローチは、計算に費用がかかる旅行問題を過剰に選択した情報ノードで解決するか、より効率的だが過度に制約された最短経路木の定式化を採用するかのどちらかである。
本稿では,ノード毎の上位B候補を効率的に探索するノードワイズビームサーチ(NBS)アルゴリズムを提案する。
第2の貢献として、フロンティアの概念を経路選択基準に統合し、期待される利得指標を導入する。
第3の貢献は、高速探索ランダムアンラスグラフ(R)の提案である。
論文 参考訳(メタデータ) (2026-04-25T14:35:11Z) - DeepSearch: Overcome the Bottleneck of Reinforcement Learning with Verifiable Rewards via Monte Carlo Tree Search [53.27052683356095]
我々はモンテカルロ木探索を直接RLVRトレーニングに統合するフレームワークであるDeepSearchを紹介する。
推論時にのみツリー検索に依存する既存のメソッドとは対照的に、DeepSearchは構造化された検索をトレーニングループに埋め込む。
コントリビューションには,(1)検索ツリー全体にわたって有望なノードを優先するグローバルフロンティア選択戦略,(2)監督のための確実なパスを識別するエントロピーベースのガイダンスによる選択,(3)効率的なソリューションキャッシングによる適応的リプレイバッファトレーニングなどが含まれている。
論文 参考訳(メタデータ) (2025-09-29T20:00:29Z) - Navigating in High-Dimensional Search Space: A Hierarchical Bayesian Optimization Approach [0.7737746260673106]
HiBOは,グローバルレベルの検索空間分割情報をローカルBOベースの取得戦略に統合した,新しい階層型アルゴリズムである。
一連の評価は、HiBOが高次元の合成ベンチマークにおいて最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2024-10-30T16:04:16Z) - Action abstractions for amortized sampling [49.384037138511246]
本稿では、政策最適化プロセスに行動抽象化(高レベルの行動)の発見を組み込むアプローチを提案する。
我々のアプローチでは、多くの高次軌道にまたがってよく使われるアクション列を反復的に抽出し、それらをアクション空間に追加する単一のアクションにチャンキングする。
論文 参考訳(メタデータ) (2024-10-19T19:22:50Z) - LiteSearch: Efficacious Tree Search for LLM [70.29796112457662]
本研究では,動的ノード選択とノードレベルの探索予算を備えた新しいガイド付き木探索アルゴリズムを提案する。
GSM8KおよびTabMWPデータセットを用いて行った実験により,本手法はベースライン法に比べて計算コストが大幅に低いことを示した。
論文 参考訳(メタデータ) (2024-06-29T05:14:04Z) - Maximize to Explore: One Objective Function Fusing Estimation, Planning,
and Exploration [87.53543137162488]
我々はtextttMEX というオンライン強化学習(オンラインRL)フレームワークを提案する。
textttMEXは、自動的に探索エクスプロイトのバランスをとりながら、見積もりと計画コンポーネントを統合する。
様々な MuJoCo 環境では,ベースラインを安定的なマージンで上回り,十分な報酬を得られる。
論文 参考訳(メタデータ) (2023-05-29T17:25:26Z) - On Reward-Free RL with Kernel and Neural Function Approximations:
Single-Agent MDP and Markov Game [140.19656665344917]
エージェントが事前に特定された報酬関数を使わずに環境を徹底的に探索することを目的とした報酬のないRL問題について検討する。
関数近似の文脈でこの問題に取り組み、強力な関数近似器を活用する。
我々は、カーネルとニューラルファンクション近似器を用いた、証明可能な効率の良い報酬なしRLアルゴリズムを確立した。
論文 参考訳(メタデータ) (2021-10-19T07:26:33Z) - MADE: Exploration via Maximizing Deviation from Explored Regions [48.49228309729319]
オンライン強化学習(RL)では、高次元環境における効率的な探索は依然として困難であり、報酬は少ない。
調査地域からの次の政策の逸脱を最大化することによる新たな探索手法を提案する。
提案手法は,最先端手法よりもサンプル効率を著しく向上させる。
論文 参考訳(メタデータ) (2021-06-18T17:57:00Z) - Autonomous UAV Exploration of Dynamic Environments via Incremental
Sampling and Probabilistic Roadmap [0.3867363075280543]
インクリメンタルサンプリングと確率的ロードマップ(PRM)を用いた未知環境探索のための新しい動的探索プランナ(DEP)を提案する。
本手法は, 動的環境を安全に探索し, 探索時間, 経路長, 計算時間でベンチマークプランナーより優れている。
論文 参考訳(メタデータ) (2020-10-14T22:52:37Z) - Dynamic Subgoal-based Exploration via Bayesian Optimization [7.297146495243708]
スパース・リワードナビゲーション環境における強化学習は困難であり、効果的な探索の必要性を生じさせる。
本稿では,動的サブゴールに基づく探索手法のクラスを効率的に探索する,費用対効果を考慮したベイズ最適化手法を提案する。
実験により、新しいアプローチは、多くの問題領域で既存のベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2019-10-21T04:24:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。