論文の概要: Clearing the Fog: Towards Installing and Refining Proactive Exploration Capabilities in LLM Agents
- arxiv url: http://arxiv.org/abs/2608.14339v1
- Date: Fri, 14 Aug 2026 14:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.407268
- Title: Clearing the Fog: Towards Installing and Refining Proactive Exploration Capabilities in LLM Agents
- Title(参考訳): 霧の浄化--LLM剤の予備探索能力の確立と精製に向けて
- Abstract要約: 我々の手法は 先進的な探索を 具現化し 精巧にするための 新たな方法だ
本研究は,(1)標準実証の近視バイアスを軽減するために,探索に富んだ軌道を合成する探索データ構築,(2)コントラスト信号誘導を用いたRL最適化,そして,対照的な軌道対を利用して冗長な航法から生産的な航法を区別する。
- 参考スコア(独自算出の注目度): 108.55958466397932
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study proactive exploration in LLM agents, i.e., the ability to explore an environment to acquire information that improves future decision-making. In this regard, we first identify two fundamental bottlenecks that hinder this capability and then propose \ours, a novel method designed to instill and refine proactive exploration. Specifically, \ours\ consists of two components: (1) Exploratory Data Construction, which synthesizes exploration-rich trajectories to mitigate the hindsight bias of standard demonstrations; and (2) RL Optimization with Contrastive Signal Guidance, which leverages contrastive trajectory pairs to distinguish productive exploration from redundant wandering. Extensive experiments demonstrate the effectiveness of \ours\ and provide insights into the characteristics of proactive exploration. Our code is available at: https://github.com/GuanZhizhao/SAFARI.
- Abstract(参考訳): LLMエージェントの積極的な探索、すなわち、将来の意思決定を改善する情報を得るために環境を探索する能力について研究する。
この点に関して、我々はまずこの能力を阻害する2つの基本的なボトルネックを特定し、さらに前向きな探索を具現化し洗練するために設計された新しい方法である‘ours’を提案する。
具体的には,(1)標準実証の近視バイアスを軽減するために探索に富んだ軌道を合成する探索的データ構築,(2)コントラスト信号誘導を用いたRL最適化,(2)対照的な軌道対を利用して生産的な探索と冗長な移動を区別する。
大規模な実験は、'ours\の有効性を実証し、プロアクティブな探索の特徴に関する洞察を提供する。
私たちのコードは、https://github.com/GuanZhizhao/SAFARI.comで利用可能です。
関連論文リスト
- Path-level Hindsight Instructions for Semantic Exploration in Vision-Language Navigation [49.96273402030084]
Phi-Navは、後見推論を利用してエージェントの実際の探索旅行と指示を整合させる統合型オン政治フレームワークである。
Phi-Navは、政治的方法に固有の重要な意味的監督のギャップを埋め、意味的にラベルのない動きを密集した訓練信号に変換する。
論文 参考訳(メタデータ) (2026-07-02T06:11:07Z) - DiPO: Disentangled Perplexity Policy Optimization for Fine-grained Exploration-Exploitation Trade-Off [87.58233482504308]
Reinforcement Learning with Verifiable Rewards (RLVR)は、Large Language Models (LLMs)の推論能力に大きな進歩をもたらした。
本稿では, 訓練中の非常に硬く, 容易なサンプルの探索と利用のジレンマを十分に分析し, 新たな微細なトレードオフ機構を提案する。
論文 参考訳(メタデータ) (2026-04-15T14:12:10Z) - Language-based Trial and Error Falls Behind in the Era of Experience [50.503828360874536]
大きな言語モデル(LLM)は、言語ベースのエージェントタスクでは優れているが、見つからない非言語環境への適用性は依然として限られている。
本研究では,探索の禁止コストが主なボトルネックであることを示す。
セマンティック・エクスプロイトから探索を分離する新しいフレームワークであるSCOUTを提案する。
論文 参考訳(メタデータ) (2026-01-29T14:08:41Z) - Beyond the Exploration-Exploitation Trade-off: A Hidden State Approach for LLM Reasoning in RLVR [15.147456927849932]
RLVR(Reinforcement Learning for Verifiable Rewards)の一般的な見解は、探索・探索トレードオフのレンズを通して最近の進歩を解釈している。
我々はこの視点を再検討し、この認識されたトレードオフは基本的な制約ではなく、測定レベルの成果物である可能性を示唆している。
本稿では,相乗的探索・探索強化の原理を最初に運用する,Velocity-Exploiting Rank-Learning (VERL)を提案する。
論文 参考訳(メタデータ) (2025-09-28T11:14:58Z) - Deterministic Exploration via Stationary Bellman Error Maximization [6.474106100512158]
探索は強化学習(RL)の重要かつ特異な側面である
本稿では,後者を安定させ,決定論的探索政策に到達するための3つの修正点を紹介する。
実験結果から,本手法は高密度かつスパースな報酬設定において,$varepsilon$-greedyよりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-10-31T11:46:48Z) - Trial and Error: Exploration-Based Trajectory Optimization for LLM Agents [49.85633804913796]
本稿では,ETOと呼ばれる探索に基づく軌道最適化手法を提案する。
この学習方法はオープンLLMエージェントの性能を向上させるために設計されている。
3つの複雑なタスクに関する実験は、ETOがベースライン性能をはるかに上回っていることを示す。
論文 参考訳(メタデータ) (2024-03-04T21:50:29Z) - Curiosity & Entropy Driven Unsupervised RL in Multiple Environments [0.0]
オリジナル作品に5つの新しい修正を加えて実験する。
高次元環境では、好奇心による探索は、エージェントに多様な経験を求め、未知のものを探索するように促すことによって学習を促進する。
しかし、探索可能性に制約があり、エージェントに真に知られていないような、低次元でシンプルな環境では、その利点は限られている。
論文 参考訳(メタデータ) (2024-01-08T19:25:40Z) - Exploration in Deep Reinforcement Learning: A Comprehensive Survey [24.252352133705735]
Deep Reinforcement Learning (DRL)とDeep Multi-agent Reinforcement Learning (MARL)は、ゲームAI、自動運転車、ロボティクス、ファイナンスなど、幅広い領域で大きな成功を収めている。
DRLおよび深層MARLエージェントはサンプリング非効率であることが広く知られており、比較的単純なゲーム設定でも数百万のインタラクションが必要である。
本稿では,DRLおよび深部MARLにおける既存探査手法に関する総合的な調査を行う。
論文 参考訳(メタデータ) (2021-09-14T13:16:33Z) - Deep Reinforcement Learning for Adaptive Exploration of Unknown
Environments [6.90777229452271]
私達はUAVのための1つのステップで調査および搾取間のトレードオフに適応的な調査のアプローチを開発します。
提案手法では, 環境マップを小型でトラクタブルな地図に分解するために, マップセグメンテーション手法を用いる。
その結果,本提案手法は,ランダムに生成された環境をナビゲートし,ベースラインと比較してAoIを短時間でカバーできることが示された。
論文 参考訳(メタデータ) (2021-05-04T16:29:44Z) - Active Visual Information Gathering for Vision-Language Navigation [115.40768457718325]
視覚言語ナビゲーション(VLN)は、エージェントがフォトリアリスティックな環境の中でナビゲーションの指示を行うためのタスクである。
VLNの重要な課題の1つは、曖昧な指示による不確実性を緩和し、環境の観察を不十分にすることで、堅牢なナビゲーションを行う方法である。
この研究は、人間のナビゲーション行動からインスピレーションを得て、よりインテリジェントなVLNポリシーのためのアクティブな情報収集能力を持つエージェントを提供する。
論文 参考訳(メタデータ) (2020-07-15T23:54:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。