論文の概要: Planning Commitment of LLM under Partial Observability

• arxiv url: http://arxiv.org/abs/2610.21108v2
• Date: Sat, 17 Oct 2026 01:47:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 21:22:33.494437
• Title: Planning Commitment of LLM under Partial Observability
• Title（参考訳）: 部分観測可能性下におけるLCMの計画コミットメント
• Abstract要約: LLMベースの計画エージェントは、部分的に観測可能な環境と相互作用する前に、異なる長さの計画にコミットする。 観察されていない州に関する仮定に基づく長期計画に積極的にコミットする者もいれば、観察したものだけを保守的に計画する者もいる。 この選択は、系統的にも制御不可能なトレードオフである効率性に対して安全性を損なう。
• 参考スコア（独自算出の注目度）: 22.19227318233679
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: LLM-based planning agents commit to plans of different lengths before interacting with a partially observable environment. Some aggressively commit to a long plan based on assumptions about unobserved states, while others conservatively plan only over what they have observed. Both behaviors emerge implicitly in pre-trained models, whether the LLM outputs a plan directly or generates a PDDL formulation for a classical solver. Aggressive commitment risks costly failures, while conservative commitment risks excessive LLM calls. This choice pits safety against efficiency, a trade-off that has been neither characterized systematically nor made controllable. We investigate aggressive and conservative LLM planners and formalizers on two partially observable domains, where priors are provided as either explicit statistics or common-sense knowledge. Across three LLMs, both strategies reach similar accuracy. Conservative methods achieve fewer failed attempts (safety) at the cost of more API calls (efficiency). Aggressive methods fail more often but replan efficiently only when priors are informative. Interestingly, analysis shows that LLMs treat the provided priors nearly as facts, which risks failure when priors are unreliable. We also explore hybrid strategies with tunable hyperparameters that adjust the balance between safety and efficiency.
• Abstract（参考訳）: LLMベースの計画エージェントは、部分的に観測可能な環境と相互作用する前に、異なる長さの計画にコミットする。 観察されていない州に関する仮定に基づく長期計画に積極的にコミットする者もいれば、観察したものだけを保守的に計画する者もいる。 どちらの行動も、LLMが計画を直接出力するか、古典的な解法のためにPDDLの定式化を生成するか、事前訓練されたモデルで暗黙的に現れる。 攻撃的なコミットメントはコストのかかる失敗を、保守的なコミットメントはLSMの過剰な呼び出しをリスクにします。 この選択は、系統的にも制御可能でもないトレードオフである効率に対する安全性を損なう。 本研究では,2つの部分観測可能な領域における積極的かつ保守的なLSMプランナとフォーミュラについて検討する。 3つのLSMで、どちらの戦略も同様の精度に達する。 保守的なメソッドは、より多くのAPI呼び出し(効率)を犠牲にして、失敗した試み(安全)を減らします。 攻撃的手法はより頻繁に失敗するが、事前情報がある場合にのみ効率的に再計画する。 興味深いことに、LCMは提供された前例をほぼ事実として扱い、前例が信頼できない場合に失敗する可能性がある。 また、安全と効率のバランスを調整するための調整可能なハイパーパラメータによるハイブリッド戦略についても検討する。

関連論文リスト

• Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
  データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。 本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
  論文  参考訳（メタデータ） (2025-11-09T03:38:29Z)
• Realizing LLMs' Causal Potential Requires Science-Grounded, Novel Benchmarks [20.409472830397455]
  因果発見に関するLLM(Large Language Models)による最近の強いパフォーマンスの主張は、重要な欠陥によって損なわれている。 LLMは因果構造を本当に理由付けていますか? LLMの因果解析の可能性を実現するには、(P.1)最近の科学的研究に基づく堅牢な評価プロトコルを開発し、(P.2)LLM由来の知識とデータ駆動統計を組み合わせたハイブリッドな手法を設計することが必要である。
  論文  参考訳（メタデータ） (2025-10-18T14:58:04Z)
• Evaluating Uncertainty-based Failure Detection for Closed-Loop LLM Planners [10.746821861109176]
  大型言語モデル(LLM)は、ロボットタスクのためのゼロショットタスクプランナーとして、目覚ましいパフォーマンスをみせている。 しかし、以前の研究のオープンループの性質は、LSMベースの計画がエラーを起こしやすく、脆弱である。 本研究では,不確実性に基づくMLLM故障検出装置をベースとした,閉ループLLMに基づくKnowLoop計画のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-01T12:52:06Z)
• Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration [68.29746557968107]
  本稿では,多エージェント協調のための新しいフレームワークを提案する。これは,効率的な自己調整のための強化アドバンテージフィードバック(Reinforced Advantage feedback, ReAd)を導入する。 Over-AIと難解なRoCoBenchの実験は、ReAdが成功率のベースラインを超え、エージェントの相互作用ステップを著しく減少させることを示している。
  論文  参考訳（メタデータ） (2024-05-23T08:33:19Z)
• Uncovering Safety Risks of Large Language Models through Concept Activation Vector [13.804245297233454]
  大規模言語モデル(LLM)に対する攻撃を誘導する安全概念活性化ベクトル(SCAV)フレームワークについて紹介する。 そこで我々は,攻撃プロンプトと埋め込みレベルの攻撃の両方を生成できるSCAV誘導攻撃法を開発した。 本手法は,トレーニングデータが少なくなるとともに,攻撃成功率と応答品質を著しく向上させる。
  論文  参考訳（メタデータ） (2024-04-18T09:46:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。