論文の概要: Rational Clarification by Assistive Agents via Value-of-Information Reasoning

• arxiv url: http://arxiv.org/abs/2609.37588v1
• Date: Tue, 29 Sep 2026 13:44:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.577509
• Title: Rational Clarification by Assistive Agents via Value-of-Information Reasoning
• Title（参考訳）: 情報推論による補助剤の合理的解明
• Abstract要約: 一般的なアプローチは、しきい値に達するまでユーザの意図に対する不確実性を最小限に抑えるような質問をすることである。 これは下流の性能に対する不確実性低減の影響を無視する。 本稿では,REVOIR(Value-of-Information Reasoning)による合理性問合せについて紹介する。 REVOIRは、質問の価値についての推論時間推論を通じて、明確化決定を行う。
• 参考スコア（独自算出の注目度）: 32.61952851391211
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Users of language-based assistive agents often make ambiguous requests. In response, an assistant can either directly act on its interpretation of the request --- risking misalignment with the user --- or ask a clarifying question. Which option is the most safe and helpful? A common approach is to ask questions that minimize uncertainty about the user's intent until a threshold is reached. However, this neglects the impact of uncertainty reduction on downstream performance, the costs of asking versus acting immediately, and the possibility that users may provide corrections without being asked. To navigate these trade-offs, we introduce Rational Enquiry via Value-of-Information Reasoning (REVOIR). REVOIR makes clarification decisions via inference-time reasoning about the value-of-information of a question, which captures the expected improvement in task reward due to the answer received. In two assistive tasks --- ambiguous question answering (CondAmbigQA) and preference-aligned household task planning (ADAPT) --- we show that REVOIR achieves greater success with fewer questions than approaches based on prompting, chain-of-thought, fine-tuning, or information gain, improving preference satisfaction on ADAPT by 13-15% over a fine-tuned clarification policy while requiring no training and asking five times fewer questions. Furthermore, when the assistant can receive cheap user corrections after acting, REVOIR naturally infers that asking questions is not always efficient, demonstrating the adaptivity of our approach. In contrast, we find that vanilla reasoning agents fail to adaptively clarify user requests, and request fewer clarifications as reasoning effort increases.
• Abstract（参考訳）: 言語ベースの補助エージェントのユーザは、しばしばあいまいな要求をする。 応答として、アシスタントは、リクエストの解釈 -- ユーザとのミスアライメントのリスク -- を直接実行したり、明確な質問をすることができる。 どの選択肢が最も安全で役に立つのか? 一般的なアプローチは、しきい値に達するまでユーザの意図に対する不確実性を最小限に抑えるような質問をすることである。 しかし、これは下流性能に対する不確実性低減の影響、即時行動に対する質問のコスト、利用者に頼まれることなく修正を施す可能性を無視している。 これらのトレードオフをナビゲートするために,REVOIR(Value-of-Information Reasoning)を通じてRational Enquiryを導入する。 REVOIRは、質問の価値についての推論時推論を通じて明確化決定を行う。 2つの補助的タスク -- あいまいな質問応答(CondAmbigQA)と嗜好に整合した家庭内課題計画(ADAPT) -- において、REVOIRは、インプット、チェーン、微調整、情報ゲインに基づくアプローチよりも、より少ない質問でより大きな成功を達成し、微調整の明確化政策を13～15%改善し、トレーニングを必要とせず、5倍の質問を要求しながら、ADAPTの嗜好満足度を13～15%向上することを示します。 さらに、演技後に安価なユーザ修正を得られる場合、REVOIRは、質問が常に効率的であるとは限らないことを自然に推測し、我々のアプローチの適応性を実証する。 対照的に、バニラ推論エージェントは、ユーザの要求を適応的に明らかにすることができず、推論の取り組みが増加するにつれて、より明確化を要求できる。

関連論文リスト

• One More Turn, Less Regret: A Regret-Based Multi-Turn Benchmark for LLMs' Clarification Policies [49.067670811577045]
  本稿では,孤立した質問品質ではなく,政策行動として明確化を評価するベンチマークであるRegretBenchを紹介する。 RegretBenchは、意図的な解決、相互作用コスト、非効率な明確化、後悔を計測する。 以上の結果から,有効な明確化には有望な質問以上のものが必要であることが示唆された。
  論文  参考訳（メタデータ） (2026-07-23T10:22:11Z)
• Clarification Is Not Enough: Post-Clarification Answering Remains the Bottleneck in Multi-Turn QA [14.475086992410276]
  課題を2つの要素に分解することで,多ターン質問応答における選好誘導の問題について検討する。 PACIFICベンチマークを用いて、教師付き微調整が明確化ポリシーを急速に改善することを示したが、モデルが正しい動作を取る場合でも、最終的な解答精度は著しく低いままである。
  論文  参考訳（メタデータ） (2026-05-24T18:06:09Z)
• Asking What Matters: Reward-Driven Clarification for Software Engineering Tasks [49.47167381167488]
  我々は,どの情報がタスクの成功に最も影響するか,どの質問がシミュレーションユーザから有用な応答を引き出すのかを定量化する。 共有属性と分布比較を用いて,タスク関連性(成功を予測する情報)とユーザ応答性という,効果的な明確化の2つの重要な特性を同定する。 我々は,これらの特性を多段階強化学習報酬として運用し,GPT-5の分解能率と未特定問題との整合性を示す8Bパラメータ明確化モジュールであるCLARITIを訓練する。
  論文  参考訳（メタデータ） (2026-04-16T05:11:02Z)
• Value of Information: A Framework for Human-Agent Communication [34.068772934008244]
  大きな言語モデル(LLM)エージェントは基本的なジレンマに直面している: ユーザ要求は不明確だが、エージェントは不完全な情報に対処するか、明確化のためにユーザーを中断するかを決定する必要がある。 我々は、情報の価値(VoI)を通じてこのトレードオフを解決する決定論的枠組みを導入する。 我々は、VoIが手作業で調整された最高のベースラインと一貫して一致し、高いコスト設定で最大1.36のユーティリティポイントを達成することを示す。
  論文  参考訳（メタデータ） (2026-01-10T03:07:41Z)
• Learning Steerable Clarification Policies with Collaborative Self-play [67.67872810596839]
  不明瞭なクエリを処理するために、AIアシスタントは不確実性を管理するためのポリシーが必要である。 我々は,この不確実性を管理するために,自己再生を用いて評価可能な政策を訓練することを提案する。 このことが、提供されたコストに応じて予測可能な振る舞いを変更する、評価可能なポリシーにつながることを示す。
  論文  参考訳（メタデータ） (2025-12-03T18:49:54Z)
• CLARINET: Augmenting Language Models to Ask Clarification Questions for Retrieval [52.134133938779776]
  CLARINETは,回答が正しい候補の確実性を最大化する質問を選択することで,情報的明確化を問うシステムである。 提案手法は,大規模言語モデル(LLM)を検索分布の条件付きで拡張し,各ターンで真の候補のランクを最大化する問題を生成する。
  論文  参考訳（メタデータ） (2024-04-28T18:21:31Z)
• Clarify When Necessary: Resolving Ambiguity Through Interaction with LMs [58.620269228776294]
  そこで本稿では,ユーザに対して,あいまいさを解消するためのタスク非依存のフレームワークを提案する。 我々は3つのNLPアプリケーション(質問応答、機械翻訳、自然言語推論)にまたがるシステムを評価する。 インテントシムは堅牢であり、幅広いNLPタスクやLMの改善を実証している。
  論文  参考訳（メタデータ） (2023-11-16T00:18:50Z)
• Review-guided Helpful Answer Identification in E-commerce [38.276241153439955]
  製品固有のコミュニティ質問応答プラットフォームは、潜在的な顧客の懸念に対処するのに大いに役立ちます。 このようなプラットフォーム上でユーザが提供する回答は、その品質に大きく違いがあります。 コミュニティからのヘルプフルネスの投票は、回答の全体的な品質を示すことができるが、しばしば欠落している。
  論文  参考訳（メタデータ） (2020-03-13T11:34:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。