論文の概要: Agentic Abstention: Do Agents Know When to Stop Instead of Act?

• arxiv url: http://arxiv.org/abs/2606.28733v1
• Date: Sat, 27 Jun 2026 04:49:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.671302
• Title: Agentic Abstention: Do Agents Know When to Stop Instead of Act?
• Title（参考訳）: エージェントの嫌がらせ:エージェントは行為ではなくいつ停止するかを知っているか?
• Abstract要約: LLMエージェントは、検索、ブラウジングインターフェース、端末ツールを使用して、複数のターンで動作することが期待されている。 エージェントが不確実性の下で行動するのをやめるべきかどうかを決定する問題であるエージェント・アポテンションを定義する。 本研究では,Webショッピング,端末環境,質問応答において,13のLLM-as-agentシステムと28,000以上のタスクで2つのエージェント・足場を評価する。
• 参考スコア（独自算出の注目度）: 13.780119058961331
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents are expected to act over multiple turns, using search, browsing interfaces, and terminal tools to complete user goals. Yet not every goal is well specified or achievable in the available environment. In such cases, a reliable agent should recognize that further interaction is unlikely to help and abstain from additional tool calls. We define Agentic Abstention, the problem of deciding when an agent should stop acting under uncertainty. Unlike standard LLM abstention, which is usually evaluated as a single-turn answer-or-abstain decision, agentic abstention is a sequential decision problem: an agent can answer, abstain, or gather more information at each turn, and the need to abstain may only become clear after interacting with the environment. We study this problem across web shopping, terminal environments, and question answering, evaluating 13 LLM-as-agent systems and 2 agent scaffolds on more than 28,000 tasks. Our results show that the main challenge is not only whether agents can abstain, but also when they abstain. Some agents never abstain when they should, while others do so only after many unnecessary interactions. This gap is especially large on tasks where the instruction appears feasible until the environment reveals otherwise (e.g., no valid result matches the instruction). We further find that model scale, reasoning, and agent scaffolding affect abstention in different ways, where larger or more capable models sometimes perform worse at timely abstention. Finally, we introduce CONVOLVE, a context engineering method for improving agentic abstention that distills full interaction trajectories into reusable stopping rules. On WebShop, CONVOLVE substantially improves timely abstention without updating model parameters, raising Llama-3.3-70B's timely recall rate from 26.7 to 57.4. Our dataset and code are available at https://lhannnn.github.io/agentic-abstention
• Abstract（参考訳）: LLMエージェントは、検索、ブラウジングインターフェース、端末ツールを使用して、複数のターンで動作することが期待されている。 しかし、すべてのゴールが十分に定義されたり、利用可能な環境で達成できるわけではない。 そのような場合、信頼できるエージェントは、さらなるインタラクションが助けになりそうになく、追加のツール呼び出しを控えていることを認識しなければなりません。 エージェントが不確実性の下で行動するのをやめるべきかどうかを決定する問題であるエージェント・アポテンションを定義する。 通常、一ターンの回答または持続可能な判断として評価される標準のLCM棄権とは違い、エージェントの棄権は、逐次的な決定問題である:エージェントは各ターンで回答、棄権、あるいはより多くの情報を集めることができ、棄権する必要性は環境と対話した後のみ明確になる。 本研究では,Webショッピング,端末環境,質問応答において,13 LLM-as-agentシステムと28,000以上のタスクにおけるエージェント足場の評価を行った。 以上の結果から, エージェントが棄権できるかどうかだけでなく, エージェントが棄権できるかどうかも大きな課題であることが示唆された。 一部のエージェントは、いつ停止するかを決して排除しないが、他のエージェントは、多くの不要な相互作用の後にのみそうする。 このギャップは、環境が明らかになるまで命令が実行可能であるように見えるタスクにおいて特に大きい(例えば、有効な結果が命令と一致しない)。 さらに、モデルスケール、推論、エージェントの足場が様々な方法で禁忌に影響を及ぼすことがわかりました。 最後に,ConVOLVEを紹介した。ConVOLVEは,完全な相互作用軌跡を再利用可能な停止規則に蒸留するエージェント禁忌を改善するためのコンテキストエンジニアリング手法である。 WebShopでは、ConVOLVEはモデルパラメータを更新せずにタイムリーな停止率を大幅に改善し、Llama-3.3-70Bのタイムリーなリコールレートを26.7から57.4に引き上げた。 私たちのデータセットとコードはhttps://lhannnn.github.io/agentic-abstentionで利用可能です。

関連論文リスト

• 2AM: Grounding Agent-Side Memory as Guidance for Steerable Action Models in Long-Horizon Manipulation [6.040186174770221]
  ロングホライズンロボットの操作はメモリを必要とするが、必ずしもアクションポリシーの範囲内ではない。 2AMは、マルチモーダルエージェントをタスクメモリの唯一のホルダーとし、単一のRGBベースの、エピソード的にステートレスなアクションモデルをタスク関連モーションの唯一のエグゼキュータにする。 LIBERO-Memでは、深さ、オンライン幾何、またはプランナーに基づく物体の動きが76.3%に達し、最強のベースラインである14.8%を61.5ポイント改善し、63.0%の緩和と11.8%の厳密な成功を達成している。
  論文  参考訳（メタデータ） (2026-09-10T09:35:56Z)
• From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents [56.187590188698955]
  大規模言語モデルは、ますます有能な自律エージェントを可能にしてきたが、そのようなエージェントを実用的に有効にするためには、パーソナライズが不可欠である。 最近のベンチマークではエージェントのパーソナライゼーションの評価が始まっているが、それらは主に静的な選好スナップショット、固定されたインタラクションログ、あるいは事前に定義されたユーザプロファイルに対する質問応答に依存している。 縦断的相互作用履歴から構築した暗黙的行動アライメントのベンチマークであるIBA-Benchを紹介する。 IBA-Agentは、広範囲な検索と軌道レベルのアライメントを通じて競合する優先順位を調整するエージェントフレームワークである。
  論文  参考訳（メタデータ） (2026-08-03T12:52:04Z)
• AgentAbstain: Do LLM Agents Know When Not to Act? [19.223843408018997]
  既存の評価は、エージェントがいつ禁じるべきかを知るのではなく、タスクの成功に焦点を当てている。 エージェント禁忌のための最初の体系的評価枠組みとして,ツールを用いたLDMエージェントの動作を検知するキャリブレーション能力について述べる。 AgentAbstainは、エージェントネイティブな分類に基づくペアタスクのベンチマークである。
  論文  参考訳（メタデータ） (2026-07-11T00:57:36Z)
• Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
  アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。 我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。 我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
  論文  参考訳（メタデータ） (2026-06-22T11:36:58Z)
• Misinformation Propagation in Benign Multi-Agent Systems [11.967259729189388]
  マルチエージェントシステムは、医学的診断、法的な分析、法医学的な意思決定など、ハイテイクな環境にますます導入されている。 彼らの信頼性は、単一のエージェントが誤った、あるいは誤解を招くコンテキストから推論した場合、危険にさらされる可能性がある。 本研究は、意図に基づく誤報を良性単エージェントおよび多エージェントシステムに注入することにより、このリスクを研究する。
  論文  参考訳（メタデータ） (2026-06-15T13:40:01Z)
• Ask Now, Use Later: Benchmarking the Proactivity Gap in Long-Lived LLM Agents [18.132295539880896]
  LLMエージェントは、現在の要求だけでなく、セッション間でユーザーの好みに作用することで、その価値を得る。 しかし、今日のエージェントは、ユーザーがボランティアしているものを保ちますが、何があっても構わないのかを尋ねることはめったにありません。 ユーザーがより多くの問題をエージェントに委譲するにつれ、このギャップの影響は増大する。 ATRBenchは、各ユーザの好みを隠れた土台真理として固定することで測定できる。
  論文  参考訳（メタデータ） (2026-05-27T08:00:58Z)
• Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems [60.79651380135334]
  長寿命のAIエージェントは、永続的な運用システムとしてますますデプロイされる。 エージェントはデプロイ後、いつまで信頼できるのか? エージェントライフスパンエンジニアリングのための縦型信頼性ベンチマークであるAgingBenchを紹介する。
  論文  参考訳（メタデータ） (2026-05-25T19:55:12Z)
• Persuasion Propagation in LLM Agents [23.64887423923855]
  教義レベルの介入が下流の作業行動にどのように影響するかを考察する。 ウェブ調査やコーディングタスクを通じて、オンザフライの説得は弱く一貫性のない行動効果をもたらすことが判明した。 信念状態がタスク時に明示的に指定されると、信念に満たされたエージェントは、平均26.9%の検索率で行動し、16.9%のユニークソースを中立に満たされたエージェントより訪問する。
  論文  参考訳（メタデータ） (2026-01-31T18:33:14Z)
• Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
  TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。 TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。 We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
  論文  参考訳（メタデータ） (2025-10-06T05:03:57Z)
• Agent-Based Detection and Resolution of Incompleteness and Ambiguity in Interactions with Large Language Models [0.9856777842758593]
  本稿では, LLMに基づく質問応答システムにエージェント・ベース・アーキテクチャを付加的な推論能力で活用することを検討した。 我々は、不完全性と曖昧性の欠陥を検知し解決する専門家として働くエージェントを、異なるLLMに装備する。 エージェントベースのアプローチを提案することは、LLMのパワーを利用してより堅牢なQAシステムを開発するための有用なメカニズムである。
  論文  参考訳（メタデータ） (2025-07-04T17:28:33Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)
• On the Use and Misuse of Absorbing States in Multi-agent Reinforcement Learning [55.95253619768565]
  現在のMARLアルゴリズムは、実験を通してグループ内のエージェントの数が固定されていると仮定している。 多くの実践的な問題において、エージェントはチームメイトの前に終了する可能性がある。 本稿では,吸収状態を持つ完全連結層ではなく,注意を用いた既存の最先端MARLアルゴリズムのアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-11-10T23:45:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。