論文の概要: What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
- arxiv url: http://arxiv.org/abs/2610.06406v1
- Date: Mon, 05 Oct 2026 14:25:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 08:36:32.410194
- Title: What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
- Title（参考訳）: エージェントが実際に何をしたのか : 長距離エージェントのエビデンス・グラウンド・オーバー監視
- Abstract要約: 本研究は,連続的な決定を識別し,ユーザがその意味を判断する上で有効な証拠を見つけるモニタについて検討する。
Evidence-Grounded Behavior Graph (EBG) は、ソースリンクされた証拠を行動にグループ化し、それらの関係をグラフにまとめる訓練自由な手法である。
EBGは、元のコンテキストへの直接アクセスと比較して、ほとんどの設定における決定の特定とエビデンスローカライゼーションを改善する。
- 参考スコア（独自算出の注目度）: 11.558123193212047
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As agents take on long-horizon tasks, users shift from making individual decisions to overseeing autonomous execution. Yet the volume of agent activity and the fragmentation of supporting evidence make it difficult to determine which decisions warrant user verification. We study monitors that identify consequential decisions and locate evidence to help users assess their implications. We introduce AgentMonBench, a software-engineering benchmark comprising three subsets that cover two complementary dimensions: alignment between requirements and behavior, and awareness of consequential autonomous decisions for verification. To support these judgments, we propose the Evidence-Grounded Behavior Graph (EBG), a training-free method that groups source-linked evidence into behaviors and organizes their relationships into a graph. EBG presents task-oriented views of this graph to help monitors interpret behavior in context. Experiments across eight models show that EBG improves decision identification and evidence localization in most settings compared with direct access to the original context. Further experiments show that EBG's evidence-localization gains persist across input scales and hyperparameter settings, while real-world applications illustrate its practical value for human oversight.
- Abstract（参考訳）: エージェントが長期のタスクを実行すると、ユーザーは個々の決定から自律的な実行を監督するようになる。
しかし,エージェントの活動量や証拠の断片化は,どの決定がユーザ認証を保証しているかを判断することが困難である。
本研究は,連続的な決定を識別し,ユーザがその意味を判断する上で有効な証拠を見つけるモニタについて検討する。
我々はAgentMonBenchという,要件と動作の整合性,検証のための連続的な自律的決定の認識という,2つの相補的な側面をカバーする3つのサブセットからなる,ソフトウェアエンジニアリングベンチマークを紹介した。
これらの判断を支援するために,ソースリンクされた証拠を行動にグループ化し,それらの関係をグラフに整理する学習自由な手法であるEvidence-Grounded Behavior Graph (EBG)を提案する。
EBGはこのグラフのタスク指向のビューを示し、コンテキストにおける解釈動作の監視を支援する。
8つのモデルを対象とした実験では、EBGは元のコンテキストに直接アクセスするよりも、ほとんどの設定において決定の特定と証拠のローカライゼーションを改善する。
さらに実験により、EBGのエビデンス・ローカライゼーションは入力スケールとハイパーパラメータ設定にまたがって持続し、実際の応用では人間の監視に実用的価値が示される。
関連論文リスト
- Terminal Agents: A Survey of AI Agents in Command-Line Environments [102.48222742145474]
大規模言語モデルエージェントは、ターミナルを通してますます行動するが、既存の調査は、ソフトウェア工学、ツールの使用、コンピュータ利用の研究にまたがって端末による振る舞いを分散させている。
我々は,端末エージェントを,端末コマンドの実行,テキストフィードバック,ステートフルな環境相互作用を介し,進行を伴う動作を主とするシステムとみなす。
我々の合成は、実現された行動はモデル、インターフェース、ハーネス、ランタイム、環境によって共同で形成されていることを示している。
論文 参考訳（メタデータ） (2026-08-20T18:16:44Z) - AgenticVAU: Multi-Agent Explore-Verify Reasoning for Video Anomaly Understanding [14.12320671130862]
本稿では,ビデオ異常理解のためのトレーニング不要なマルチエージェントフレームワークであるAgenticVAUを提案する。
視覚ルールの構築、探索計画、ビデオ観察、最終決定を扱うために、4つの特殊エージェントが導入された。
エージェントVAUは、十分な証拠が収集されるまで、広範囲の時間探査、密集した局所的検証、および相互比較をインターリーブする。
論文 参考訳（メタデータ） (2026-08-04T15:01:59Z) - From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents [56.187590188698955]
大規模言語モデルは、ますます有能な自律エージェントを可能にしてきたが、そのようなエージェントを実用的に有効にするためには、パーソナライズが不可欠である。
最近のベンチマークではエージェントのパーソナライゼーションの評価が始まっているが、それらは主に静的な選好スナップショット、固定されたインタラクションログ、あるいは事前に定義されたユーザプロファイルに対する質問応答に依存している。
縦断的相互作用履歴から構築した暗黙的行動アライメントのベンチマークであるIBA-Benchを紹介する。
IBA-Agentは、広範囲な検索と軌道レベルのアライメントを通じて競合する優先順位を調整するエージェントフレームワークである。
論文 参考訳（メタデータ） (2026-08-03T12:52:04Z) - How to Interpret Agent Behavior [56.59836196946289]
本稿では,エージェントの動作を実行時に記述・解析するための分類法であるACT*ONOMYを紹介する。
共用語彙を提供することで、ACT*ONOMYは研究者、エージェントデザイナー、エンドユーザーがエージェントの振る舞いをより一貫して解釈するのに役立つ。
論文 参考訳（メタデータ） (2026-05-13T14:52:40Z) - AJ-Bench: Benchmarking Agent-as-a-Judge for Environment-Aware Evaluation [71.49152943451328]
我々は,AJ-Benchベンチマークを導入し,ドメイン検索,データシステム,グラフィカルユーザインタフェースの3つの領域にまたがるエージェント・アズ・ア・Judgeを評価する。
実験ではLLM-as-a-Judgeベースラインよりも一貫したパフォーマンス向上を示し、エージェントベースの検証においてかなりオープンな課題を明らかにした。
論文 参考訳（メタデータ） (2026-04-20T13:23:38Z) - KnowU-Bench: Towards Interactive, Proactive, and Personalized Mobile Agent Evaluation [72.01173512175531]
KnowU-Benchはパーソナライズされたモバイルエージェントのためのオンラインベンチマークである。
42のGUIタスク、86のパーソナライズされたタスク、64のプロアクティブタスクをカバーしている。
明示的なタスク実行に優れるエージェントは、あいまいな指示の下で50%以下に低下する。
論文 参考訳（メタデータ） (2026-04-09T16:50:50Z) - Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces [0.0]
Agent Execution Record (AER) は構造化された推論プリミティブであり、すべてのステップで第一級クエリ可能なフィールドとしてインテント、観察、推論をキャプチャする。
AERが集団レベルの行動分析を可能にする方法を示す: 推論パターンマイニング、信頼度校正、クロスエージェント比較、モックリプレイによる反事実回帰テスト。
論文 参考訳（メタデータ） (2026-03-23T08:27:54Z) - Agentic Reward Modeling: Verifying GUI Agent via Online Proactive Interaction [7.731207237810125]
VAGENは、対話ツールを備えた検証エージェントを使用して、自律的に検証戦略を計画するフレームワークである。
VAGEN は LLM-as-a-Judge ベースラインと比較して評価精度が有意に向上することを示す。
論文 参考訳（メタデータ） (2026-01-31T07:36:54Z) - Learning to Seek Evidence: A Verifiable Reasoning Agent with Causal Faithfulness Analysis [10.749786847079163]
医学のような高度な領域におけるAIモデルの説明は、しばしば信頼性を欠いているため、信頼を妨げる可能性がある。
本稿では,対話型エージェントを提案する。
このポリシーは強化学習を用いて最適化され、効率的かつ一般化可能なモデルとなる。
論文 参考訳（メタデータ） (2025-11-03T10:21:35Z) - XBOUND: Exploring Capability Boundaries of Device-Control Agents at the State Level [43.73689966281675]
Device-Control Agents(DCエージェント)はグラフィカルユーザインタフェース(GUI)を管理する
状態ごとの命令完了の精度を評価するための新しい評価手法 XBOUND を提案する。
UI-TARSは最強の7Bモデルであり、現在のエージェントは命令統一においてバイモーダルなパフォーマンスパターンを示し、サブ7Bモデルは状態熟達において制限されている。
論文 参考訳（メタデータ） (2025-05-27T14:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。