論文の概要: Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents
- arxiv url: http://arxiv.org/abs/2608.17718v1
- Date: Tue, 18 Aug 2026 12:44:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.336486
- Title: Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents
- Title（参考訳）: 注意すべきステップを超えて: ロングホライゾンエージェントのオントロジー的信頼
- Abstract要約: 本稿では,軌道前置詞のタスク条件特性である存在論的信頼を導入し,それを RGE としてインスタンス化する。
RGEはロール、ゴール、エビデンスに沿って信頼を分解する。
我々はOSWorld, FinanceBench, EICU-ACからクロスドメイントラジェクトリコーパスを構築する。
- 参考スコア（独自算出の注目度）: 13.208673657449175
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long-horizon agents increasingly operate across many steps, tools, and observa- tions. In this setting, the relevant oversight question is not only whether each action is locally valid, but whether the evolving trajectory still corresponds to the task the user authorized. Drift can accumulate quietly: an agent may call the right tool with plausible arguments at every step, while its prefix moves toward a broader role, an adjacent objective, or evidence the user never supplied. Existing monitors mostly check local compliance, deliver final-trace verdicts, or score generic risk; they do not directly estimate this prefix-level relation. We introduce ontological trust, a task-conditioned property of trajectory prefixes, and instantiate it as RGE, an online monitor that decomposes trust along Role, Goal, and Evidence. RGE uses LLMs only to derive structured task and step representations; trust-state updates, projec- tions, and intervention decisions are deterministic, so the output is a replayable and auditable trust trajectory rather than a single end-to-end judge verdict. We construct a cross-domain trajectory corpus from OSWorld, FinanceBench, and EICU-AC, covering benign executions, prefix-paired drift, and pseudo-consistency failures. On this corpus, RGE outperforms adapted rule-, judge-, and shield-style baselines on prefix-paired drift detection. With the two larger estimator models, it exceeds 93% Drift F1 on every benchmark while keeping benign coverage at or above 95.8%. Pseudo-consistency is harder: detection depends on whether task completion is externally visible, a structural limit we characterize empirically.
- Abstract（参考訳）: ロングホライゾン・エージェントは、多くのステップ、ツール、およびオブザーバ・イオンをまたいでますます機能する。
この設定では、関連する監視問題は、各アクションが局所的に有効であるかどうかだけではなく、進化する軌跡が、ユーザが承認したタスクに対応しているかどうかである。
エージェントはすべてのステップで妥当な引数で正しいツールを呼び出し、プレフィックスはより広い役割、隣接する目的、あるいはユーザが提供しなかった証拠へと移動する。
既存のモニタは、主にローカルコンプライアンスをチェックしたり、最終トレースの判定を行ったり、一般的なリスクを記録したりする。
本稿では,軌道上の接頭辞のタスク条件である存在論的信頼を導入し,ロール,ゴール,エビデンスに沿った信頼を分解するオンラインモニタであるRGEとしてインスタンス化する。
RGEは、構造化されたタスクとステップ表現を導出するためにのみLLMを使用し、信頼状態のアップデート、プロジェクション、介入決定は決定論的であるため、出力は単一のエンドツーエンドの判断ではなく、再生可能で監査可能な信頼軌道である。
我々はOSWorld, FinanceBench, EICU-ACからドメイン間トラジェクトリコーパスを構築し, 良性実行, プレフィックスペアドリフト, 擬似一貫性障害をカバーした。
このコーパスでは、RGEはプレフィックスペアドドリフト検出に基づいてルール、判定、シールドスタイルのベースラインを適合させる。
2つの大きな推定器モデルでは、全てのベンチマークで93%のドリフトF1を上回り、95.8%以上で良質なカバレッジを維持している。
擬似一貫性は難しい: 検出は、タスク完了が外部から見えるか、我々が経験的に特徴づける構造的限界に依存する。
関連論文リスト
- One Step, One Lead: Mitigating Higher-Order Interference in Multi-Domain Reinforcement Learning via Cross-Step Control [62.82372407840088]
同点領域勾配は、連続的な更新が出力空間で部分的に逆転する場合においても、ほぼ一定であることを示す。
トークンレベルのリバウンドリスクをランク付けするために,各イテレーションでフォーカスドメインを指定するOSOLを提案する。
OSOLは0.4822のドメイン-マクロ平均に達し、最強の比較ベースラインよりも5.7%向上した。
論文 参考訳（メタデータ） (2026-09-06T08:32:59Z) - Automata from Agent Traces: Failure and Next-Step Prediction [1.16693435589939]
トレースコーパス全体を1つのコンパクト有限状態機械 (FSM) に分解し, LLM エージェントの挙動のための構造基板として機能する。
障害予測では、州ごとの行動特徴がAUROCで最大0.94まで到達し、オンラインのモニターが失敗点を通過点より上回っている。
論文 参考訳（メタデータ） (2026-08-24T17:58:01Z) - From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.44420701722915]
大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。
RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。
我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
論文 参考訳（メタデータ） (2026-08-17T01:40:14Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents [62.969415789328025]
LLMエージェントは、個々の良性行動のシーケンスを通じて、隠れた悪意のある目的を追求することができる。
既存のアプローチでは、1つのパスで完全な軌跡を評価するか、独立して評価されたウィンドウに分割する。
本研究では,長期LLMエージェントトラジェクトリのモニタリングフレームワークであるTRACEを提案する。
論文 参考訳（メタデータ） (2026-06-05T08:54:38Z) - Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback [38.251599309409]
我々は,悪質なツールが探索中に合理的に振る舞う,異なる障害モード,認知的中毒について検討する。
ファイナルアクションリスクスコアリングのためのバックボーンに依存しないフレームワークであるVISTA-Guardを提案する。
論文 参考訳（メタデータ） (2026-05-17T13:51:34Z) - ClawForge: Generating Executable Interactive Benchmarks for Command-Line Agents [59.626170560327274]
textbfClawForgeは、ステートコンフリクト下で実行可能なコマンドラインカテゴリのためのジェネレータベースのベンチマークフレームワークである。
私たちはこのフレームワークをClawForge-Bench(17のシナリオ、6の能力カテゴリ)としてインスタンス化します。
論文 参考訳（メタデータ） (2026-05-13T21:34:08Z) - AgentForesight: Online Auditing for Early Failure Prediction in Multi-Agent Systems [30.172832661173928]
LLMベースのマルチエージェントシステムは、長距離タスクにますますデプロイされている。
単一の決定的なエラーは、しばしば下流のエージェントやカスケードによって軌道レベルの障害として受け入れられる。
我々は,この問題をオンライン監査として再編成するフレームワークであるAgentForesightを紹介した。
論文 参考訳（メタデータ） (2026-05-09T05:55:19Z) - Beyond Input Guardrails: Reconstructing Cross-Agent Semantic Flows for Execution-Aware Attack Detection [32.301679396929536]
静的な入力フィルタリングから実行対応分析へ、防御パラダイムをシフトするフレームワークであるSysNameを提案する。
SysNameは断片化された操作プリミティブを連続した行動軌跡に合成し、システムアクティビティの全体像を可能にする。
実証的な評価により、SysNameは10以上の異なる複合攻撃ベクトルを効果的に検出し、それぞれノードレベルとパスレベルのエンドツーエンド攻撃検出に対して85.3%と66.7%のF1スコアを達成した。
論文 参考訳（メタデータ） (2026-03-04T01:59:16Z) - DRAFT: Task Decoupled Latent Reasoning for Agent Safety [59.46137757545185]
DRAFT(Task Decoupled Latent Reasoning for Agent Safety)を提案する。
エクストラクターは、完全な軌跡をコンパクトな連続的な潜伏ドラフトに蒸留し、リゾナーはドラフトと元の軌跡に共同で参加して安全性を予測する。
DRAFTの精度は63.27%(LoRA)から91.18%に向上した。
論文 参考訳（メタデータ） (2026-02-11T07:45:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。