論文の概要: When Agents Act Unwatched: The Reduced-Supervision Paradox in Agentic AI
- arxiv url: http://arxiv.org/abs/2609.29547v1
- Date: Fri, 28 Aug 2026 19:48:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.071593
- Title: When Agents Act Unwatched: The Reduced-Supervision Paradox in Agentic AI
- Title（参考訳）: エージェントが監視されないとき:エージェントAIにおけるスーパービジョンのパラドックス
- Abstract要約: エージェントのアクションサーフェスは,アクションに対して応答するメカニズムよりもはるかに容易に再構築できることがわかった。
有意義な介入が不可能な場合,ユーザへの検証の移行によって,可観測性は説明責任の代用になり得る,と我々は主張する。
- 参考スコア（独自算出の注目度）: 2.5424331328233207
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI is sold on a simple promise: the system keeps acting when the user stops watching. That promise creates an accountability inversion. As stepwise supervision recedes, verification does not disappear; it moves into the runtime infrastructure that defines authority, records action, interrupts execution, checks outcomes, and supports repair. We call this the reduced-supervision paradox. Using a 63-artifact audit, we examine its public visibility across 46 research papers and 17 engineering, documentation, security, and governance sources. We find that agents' action surfaces are far easier to reconstruct than the mechanisms needed to answer for their actions. Tool mediation and monitoring traces were clearly visible in 40 and 37 artifacts, whereas checkpoint placement was clearly visible in 6, validator independence in 4, recovery in 2, and contestability in 1. Three action paths show why this imbalance matters. A repository path can preserve rich diffs after a consequential change. A browser path can cross organizational boundaries faster than permissions travel. A service path can follow policy while leaving affected people without recourse. We argue that observability can become a substitute for accountability when it shifts verification onto users after meaningful intervention is no longer possible. Our action-path diagnostic instead asks whether a delegated action remains connected to authority, evidence, interruption, independent judgment, recovery, and challenge. The claim is deliberately bounded to public visibility; it does not establish the prevalence or effectiveness of undisclosed controls. We contribute an action-level account that recasts the harness from a technical wrapper into accountability infrastructure.
- Abstract（参考訳）: エージェントAIは単純な約束で販売されている。
その約束は説明責任の逆転を生み出す。
権限を定義し、アクションを記録し、実行を中断し、結果をチェックし、修復をサポートするランタイムインフラストラクチャに移行する。
これをスーパービジョンパラドックスと呼ぶ。
63のアーティファクト監査を用いて、46の研究論文と17のエンジニアリング、ドキュメンテーション、セキュリティ、ガバナンスソースの公開可視性を検討した。
エージェントのアクションサーフェスは,アクションに対して応答するメカニズムよりもはるかに容易に再構築できることがわかった。
ツールメディエーションとモニタリングの痕跡は40品目と37品目で明らかに見え、チェックポイント配置は6品目で明瞭に見え、バリケータ独立は4品目で、リカバリは2品目、競合性は1品目であった。
3つのアクションパスは、なぜこの不均衡が重要なのかを示しています。
リポジトリパスは、連続的な変更後にリッチな差分を保存することができる。
ブラウザパスは、許可の移動よりも早く組織の境界を越えることができる。
サービスパスは、関係のない人を残しながらポリシーに従うことができる。
有意義な介入が不可能な場合,ユーザへの検証の移行によって,可観測性は説明責任の代用になり得る,と我々は主張する。
我々の行動パス診断は、委任された行動が権威、証拠、中断、独立した判断、回復、挑戦と結びついているかどうかを問う。
クレームは故意に公共の可視性に縛られ、開示されていないコントロールの有病率や有効性を確立しない。
技術的ラッパーから説明責任インフラストラクチャへハーネスをリキャストするアクションレベルアカウントをコントリビュートします。
関連論文リスト
- Recoverability as a System Primitive for Long-Horizon AI Agents [5.008310199603767]
再利用を明示的な決定とするシステムプリミティブとして,リカバリビリティを導入する。
4つの決定論的ファイルと20のペアファイルの課題は、正確な復元と完了が許可されていない開始点を隠蔽できることを示している。
論文 参考訳（メタデータ） (2026-09-12T02:54:33Z) - Can AI Agents Detect and Repair Artifact Drift in Network Experiments? [29.12202496097423]
私たちはこの財産品の完全性と呼ぶ。
ベンチマークには52のインスタンスが含まれており、直接矛盾からいくつかのアーティファクトにまたがる非統計関係まで、矛盾がある。
決定論的スコアリングを用いて,3つの汎用AIエージェントランタイムを対象とした23のエージェント構成を評価する。
論文 参考訳（メタデータ） (2026-09-09T07:58:24Z) - MNIST-PRO: MNIST is Back as a Partially Observable World for AI Agents [74.83535434786145]
MNIST-PRO (MNIST-PRO) は、MNISTの桁認識を、ルックバック制約付きシーケンシャルな視線に基づく検索タスクに変換することで、エージェント認識を分離するベンチマークである。
生の視覚履歴、テキスト状態、構造化されたメートル法グリッドマップ、統合された視覚キャンバスを含む4つの記憶表現の10つのマルチモーダルモデルを評価する。
論文 参考訳（メタデータ） (2026-08-31T16:05:39Z) - HANSARD: A Reference Architecture for Forensic Readiness, Runtime Witnessing, and Graded Attribution in Autonomous Multi-Agent AI Systems [3.7015952547586832]
現在、自律型マルチエージェントシステムは、金融、ソフトウェアサプライチェーン、セキュリティオペレーションで機能している。
何が起きたのか、何を引き起こしたのか、誰が責任を負うのかをしっかりと決める方法はありません。
これは、証明法医学が間違った抽象化で機能し、形式的因果関係は因果関係を仮定し、エージェント監査は自己記録を信頼するからである。
ターゲットの障害モードは、帰属的な洗浄であり、いかなる原因にもならないまで、冗長なエージェントに作用を広げる。
本稿では,説明責任をライフサイクル特性として扱う参照アーキテクチャであるHANSARDを提案する。
論文 参考訳（メタデータ） (2026-08-23T17:18:22Z) - Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。
報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。
本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
論文 参考訳（メタデータ） (2026-08-09T22:59:13Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - RepoMirage: Probing Repository Context Reasoning in Code Agents with Perturbations [51.43574078961796]
本稿では,SWE-Bench Verified上に構築された2段階評価スイートRepoMirageを紹介する。
RepoMirage-Perturbは、リポジトリレベルの摂動を保存する3つのタイプのセマンティクスを適用している。
RepoAnchorは、下流の問題解決からリポジトリの探索を分離する構造第一のプロトタイプワークフローである。
論文 参考訳（メタデータ） (2026-05-25T06:26:43Z) - The Khipu Problem: Institutional Legibility Under Distributed Cognition [0.0]
本稿では,分散AIにおけるkhipu問題について紹介する。
ログ、トレース、モデルバージョン、ツールコール、アウトプット、承認アーティファクトは引き続き利用可能であり、一方の一貫性のある認知エピソードの一部としてそれらを読む能力は失われる。
この失敗は、通常の可観測性の欠如よりも解釈的連続性の欠如として理解されていると我々は主張する。
論文 参考訳（メタデータ） (2026-05-06T16:51:52Z) - IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。
IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
論文 参考訳（メタデータ） (2026-04-22T03:03:33Z) - Auditable Agents [10.007755929469814]
LLMエージェントはツールを呼び、データベースをクエリし、タスクをデリゲートし、外部の副作用を引き起こす。
エージェントシステムが世界で活動できるようになると、もはや有害なアクションが防げるかどうかという問題ではない。
我々は、説明責任(コンプライアンスを判断し、責任を割り当てる能力)、監査可能性(説明責任を可能にするシステム特性)、監査(信頼できる証拠から振る舞いを再構築するプロセス)を区別する。
論文 参考訳（メタデータ） (2026-04-07T06:25:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。