論文の概要: "Shall We Approve?" Consequence-Aware Approval for Autonomous Coding Agents

• arxiv url: http://arxiv.org/abs/2610.40753v1
• Date: Thu, 29 Oct 2026 16:20:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.457344
• Title: "Shall We Approve?" Consequence-Aware Approval for Autonomous Coding Agents
• Title（参考訳）: シェアする? : 自律型符号化エージェントの認識承認
• Abstract要約: コーディングエージェントは、提案されたシェルコマンドが実行可能であるかどうかを決定するために、自動化された承認者に依存している。 Caperは、スナップショット化されたサンドボックスで各コマンドを事前実行する、結果認識の承認メカニズムである。
• 参考スコア（独自算出の注目度）: 11.255612127802172
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Coding agents increasingly rely on automated approvers to decide whether a proposed shell command may run. Existing approvers, from rule-based checkers to guardrail models and deployed permission classifiers, base their decisions on the text of the request and command. Yet a command's behavior depends on the code it invokes and the state of the workspace, and systems that observe file changes leave the assessment to the agent or a human after execution. We present Caper, a consequence-aware approval mechanism that pre-executes each command in a snapshotted sandbox, provides an independent approver with a bounded report of its observed effects, commits allowed commands, and rolls back blocked ones with a reason the agent can act on. Compared with six existing systems, Caper achieves the lowest harmful-outcome rate on SABER (6.7% versus at least 14.8%) and YoloFS-Ext, a benchmark we build in which harmful behavior is hidden inside invoked tools (7.8% versus at least 35.3%), while blocking 1.0% of the safe twins of the dangerous tasks in YoloFS-Ext.
• Abstract（参考訳）: コーディングエージェントは、提案されたシェルコマンドが実行可能であるかどうかを決定するために、自動化された承認者に依存している。 既存の承認者(ルールベースのチェッカーからガードレールモデル、デプロイされた許可分類器)は、要求とコマンドのテキストに基づいて決定を下す。 しかし、コマンドの振る舞いは、呼び出したコードとワークスペースの状態に依存し、ファイルの変更を観察するシステムは実行後にエージェントや人間にアセスメントを委ねる。 Caperは、スナップショット化されたサンドボックスで各コマンドを事前実行する結果認識の承認メカニズムで、独立の承認者に対して、観察された効果のレポート、許容されたコマンドのコミット、ブロックされたコマンドのロールバックを、エージェントが実行可能な理由から提供する。 既存の6つのシステムと比較して、CaperはSABER(少なくとも14.8%に対して6.7%)とYoloFS-Extで最低の有害アウトカム率を達成した。

関連論文リスト

• From Approval to Abuse: Privilege Escalation Attacks on Harness-Protected Coding Agents [71.95900681890676]
  コーディングエージェントは、実行ハーネスを使用して、パーミッション境界を強制することによって、プロンプトインジェクションの結果を制限する。 承認疲労を軽減するために、ユーザはエージェントが提案する許可ルールを承認し、その後、ルールにマッチする将来のアクションをプロンプトなしで許可する。 信頼できないコンテキストは、承認のために提示された許可に影響を与える可能性がある。
  論文  参考訳（メタデータ） (2026-10-16T06:13:06Z)
• AgentHorizon: Evaluating Agentic Judges for Long-Horizon Computer-Use Tasks [67.28108897589799]
  AgentHorizonは、1,373のコンピュータ利用タスクのベンチマークである。 同様の(しかし互換性のない)要求を完了したのと、成功した軌道を区別する能力について、審査員を評価した。 我々の最高のエージェント・ジャッジであるGPT-5.5は、AHサブセット上で80.9%のバランスの取れた精度を達成する。
  論文  参考訳（メタデータ） (2026-10-08T01:03:48Z)
• Separation of Duties for Privileged LLM Agents: A Governed Execution Architecture with Measured Security-Utility Trade-offs [0.0]
  エージェントとオペレーティングシステムの間に4つの役割(プランナー、政策ゲート、執行役、監査役)を介するアーキテクチャについて検討する。 我々は8種類の313ケースのベンチマークで評価した。
  論文  参考訳（メタデータ） (2026-09-28T05:32:17Z)
• TraceDance: An Automated System for Building Agent Behavior Benchmarks from Real-World Agent Deployment Traces [49.561879967469714]
  TraceDanceは、ユーザが指定した望ましくない振る舞いのデプロイメントトレースからターゲットベンチマークを構築するエージェントシステムである。 効率的な構築のために、Anchor-and-Confirmはプログラム可能な検索と、Flash大言語モデルによる候補レベルの確認を組み合わせる。 コーディングと一般的なツールの実験では、252,557のセッションで描画され、ビルドターゲット要求の95.3%を満たす4,125のインスタンスで107のベンチマークを生成する。
  論文  参考訳（メタデータ） (2026-09-27T06:58:39Z)
• AgentGuard: Learning Execution Guardrails from Anomalous Coding-Agent Trajectories [7.433745310331784]
  本稿では,コーディングエージェントの異常な軌跡から条件付き実行制約を学習する,命令レベルのガードレールフレームワークであるAgentGuardを提案する。 AgentGuardは、繰り返し実行される障害パターンを自動的に抽出し、それらを命令レベルの動作制約に一般化し、軽量なガードレールスキルとして整理する。 AgentGuardは、異常実行率を69.0%から26.7%に下げ、正常タスク完了率を21.7%から35.0%に引き上げている。
  論文  参考訳（メタデータ） (2026-09-14T19:42:03Z)
• RobustSGPO: Search-Space Control for Agent Harness Evolution [56.722805974785125]
  我々は、要求された編集、構成、パッチのチェックを指定し、既存のスナップショットまたは保持スナップショットからの検索を継続するRobustSGPOを紹介した。 我々は,120タスク,95ラン,7350の候補を用いて,AgentXブレインストーミングワークフローにおけるパーミッションスケジューリング,累積制御,タスクファミリー転送を評価した。
  論文  参考訳（メタデータ） (2026-09-09T03:00:03Z)
• ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
  本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。 提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
  論文  参考訳（メタデータ） (2026-08-27T01:22:14Z)
• Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks [40.270213696031625]
  OverEager-Genは、良質なタスクの振る舞いをオーバーイーガーするベンチマークである。 クロード・コードでは、同意宣言を削除するだけで、オーバーイーガー率は0.0%から17.1%に上昇する。 オーバーイーガー・ジェン(OverEager-Gen)は、入場前に各シナリオの識別力を認定する。
  論文  参考訳（メタデータ） (2026-05-18T16:00:41Z)
• Agent Control Protocol: Admission Control for Agent Actions [0.4929694290403903]
  エージェントコントロールプロトコル(エージェントコントロールプロトコル、ACP)は、B2Bの機関環境における自律エージェントの受け入れ制御ガバナンスのための正式な仕様である。 ACPは、暗号ID、能力に基づく認可、決定論的リスク評価、連鎖デリゲート、および暗号化連鎖監査を定義する。 ACPはRBACとZero Trustの上で動作し、どちらのモデルも解決しない問題に対処する。
  論文  参考訳（メタデータ） (2026-03-19T12:28:28Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。