論文の概要: ToolRosetta: Surface-Form Invariance of Tool-Call Guards
- arxiv url: http://arxiv.org/abs/2610.24055v1
- Date: Fri, 16 Oct 2026 17:14:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 11:18:54.369643
- Title: ToolRosetta: Surface-Form Invariance of Tool-Call Guards
- Title（参考訳）: ToolRosetta: ツールコールガードの表面形態の不変性
- Abstract要約: ToolRosettaは、TS-BenchのAgentDojoとAgentHarmのすべての候補アクションをPythonコールとして、シェルコマンドとして、エージェントの合理性なしで再レンダリングする。
レンダリングはコードで作成され、ラウンドトリップ解析によって検証されるので、ユーザからの要求、履歴、ラベル、アクションの効果は固定され、表面の形状は変化します。
- 参考スコア（独自算出の注目度）: 1.343550579486352
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Step-level guards for tool-using agents are evaluated on tidy JSON tool calls, but deployed coding agents act through execute_bash and execute_code tools whose payloads are strings. We introduce ToolRosetta, which re-renders every candidate action in the AgentDojo and AgentHarm splits of TS-Bench as a Python call, as a shell command, and without the agent's rationale. The renderings are produced by code and verified by round-trip parsing, so the user request, the history, the label and the action's effect stay fixed while only the surface form changes. Across eleven guards with two placebo controls, frontier and strong open-weight guards are stable: no frontier error rate moves by more than 3.4 points. Four of five specialized agent guards are not: under the shell form their false-positive rates rise by 21 to 47 points on AgentDojo, and TS-Guard's by 38 points on its own home benchmark, blocking between a third and nine in ten benign actions; the fifth, StepGuard, does not move. A small open guard drifts five points more permissive. Removing the agent's rationale moves most guards whose input carries it, in guard-specific directions. A request-blind control on one guard shows that the rationale is where intent is read from. A parser that restores the canonical call in front of the guard removes the effect for these renderings, by construction. Benchmark accuracy on JSON calls does not predict a guard's operating point behind a code-acting agent.
- Abstract（参考訳）: ツール使用エージェントのステップレベルのガードは、JSONツールコールによって評価されるが、デプロイされたコーディングエージェントは、execute_bashとexecute_codeツールを通じて、ペイロードが文字列である。
ToolRosettaはAgentDojoとAgentHarmのすべての候補アクションを再レンダリングし、TS-BenchをPythonコールとして、シェルコマンドとして、エージェントの合理性なしで、再レンダリングする。
レンダリングはコードで作成され、ラウンドトリップ解析によって検証されるので、ユーザからの要求、履歴、ラベル、アクションの効果は固定され、表面の形状は変化します。
2つのプラセボコントロールを持つ11個のガード、フロンティアと強力なオープンウェイトガードは安定しており、フロンティアエラーレートは3.4ポイント以上移動しない。
シェルフォームの偽陽性率が21から47ポイント上昇し、TS-Guardが38ポイント上昇し、独自のホームベンチマークで3～9ポイント低下し、第5のStepGuardは動かない。
小さなオープンガードは、より寛容な5ポイントをドリフトします。
エージェントの合理性を取り除くことは、入力がそれを運ぶほとんどのガードを、ガード固有の方向に移動させる。
ひとつのガードに対する要求盲検コントロールは、意図が読み取られる場所にある合理性を示している。
ガードの前で標準呼び出しを復元するパーサーは、構築によってこれらのレンダリングの効果を除去する。
JSON呼び出しのベンチマーク精度は、コード実行エージェントの背後にあるガードの動作ポイントを予測しない。
関連論文リスト
- Language Is a Security Surface for Agent Guards [1.343550579486352]
我々は、警備員の評決が要求の言語に依存するかどうかを尋ねる。
我々はユーザー教育をドイツ語、フランス語、トルコ語、スワヒリ語、アムハラ語に翻訳する。
管理された警備員は、騒音を測定するために3回実行されます。
論文 参考訳（メタデータ） (2026-10-15T17:19:40Z) - ActionGuard: Tool Call Authorization under Poisoned Skills [3.079885946230075]
悪意のあるスキルに挿入された悪意のある命令は、危険なツールコールをトリガーする良心的なユーザリクエストを引き起こす可能性がある。
本稿では,実行直前にスキル影響ツールコールを検査するActionGuardを提案する。
論文 参考訳（メタデータ） (2026-09-30T10:23:57Z) - MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes [79.56668124357292]
本稿では,プローブを用いた脆弱性レポート評価フレームワークを提案する。
報告されたエクスプロイトは、アプリケーションに対してそれを再生し、プローブを実行することで評価される。
プローブが既知の脆弱性ではなくセキュリティプロパティをエンコードしているため、プローブがいつ書かれたか分からない脆弱性を検出することができる。
論文 参考訳（メタデータ） (2026-09-21T01:21:06Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。
StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。
AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
論文 参考訳（メタデータ） (2026-08-25T16:17:27Z) - From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors [89.92617739143846]
ローカルエージェントハーネスにおけるマルチステップトロイの木馬攻撃を識別するベンチマークであるClawTrojanを紹介する。
そこで我々は,DASGuardを提案する。DASGuardは,コントロールライクなテキストをセンシティブなローカルファイルでスキャンし,その起源を辿り,信頼されたソースから派生しないコントロールコンテンツを除去する。
この結果から, DASGuardは, 実行時の攻撃ブロックと作業空間への衛生的コミットを組み合わせることで, 強力な動的防御を実現することがわかった。
論文 参考訳（メタデータ） (2026-05-29T09:19:07Z) - AIRGuard: Guarding Agent Actions with Runtime Authority Control [24.777900118288144]
ツールを使用する言語エージェントは、モデル決定を外部の副作用に変換する。
本稿では、最小限の権限をアクションタイムの認可として運用するランタイムガードであるAIRGuardを紹介する。
論文 参考訳（メタデータ） (2026-05-27T17:48:14Z) - GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning [79.07152553060601]
安全ガード要求を満たすか否かを動的に確認し,目標エージェントを保護する最初のガードレールエージェントであるガードアジェントを提案する。
特にGuardAgentは、まず安全ガードの要求を分析してタスクプランを生成し、それからその計画をガードレールコードにマップして実行します。
GuardAgentは、それぞれ98%と83%のガードレール精度を持つ2つのベンチマークにおいて、異なる種類のエージェントに対する違反行為を効果的に抑制することを示した。
論文 参考訳（メタデータ） (2024-06-13T14:49:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。