論文の概要: The Verifiable Action Card: Trustworthy Human-in-the-Loop Control for Secure Autonomous Agents
- arxiv url: http://arxiv.org/abs/2609.18411v1
- Date: Wed, 16 Sep 2026 10:06:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.74723
- Title: The Verifiable Action Card: Trustworthy Human-in-the-Loop Control for Secure Autonomous Agents
- Title（参考訳）: 検証可能なアクションカード:安全な自律エージェントのための信頼できる人力制御
- Abstract要約: 提案するEmphVerifiable Action Card (VAC) は,ブラウザの動作から承認情報を再構築するアーキテクチャディフェンスである。
VACは、ディスパッチ時に認証された正確なアクションに承認をバインドする。
提案手法は,24-scenarioベンチマークを用いて,混乱した攻撃,Lies-in-the-Loopダイアログの鍛造,間接的インジェクション,適応的行動置換,証明回避,正当性タスクを網羅した評価を行った。
- 参考スコア（独自算出の注目度）: 3.8168092489216385
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agentic browsers can execute security-sensitive actions under a user's authenticated session, making indirect prompt injection and deceptive confirmation interfaces a direct threat to action integrity. Existing human-in-the-loop (HITL) safeguards are insufficient when the approval prompt itself can be influenced by untrusted page content or model-generated text. We present the \emph{Verifiable Action Card} (VAC), an architectural defence that reconstructs approval information from the ground-truth pending browser action and trusted intent provenance, renders it out-of-band in the trusted browser chrome, and binds approval to the exact action re-verified at dispatch. VAC combines provenance fencing, a ground-truth action descriptor, default-deny confirmation, provenance-aware risk gating, and execution binding. We implement VAC in a complete agentic browser and evaluate it on a 24-scenario benchmark covering confused-deputy attacks, Lies-in-the-Loop dialog forging, indirect prompt injection, adaptive action substitution, provenance evasion, and legitimate tasks. Across the evaluated LLMs, attack success without VAC ranges from $68\%$ to $100\%$, whereas VAC reduces attack success to $0\%$ on every model, with $78\%$ legitimate-task completion and a $0\%$ false-block rate. These results show that grounding approval in the action that will actually execute provides architectural protection against security failures that prompt-level defences and conventional HITL confirmation cannot reliably prevent.
- Abstract（参考訳）: エージェントブラウザは、ユーザの認証セッション下でセキュリティに敏感なアクションを実行することができ、間接的なプロンプトインジェクションと偽確認インターフェースをアクション完全性に対する直接的な脅威にする。
既存のHuman-in-the-loop(HITL)セーフガードは、承認プロンプト自体が信頼できないページの内容やモデル生成テキストに影響される場合、不十分である。
本稿では,ブラウザの動作と信頼された意図の証明から承認情報を再構築し,信頼されたブラウザのクロームの帯域外をレンダリングし,ディスパッチ時に再検証された正確なアクションに承認を結び付けるアーキテクチャディフェンスである<emph{Verifiable Action Card} (VAC)を提示する。
VACは、プロフェランスフェンシング、グランドトルースアクション記述子、デフォルトデニー確認、プロフェランス対応リスクゲーティング、実行バインディングを組み合わせたものだ。
我々は、完全なエージェントブラウザにVACを実装し、混乱した攻撃、Lies-in-the-Loopダイアログの鍛造、間接的インジェクション、適応的アクション置換、証明回避、正当なタスクをカバーする24-scenarioベンチマークで評価する。
評価されたLCM全体では、VACなしでの攻撃成功は6,8 %$から100 %$までで、VACは攻撃成功をすべてのモデルで0 %$に減らし、7,8 %$正規タスク完了と0 %$偽ブロックレートにする。
これらの結果から,実際に実施する行動の根拠となる承認は,即時防衛や従来のHITL確認が確実に防止できないセキュリティ上の障害に対して,アーキテクチャ上の保護を提供することが示された。
関連論文リスト
- CONTINUITY: Security-Context Contracts for Composable LLM Agent Controls [6.892500414166659]
セキュリティクリティカルなコンテキストは、コンポーネント境界を越えたアクションとしてドロップ、拡大、リバウンド、あるいは再解釈される。
エージェントセキュリティ制御の検証可能な構成のためのフレームワークであるITYを紹介する。
論文 参考訳（メタデータ） (2026-09-04T15:26:35Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - SecRespond: Benchmarking AI Agents for Real-World Post-Compromise Incident Response [38.89333299127352]
我々は、インシデント-レスポンス後のワークフローにおいて、LLM(Large Language Model)エージェントを評価するための最初のベンチマークであるSecRespondを紹介する。
私たちはこのタスクを10のサイバー範囲でインスタンス化します。
実験の結果, 現行のエージェントは警報が発する問題を確実に発見できるが, サイレント侵入の円盤を積極的に調査することは困難であることがわかった。
論文 参考訳（メタデータ） (2026-07-29T11:32:23Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳（メタデータ） (2026-07-24T06:43:09Z) - Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming [8.592488240217625]
本研究では, 1 つのエージェント研究環境を用いて, 生産用 LLM エージェントの自動リピートについて検討した。
脆弱性仮説を提案し、ファルシファイアを構築し、有効な攻撃をインスタンス化し、サンドボックス化されたハーネスで実行し、検証された結果をVulnerability Concept Graph(VCG)にプロモートする。
直接および間接的な攻撃をカバーする3つのシナリオに関するClude CodeとCodexの裏側で、発見された概念は、モデルとエージェント間で再利用可能な脆弱性コアを明らかにしている。
論文 参考訳（メタデータ） (2026-07-13T15:31:04Z) - From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors [89.92617739143846]
ローカルエージェントハーネスにおけるマルチステップトロイの木馬攻撃を識別するベンチマークであるClawTrojanを紹介する。
そこで我々は,DASGuardを提案する。DASGuardは,コントロールライクなテキストをセンシティブなローカルファイルでスキャンし,その起源を辿り,信頼されたソースから派生しないコントロールコンテンツを除去する。
この結果から, DASGuardは, 実行時の攻撃ブロックと作業空間への衛生的コミットを組み合わせることで, 強力な動的防御を実現することがわかった。
論文 参考訳（メタデータ） (2026-05-29T09:19:07Z) - AgentVisor: Defending LLM Agents Against Prompt Injection via Semantic Virtualization [37.5130864321051]
本稿では,セマンティックな特権分離を実現する新しい防衛フレームワークであるAgentVisorを提案する。
AgentVisorは、ターゲットエージェントを信頼できないゲストとして扱い、信頼できるセマンティックバイザを介してツールコールをインターセプトする。
我々はAgentVisorが攻撃成功率を0.65%に下げ、この強力な防御を達成し、実用性は1.45%しか低下しないことを示した。
論文 参考訳（メタデータ） (2026-04-27T07:12:52Z) - Cuckoo Attack: Stealthy and Persistent Attacks Against AI-IDE [64.47951172662745]
Cuckoo Attackは、悪意のあるペイロードを構成ファイルに埋め込むことで、ステルス性と永続的なコマンド実行を実現する新しい攻撃である。
攻撃パラダイムを初期感染と持続性という2つの段階に分類する。
当社は、ベンダーが製品のセキュリティを評価するために、実行可能な7つのチェックポイントを提供しています。
論文 参考訳（メタデータ） (2025-09-19T04:10:52Z) - Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。
本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。
実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
論文 参考訳（メタデータ） (2021-06-01T07:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。