論文の概要: Holding Agents Accountable with Verifiable Agent Insurance
- arxiv url: http://arxiv.org/abs/2610.18230v1
- Date: Tue, 13 Oct 2026 12:01:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.606963
- Title: Holding Agents Accountable with Verifiable Agent Insurance
- Title（参考訳）: 検証可能なエージェント保険に責任を負う代理人の保持
- Abstract要約: エージェントが従うことを意図したポリシーに、エージェントプロバイダが金銭的にコミットするためのフレームワークを提案する。
これらの約束は、改ざんを防ぐために不変の台帳(例えばブロックチェーン)にスマートコントラクトに埋め込まれる。
コミットされた約束違反を検出するユーザは、検証者がエージェントハーネスの共有ツール実行パスを通じてログされるエージェント実行トレースをレビューするように促すことができる。
- 参考スコア（独自算出の注目度）: 16.49463917355573
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While AI agents are useful for many tasks, they regularly misbehave in destructive ways, such as deleting important data. While prior work has focused on preventing such misbehavior, we consider how to recover after an agent misbehaves. We propose verifiable agent insurance (VAI), a framework for agent providers to commit financially to promises, a list of programmatically-specified policies that an agent is meant to follow. These promises are embedded in a smart contract on an immutable ledger (e.g., a blockchain) to prevent tampering, along with a monetary escrow. A user who detects a violation of committed promises can prompt a verifier to review agent execution traces, which are logged through the agent harness's shared tool-execution path, without instrumenting each tool separately. Upon verification of the violation, the agent provider's escrow funds are paid to the reporting user. We instantiate VAI as an end-to-end implementation on an Ethereum layer-2 network, and evaluate its coverage on three prominent agent benchmarks, two of which we re-annotated to obtain task-level policy-compliance labels. Currently, many agents do not emit user authorizations and security-relevant information as explicit, structured data objects -- rather, they embed the data needed to verify policy violations in natural language exchanges. Even so, VAI manages to detect violations in 42.2% of runs containing violations across three benchmarks. By augmenting agents to explicitly emit such objects, violation detection rises to 83.0% of traces. Our findings suggest that for improved auditability, agents should be co-designed with their security policies to emit explicit, structured records of user authorization and security-relevant actions.
- Abstract（参考訳）: AIエージェントは多くのタスクに役立ちますが、重要なデータを削除するなど、破壊的な方法で頻繁に誤動作します。
これまでの研究は、そのような誤動作を防ぐことに重点を置いてきたが、エージェントの誤動作の後に回復する方法を検討する。
我々は,エージェントが従うことを意図したプログラムで特定されたポリシーのリストである,エージェントプロバイダが約束に金銭的にコミットするためのフレームワークである検証可能なエージェント保険(VAI)を提案する。
これらの約束は、イミュータブルな台帳(例えばブロックチェーン)上のスマートコントラクトに埋め込まれ、改ざんを防ぐとともに、金銭的なエスクローも防ぎます。
コミットされた約束違反を検知したユーザは、検証者にエージェントハーネスの共有ツール実行パスを通じてログされるエージェント実行トレースをレビューするよう促すことができる。
違反を確認すると、エージェントプロバイダのエスクロー資金が報告ユーザに支払われる。
Ethereumレイヤ2ネットワーク上でのエンドツーエンド実装としてVAIをインスタンス化し、そのカバレッジを3つの著名なエージェントベンチマークで評価する。
現在、多くのエージェントは、ユーザー認証やセキュリティ関連情報を明示的で構造化されたデータオブジェクトとして出力していない。
それでも、VAIは3つのベンチマークで違反を含むランニングの42.2%で違反を検出する。
このようなオブジェクトを明示的に放出するためにエージェントを増強することにより、違反検出は83.0%のトレースに上昇する。
調査の結果から, 監査性の向上のために, エージェントは, ユーザ認証とセキュリティ関連行動の明示的かつ構造化された記録を発行するために, セキュリティポリシーを共同設計すべきであることが示唆された。
関連論文リスト
- Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents [10.493000314031077]
大規模言語モデル(LLM)エージェントは、ソフトウェア開発ライフサイクルの不可欠な部分になりつつある。
修正されていない不透明なエージェントの分離境界における参照モニタであるKairosを提示する。
どの情報源が信頼されているかを記述する宣言的政策は、ほとんどの効果を決定論的に決定し、残りを無視し、エージェントが投機的に継続する間に保持される。
論文 参考訳（メタデータ） (2026-10-13T14:24:26Z) - CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。
この機能は、フィッシングに機密情報を公開する。
CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
論文 参考訳（メタデータ） (2026-10-06T05:07:33Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - Twin Agent: Context Residual Compression for Privilege Separated Agents [18.474974915236245]
大規模言語モデル(LLM)エージェントは、信頼できないコンテキストからのインジェクション攻撃などのセキュリティリスクに対して脆弱である。
エージェントコンテキストにおける残差符号化にインスパイアされた汎用的な特権分離設計パターンであるツインエージェントを提案する。
我々は、SWE-bench Liteを用いた長期ソフトウェアエンジニアリングタスクと、AgentDojoとDecodingTrust-Agentを用いた異種マルチツールインタラクションタスクについて、Twin Agentを評価した。
論文 参考訳（メタデータ） (2026-07-21T21:47:52Z) - Notarized Agents: Receiver-Attested Confidential Receipts for AI Agent Actions [0.0]
現在のAIエージェントの可観測性は構造的に損なわれている。
妥協された、またはバギーなエージェントは、自身のトレースを省略、変更、または製造することができる。
本稿では,信頼境界を逆転することでこの問題を解決するプロトコルのクラスを提案する。
論文 参考訳（メタデータ） (2026-06-02T20:21:58Z) - TessPay: Verify-then-Pay Infrastructure for Trusted Agentic Commerce [0.0]
TessPayは、暗黙の信頼を'Verify-then-Pay'アーキテクチャに置き換える統合インフラストラクチャである。
実行中、エージェントがタスクを実行している間に資金がロックされ、PoTE(Proof of Task Execution)をサポートするための暗号証拠が生成される。
和解後、TessPayは、紛争解決の明確な説明責任を実現するために、未解決の監査証跡を保存している。
論文 参考訳（メタデータ） (2026-01-30T15:18:39Z) - Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。
敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
論文 参考訳（メタデータ） (2025-10-03T12:47:21Z) - AgentArmor: Enforcing Program Analysis on Agent Runtime Trace to Defend Against Prompt Injection [14.522205401511727]
大きな言語モデル(LLM)エージェントは、自然言語推論と外部ツールの実行を組み合わせることで、さまざまな問題を解決するための強力な新しいパラダイムを提供する。
本研究では,エージェントランタイムトレースを解析可能なセマンティクスを用いた構造化プログラムとして扱う新しい知見を提案する。
本稿では,エージェントトレースをグラフ中間表現に基づく構造化プログラム依存表現に変換するプログラム解析フレームワークであるAgentArmorを提案する。
論文 参考訳（メタデータ） (2025-08-02T07:59:34Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳（メタデータ） (2024-08-02T03:25:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。