論文の概要: ATrust: Adaptive Trust Boundary Expansion for Securing LLM Agents

• arxiv url: http://arxiv.org/abs/2611.02741v1
• Date: Mon, 02 Nov 2026 08:28:35 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:45:15.37013
• Title: ATrust: Adaptive Trust Boundary Expansion for Securing LLM Agents
• Title（参考訳）: ATrust: LLMエージェントをセキュアにするためのアダプティブトラスト境界拡張
• Abstract要約: ATrustはエージェント実行中に信頼境界を適応的に拡張する防御機構である。 我々はAtrustをAgentDojoとAgentDynで評価する。
• 参考スコア（独自算出の注目度）: 16.083763461236828
• License:
• Abstract: As large language model (LLM) agents take on more complex tasks with greater autonomy, security has become a major obstacle to their broader deployment. Unlike in attacks that require complex exploitation of operating system vulnerabilities, attackers can easily hijack agents through indirect prompt injection (IPI), leading to privacy leakage, financial loss, and destructive operations. However, existing defenses often make security decisions based on limited static trusted evidence or assess observations in isolation. Such rigid trust assumptions can cause task-essential information to be unnecessarily discarded, resulting in over-defense and degraded agent functionality. To address this problem, we propose ATrust, a defense mechanism that adaptively expands the trust boundary during agent runtime. Starting from the user query as the root trust anchor, ATrust evaluates external observations against the current trust boundary and execution state, progressively admitting task-essential information as new trust anchors. This preserves necessary environmental feedback while excluding irrelevant content, whether benign or malicious, from subsequent decision-making, thereby limiting unnecessary exposure to external environment. We evaluate ATrust on AgentDojo and AgentDyn, where it achieves the strongest overall security--utility trade-off among existing defenses. With GPT-4o as the engine model, ATrust reduces the attack success rate on AgentDyn from 37.80% to 4.37% while enhancing utility by 10.00%, outperforming AuthGraph, the state-of-the-art defense, by 12.33%. These results demonstrate the effectiveness and practicality of ATrust.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントがより大きな自律性を持つより複雑なタスクを担っているため、セキュリティはより広範なデプロイメントにおいて大きな障害となっている。 オペレーティングシステムの脆弱性を複雑に悪用する必要がある攻撃とは異なり、攻撃者は間接的プロンプトインジェクション(IPI)を通じてエージェントを簡単にハイジャックすることができ、プライバシーの漏洩、財務的損失、破壊的な操作につながる。 しかし、既存の防衛は、限られた静的な証拠に基づいてセキュリティ上の決定を下したり、単独で観察を評価したりすることが多い。 このような厳格な信頼前提は、タスクの重要情報を不要に破棄し、過剰な防御と劣化したエージェント機能をもたらす可能性がある。 この問題に対処するため,エージェント実行中に信頼境界を適応的に拡張する防御機構であるATrustを提案する。 ユーザクエリをルート信頼アンカーとして開始すると、ATrustは現在の信頼境界と実行状態に対する外部観測を評価し、タスク固有情報を新たな信頼アンカーとして徐々に認める。 これにより、不適切なコンテンツや悪意のあるコンテンツがその後の意思決定から除外されることなく、必要な環境フィードバックを保ち、外部環境への不要な露出を制限することができる。 我々はAtrust on AgentDojoとAgentDynの評価を行い、既存の防衛におけるセキュリティ・ユーティリティのトレードオフにおいて最強の成果を上げている。 GPT-4oをエンジンモデルとし、AtrustはAgenDynの攻撃成功率を37.80%から4.37%に下げ、実用性は10.00%向上し、最先端の防衛であるAuthGraphを12.33%上回った。 これらの結果は,ATrustの有効性と実用性を示している。

関連論文リスト

• CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
  言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。 この機能は、フィッシングに機密情報を公開する。 CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
  論文  参考訳（メタデータ） (2026-10-06T05:07:33Z)
• Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation [13.654207263751156]
  大規模言語モデル(LLM)エージェントは、会話インターフェースから、計画し、ツールを呼び出し、メモリを保守し、外部環境に作用するソフトウェアコンポーネントへと急速に移行している。 本稿では,情報フロー,委任権限,永続状態の相互作用に関するエージェントのセキュリティをモデル化するライフサイクルベースのシステム指向フレームワークを用いて,247の論文を合成する。 また, プロンプトインジェクションとツールによる制御-フローハイジャックが依然としてこの分野を支配しているのに対し, 永続的な状態破壊とマルチエージェントの伝播が中心的な関心事となっている。
  論文  参考訳（メタデータ） (2026-06-09T12:01:07Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• AgentVisor: Defending LLM Agents Against Prompt Injection via Semantic Virtualization [37.5130864321051]
  本稿では,セマンティックな特権分離を実現する新しい防衛フレームワークであるAgentVisorを提案する。 AgentVisorは、ターゲットエージェントを信頼できないゲストとして扱い、信頼できるセマンティックバイザを介してツールコールをインターセプトする。 我々はAgentVisorが攻撃成功率を0.65%に下げ、この強力な防御を達成し、実用性は1.45%しか低下しないことを示した。
  論文  参考訳（メタデータ） (2026-04-27T07:12:52Z)
• Real-Time Trust Verification for Safe Agentic Actions using TrustBench [0.4460583138505674]
  複数次元にわたる信頼をベンチマークするデュアルモードフレームワークであるTrustBenchを紹介します。 複数のエージェントタスクにおいて、TrustBenchは有害なアクションを87%削減した。 200ms未満のレイテンシで、TrustBenchは、自律エージェントの実用的なリアルタイム信頼検証を可能にする。
  論文  参考訳（メタデータ） (2026-03-10T03:46:22Z)
• DynaTrust: Defending Multi-Agent Systems Against Sleeper Agents via Dynamic Trust Graphs [17.988939054544243]
  睡眠薬に対する新しい防御法であるDynaTrustを提案する。 DynaTrustは信頼を静的属性ではなく継続的、進化的なプロセスとして扱う。 各エージェントの履歴行動と選択した専門家エージェントの信頼度に基づいて、各エージェントの信頼度を動的に更新する。
  論文  参考訳（メタデータ） (2026-03-09T05:53:16Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• The Dark Side of LLMs: Agent-based Attacks for Complete Computer Takeover [0.0]
  大規模言語モデル(LLM)エージェントとマルチエージェントシステムは、従来のコンテンツ生成からシステムレベルの妥協まで及ぶセキュリティ脆弱性を導入している。 本稿では,自律エージェント内の推論エンジンとして使用されるLLMのセキュリティを総合的に評価する。 異なる攻撃面と信頼境界がどのように活用され、そのような乗っ取りを組織化できるかを示す。
  論文  参考訳（メタデータ） (2025-07-09T13:54:58Z)
• OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
  OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。 従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。 ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
  論文  参考訳（メタデータ） (2025-07-08T16:18:54Z)
• LLM Agents Should Employ Security Principles [60.03651084139836]
  本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T21:39:08Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。