論文の概要: Towards Safe Autonomy for Computer Use
- arxiv url: http://arxiv.org/abs/2610.18508v1
- Date: Tue, 13 Oct 2026 15:03:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 21:01:34.606154
- Title: Towards Safe Autonomy for Computer Use
- Title（参考訳）: コンピュータ利用における安全な自律性を目指して
- Abstract要約: コンピュータ・ユース・エージェント(CUA)はコンピュータ・スクリーン上で視覚的に作用するが、信頼されたファースト・パーティ・インタフェースと信頼できない潜在的に攻撃的なコンテンツの境界は提供されない。
CUAのための信頼性の高い信頼境界を生成するデュアルLLMフレームワークであるSA-CUAを紹介する。
- 参考スコア（独自算出の注目度）: 12.830821881757096
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The safety of LLM-based agents currently rests on alignment training and safety classifiers, neither of which can rule out that a sophisticated indirect prompt injection (IPI) goes through and causes significant harm. Recent work therefore builds agents with information-flow guarantees that rely on structured tool interfaces to interact with the environment. Computer Use Agents (CUAs) act visually on the computer screen, which does not provide a boundary between trusted first-party interfaces and untrusted, potentially attacker-authored content. Actions are equally ambiguous: a click may land on an application toolbar or a button controlled by an attacker. Treating the user as the source of trust and confirming each sensitive decision produces confirmation fatigue, with the risk of missing harmful actions. We introduce SA-CUA, a dual-LLM framework that generates a reliable trust boundary for CUAs by deriving conservative deterministic rules from the accessibility tree for unmasking trusted regions from the privileged LLM's screenshot, keeping trusted and untrusted content separated. Human interaction is only required for proper task specification in the beginning. During the task a robust endorsement channel allows values to pass from the untrusted to the trusted domain by verifying information via trusted channels. This allows the agent to autonomously handle tasks involving untrusted information. SA-CUA maintains much higher utility than CaMeL-CUA while keeping the attack success rate at zero.
- Abstract（参考訳）: LLMをベースとしたエージェントの安全性は、現在アライメントトレーニングと安全分類器に依存しており、どちらも高度な間接的インパルスインジェクション(IPI)が通過し、重大な損傷を引き起こすことを排除できない。
そのため、最近の作業では、環境と対話するための構造化ツールインターフェースに依存する情報フロー保証を備えたエージェントを構築している。
コンピュータ・ユース・エージェント(CUA)はコンピュータ・スクリーン上で視覚的に作用し、信頼されたファースト・パーティ・インタフェースと信頼できない潜在的に攻撃的なコンテンツの境界を規定しない。
クリックはアプリケーションツールバーやアタッカーによって制御されるボタンに着陸する。
ユーザを信頼の源として扱い、各センシティブな決定を確認すれば、有害な行動の欠如による確認疲労が発生する。
特権付きLCMのスクリーンショットから、信頼された領域をアンマッシングするアクセシビリティツリーから保守的な決定規則を導出し、信頼できないコンテンツを分離し、CUAの信頼性の高い信頼境界を生成する2つのLLMフレームワークであるSA-CUAを紹介する。
ヒューマンインタラクションは、最初から適切なタスク仕様のためにのみ必要である。
タスクの間、信頼できるチャンネルを通じて情報を検証することで、堅牢な支持チャネルは信頼できないドメインから信頼できないドメインに値が渡されることを可能にする。
これにより、エージェントは信頼できない情報を含むタスクを自律的に処理できる。
SA-CUAはCaMeL-CUAよりも高い実用性を維持しながら、攻撃成功率をゼロに保っている。
関連論文リスト
- CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。
この機能は、フィッシングに機密情報を公開する。
CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
論文 参考訳（メタデータ） (2026-10-06T05:07:33Z) - Securing Computer-Use Agents Against Branch Steering Attacks [20.85256141905023]
Modern Computer Use Agents (CUA)は、グラフィカルなユーザインタフェースと直接対話し、サードパーティのWebツールを実行する。
これにより、レンダリングされたページとツールのレスポンスを間接的にインジェクションすることが可能になる。
我々は,信頼された分岐計画と事前機能制約を組み合わせたアーキテクチャであるCOBRAを提案する。
論文 参考訳（メタデータ） (2026-10-02T10:08:39Z) - SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳（メタデータ） (2026-08-31T03:39:43Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - Untrusted Content Masking for Web Agents with Security Guarantees [44.248119613944226]
迅速なインジェクション攻撃に対するセキュリティ保証を提供する防衛は、信頼された命令と信頼できないデータの間の厳格な隔離に依存している。
Intrusted Content Masking (UCM) はWeb環境におけるこの境界を復元するシンプルで効果的な手法である。
我々のフレームワークは、エージェントに到達する前に信頼できないリージョンを再実行し、厳格な特権分離を伴うサンドボックスインターフェースを介してインタラクションをルーティングすることでこれを活用します。
論文 参考訳（メタデータ） (2026-07-06T16:22:37Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - SecureClaw: Clawing Back Control of LLM Agents [5.952015302242554]
ツールを使用する大規模言語モデル(LLM)エージェントは2つの異なるセキュリティ障害に直面している。
本稿では、エフェクトシンクに認証を配置し、リードバウンダリにプレーンテキストを閉じ込めるデュアルバウンダリアーキテクチャであるSecureClawを提案する。
AgentDojo、AgentLeak、Agent Security Bench (ASB)、SecureClawは、私たちが共通のハーネスで評価する唯一の防御です。
論文 参考訳（メタデータ） (2026-06-08T14:29:01Z) - The Granularity Mismatch in Agent Security: Argument-Level Provenance Solves Enforcement and Isolates the LLM Reasoning Bottleneck [18.14752683836217]
textscPACTは、ツール引数にセマンティックロールを割り当てるランタイムモニタである。
textscPACTはエージェントセキュリティを権限バインディングとして再設定する。
論文 参考訳（メタデータ） (2026-05-11T04:09:11Z) - Real-Time Trust Verification for Safe Agentic Actions using TrustBench [0.4460583138505674]
複数次元にわたる信頼をベンチマークするデュアルモードフレームワークであるTrustBenchを紹介します。
複数のエージェントタスクにおいて、TrustBenchは有害なアクションを87%削減した。
200ms未満のレイテンシで、TrustBenchは、自律エージェントの実用的なリアルタイム信頼検証を可能にする。
論文 参考訳（メタデータ） (2026-03-10T03:46:22Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - Defeating Prompt Injections by Design [79.00910871948787]
CaMeLは、Large Language Modelsを中心とした保護システムレイヤを作成する堅牢なディフェンスである。
CaMeLは、(信頼された)クエリから制御とデータフローを明示的に抽出する。
セキュリティをさらに改善するため、CaMeLは、権限のないデータフロー上のプライベートデータの流出を防止する機能の概念を使用している。
論文 参考訳（メタデータ） (2025-03-24T15:54:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。