論文の概要: AgentTell: Behavioural Side-Channel Leakage in Browser-Use Agents
- arxiv url: http://arxiv.org/abs/2609.32915v1
- Date: Sat, 26 Sep 2026 20:09:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 11:59:11.089545
- Title: AgentTell: Behavioural Side-Channel Leakage in Browser-Use Agents
- Title（参考訳）: AgentTell:ブラウザ使用エージェントの行動的サイドチャネルリーク
- Abstract要約: ブラウザ利用エージェントの動作側チャネルリークについて検討する。
エージェントは、サイドチャネルの漏洩をプライバシー上のリスクとして認識しないことが多い。
- 参考スコア（独自算出の注目度）: 6.83318476483428
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Browser-use agents often carry information in their context as they move between websites. While it may be necessary for task completion, it also creates a privacy risk, especially when the information contains a private fact regarding the user. For example, an agent may learn a user's affiliation after reading a membership record. If it later selects a registration option specific to that affiliation on another website instead of a general option, the information gets leaked. In this work, we define and study behavioural side-channel leakage in browser-use agents, where an agent's actions inadvertently reveal private information (secret) retained from a prior website, despite an explicit instruction not to disclose it. We introduce AgentTell, a benchmark of 20 scenarios and 100 tasks in which an agent acquires a secret on one website and then completes a task on another website that offers secret-specific actions alongside a general action that reveals nothing. Our evaluation across 9,760 sessions on six backbones shows that agents carrying a secret reveal it through their actions in 61.1% of sessions. Even when agents explicitly state in memory that the secret must not be shared, they still reveal it in 56.7% of those sessions. Moreover, in 34.5% of leaking sessions, their final responses falsely assure users that the secret was not disclosed. These findings show that agents often fail to recognize side-channel leakage as a privacy risk.
- Abstract（参考訳）: ブラウザ利用エージェントは、Webサイト間を移動するときに、そのコンテキスト内で情報を運ぶことが多い。
タスク完了には必要かもしれませんが、特に情報がユーザに関するプライベートな事実を含んでいる場合、プライバシのリスクも生じます。
例えば、エージェントは、会員記録を読んだ後、ユーザのアフィリエイトを学ぶことができる。
その後、一般的なオプションではなく、別のウェブサイトでそのアフィリエイトに特有の登録オプションを選択すると、情報は漏洩する。
本研究では,ブラウザ利用エージェントの動作側チャネルリークを定義し,エージェントの動作が意図せず,事前のWebサイトから保持されたプライベート情報(シークレット)を明らかにする。
AgentTellは20のシナリオと100のタスクからなるベンチマークで、エージェントが1つのWebサイト上で秘密を取得し、その後、何も明らかにしない一般的なアクションと並行して、秘密固有のアクションを提供する別のWebサイト上でタスクを完了します。
6つのバックボーン上の9,760のセッションで評価したところ、秘密を持ったエージェントが61.1%のセッションでその行動を通じてそれを明らかにしている。
エージェントが秘密を共有してはならないことを明示的に記憶している場合でも、56.7%のセッションでそれを明らかにしている。
さらに、漏洩セッションの34.5%では、最後の回答は、秘密が開示されていないことをユーザーに偽示した。
これらの結果は、エージェントがプライバシー上のリスクとしてサイドチャネルの漏洩を認識できないことをしばしば示している。
関連論文リスト
- Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。
送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。
モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
論文 参考訳（メタデータ） (2026-09-26T15:06:44Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。
既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。
LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
論文 参考訳（メタデータ） (2026-05-29T04:55:12Z) - MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents [76.60965179634664]
ディープリサーチエージェントは、プライベートなローカルドキュメントをWeb検索のような外部ツールと組み合わせて、プライバシーリスクを生じさせている。
プライベートなエンタープライズドキュメントとパブリックなWebコーパスをチェーンする1,001のディープリサーチタスクのベンチマークであるMosaicLeaksを紹介します。
私たちは、家族やサイズにわたるモデルが3つのレベルすべてに頻繁にリークしていることに気付きました。
論文 参考訳（メタデータ） (2026-05-29T01:44:35Z) - Plant, Persist, Trigger: Sleeper Attack on Large Language Model Agents [64.80318459073526]
敵のコンテンツは、同一のエージェントによって提供される相互作用にまたがって持続できることを示し、そのような脅威を検知し緩和することを困難にしている。
具体的には、敵対的コンテンツはエージェント状態に留まり、相互作用をまたいだ休眠状態に留まり、その後、良心的なユーザクエリによって活性化される。
我々は、このタイプの安全脅威をスリーパー攻撃として形式化し、評価するために、現実世界の有害な結果6つ、攻撃戦略3つ、エージェント状態の目標3つをカバーする1,896件のベンチマークを構築した。
論文 参考訳（メタデータ） (2026-05-27T09:25:37Z) - SPILLage: Agentic Oversharing on the Web [13.930845226612767]
LLMはオープンウェブ全体でユーザーのタスクを自動化し始めており、しばしばEメールやカレンダーなどのユーザーリソースにアクセスしている。
私たちは、Webエージェントが、ライブWebサイト全体にわたってタスクを代行するときに、どのようにユーザーリソースを扱うのかを尋ねる。
本稿では,Web上のアクションのエージェントトレースを通じて,非意図的なタスク関連ユーザ情報の開示を行うNatural Agentic Over sharingを形式化する。
論文 参考訳（メタデータ） (2026-02-13T23:02:50Z) - Too Helpful to Be Safe: User-Mediated Attacks on Planning and Web-Use Agents [3.7549350220109274]
我々は、不正なユーザーを騙して信頼できないコンテンツや攻撃者が制御するコンテンツをエージェントに中継する、ユーザー介在型攻撃について研究する。
サンドボックス環境における12の商業エージェントの系統的評価を行う。
以上の結果から,エージェントはデフォルトでは安全でありすぎることが示唆された。
論文 参考訳（メタデータ） (2026-01-14T03:29:13Z) - Air Gap: Protecting Privacy-Conscious Conversational Agents [44.04662124191715]
敵のサードパーティアプリがインタラクションのコンテキストを操作して,LDMベースのエージェントを騙して,そのタスクに関係のない個人情報を明らかにする,新たな脅威モデルを導入する。
本研究では,特定のタスクに必要なデータのみへのアクセスを制限することで,意図しないデータ漏洩を防止するために設計されたプライバシ意識エージェントであるAirGapAgentを紹介する。
論文 参考訳（メタデータ） (2024-05-08T16:12:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。