論文の概要: AI Snitches Get Glitches: Towards Evading Agentic Surveillance
- arxiv url: http://arxiv.org/abs/2606.25836v2
- Date: Fri, 26 Jun 2026 07:45:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 13:57:07.324691
- Title: AI Snitches Get Glitches: Towards Evading Agentic Surveillance
- Title（参考訳）: エージェントサーベイランスを悪用するAIスニッチ
- Abstract要約: AIエージェントが利用可能な情報を分析し、レポートを作成し、利用可能なツールを使用してそれを送信する能力です。
いくつかのモデルは、監視を支援するために緊急性(即時性)を示す傾向を示すが、彼らはまた、政府を再利用するためにユーザーを監視しようとする試みを報告している。
エージェント監視はすでに容易に実装できるので、ユーザを保護するための包括的な技術的、倫理的、立法的枠組みが求められていると結論付けている。
- 参考スコア（独自算出の注目度）: 17.665262489915044
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: To better assist users with completing challenging tasks, AI agents mediate communications, access data, and interact with different APIs. Many employers (and even nation-states) already provide their users with this technology. However, widespread adoption of AI agents creates a new risk to abuse access to user data for another goal: surveilling users. These users might not even have the ability or permission to control the actions and data accesses of the surveilling agents. We introduce and formalize the problem of agentic surveillance: the ability of an AI agent to analyze available information, craft a report, and send it out using available tools. To evaluate surveillance capabilities across different models, we create SurveilBench, a dataset of various reporting scenarios focusing on three domains: corporate, education, and police. We find that some models exhibit emergent (i.e., unprompted) tendencies to help surveillance, but they also report the attempts to surveil users to the government. Finally, we repurpose prompt injections for evading surveillance and develop three evasion techniques that hide from, deceive, or induce over-escalation in surveillance agents. We conclude that agentic surveillance can already be easily implemented and, therefore, call for a comprehensive technical, ethical, and legislative framework to protect users.
- Abstract（参考訳）: 課題を完了したユーザを支援するために、AIエージェントは、コミュニケーションを仲介し、データにアクセスし、異なるAPIと対話する。
多くの雇用主(および国家さえも)が既にこのテクノロジーをユーザーに提供している。
しかし、AIエージェントが広く採用されれば、ユーザーデータへのアクセスを悪用する新たなリスクが生まれます。
これらのユーザは、監視エージェントのアクションやデータアクセスを制御する能力や許可さえ持っていないかもしれない。
AIエージェントが利用可能な情報を分析し、レポートを作成し、利用可能なツールを使用してそれを送信する能力です。
異なるモデルにわたる監視機能を評価するために、企業、教育、警察の3つの領域に焦点を当てたさまざまなレポートシナリオのデータセットであるSurveilBenchを作成します。
いくつかのモデルは、監視を助けるために緊急(即時)な傾向を示すが、彼らはまた、ユーザーを政府に監視しようとする試みを報告している。
最後に, 監視エージェントの過度なエスカレーションを隠蔽し, 騙し, 誘発する3つの回避技術を開発した。
エージェント監視はすでに実装が容易であり,ユーザを保護するための包括的技術,倫理的,立法的枠組みが求められている。
関連論文リスト
- When Agents See Differently: Exposing UI Desynchronization Threats in Mobile Agents [31.736012043129495]
我々は,ユーザとエージェントが同一インタフェースから一貫した情報を観測していることを示す。
同じUI状態は、ユーザとエージェントに実質的に異なる情報を提示することができる。
我々は,ユーザ実行時命令非依存のUIデ同期攻撃を構築し,デプロイ可能なAPKで実現する自動フレームワークを開発する。
論文 参考訳（メタデータ） (2026-09-15T07:02:10Z) - SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。
このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。
我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
論文 参考訳（メタデータ） (2026-03-24T08:21:51Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - What's the next frontier for Data-centric AI? Data Savvy Agents [71.76058707995398]
我々は、エージェントシステムの設計において、データに精通する能力が最優先すべきであると主張している。
本稿では,このビジョンを実現するための4つの重要な機能を提案する。プロアクティブデータ取得,ソフシフィケートデータ処理,インタラクティブテストデータ合成,連続的適応。
論文 参考訳（メタデータ） (2025-11-02T17:09:29Z) - Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。
敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
論文 参考訳（メタデータ） (2025-10-03T12:47:21Z) - AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。
我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
論文 参考訳（メタデータ） (2025-03-12T19:30:31Z) - YETI (YET to Intervene) Proactive Interventions by Multimodal AI Agents in Augmented Reality Tasks [16.443149180969776]
Augmented Reality (AR)ヘッドウェアは、日々の手続き的なタスクを解く際のユーザエクスペリエンスを一意に改善することができる。
このようなAR機能は、AIエージェントがユーザーのマルチモーダル機能に関連するアクションを見て耳を傾けるのに役立つ。
一方、AIエージェントのプロアクティビティは、人間が観察されたタスクのミスを検出し、修正するのに役立つ。
論文 参考訳（メタデータ） (2025-01-16T08:06:02Z) - TeD-SPAD: Temporal Distinctiveness for Self-supervised
Privacy-preservation for video Anomaly Detection [59.04634695294402]
人間の監視のないビデオ異常検出(VAD)は複雑なコンピュータビジョンタスクである。
VADのプライバシー漏洩により、モデルは人々の個人情報に関連する不必要なバイアスを拾い上げ、増幅することができる。
本稿では,視覚的プライベート情報を自己管理的に破壊する,プライバシーに配慮したビデオ異常検出フレームワークTeD-SPADを提案する。
論文 参考訳（メタデータ） (2023-08-21T22:42:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。