論文の概要: Honeypots for AI Agent Insider Threats
- arxiv url: http://arxiv.org/abs/2610.26664v1
- Date: Mon, 19 Oct 2026 16:19:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 02:03:07.497379
- Title: Honeypots for AI Agent Insider Threats
- Title（参考訳）: AIエージェントインサイダーの脅威に対するハネポット
- Abstract要約: 我々は、内部エージェント配置のセキュリティを改善するためのAI制御方法として、ハニーポットを提案する。
これらのミツバチは、実際の配備条件下での誤動作を誘発することができる。
我々は,ハニーポットの限界について論じ,エージェント能力が向上するにつれて,ハニーポットが有効であることを期待する理由を与える。
- 参考スコア（独自算出の注目度）: 0.6923057356983691
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents deployed inside organizations can pose an insider threat if they make mistakes, are compromised by an attacker, or pursue misaligned objectives. We propose honeypots as an AI control method to improve the security of internal agent deployments. Rather than only using honeypots for pre-deployment evaluations, defenders should plant decoy opportunities for harmful actions throughout the production environment to detect misbehavior, incriminate malicious agents, and deter attacks. Such honeypots can elicit misbehavior under real deployment conditions, identify malicious agents even if chain-of-thought monitorability degrades, provide reliable warnings about agent misbehavior to security teams, and scale cheaply to many agent instances. The presence of honeypots also introduces uncertainty about which opportunities are real, thus deterring malicious agents from attacking and reducing the rate of misbehavior. We discuss the limitations of honeypots and give reasons to expect them to remain effective as agent capabilities increase. Finally, we outline key research questions to measure and improve the effectiveness of honeypots: testing the robustness of honeypots, comparing their detection effectiveness with other monitoring methods, understanding their incrimination and deterrence effects, and building supporting infrastructure.
- Abstract（参考訳）: 組織内に展開されたAIエージェントは、過ちを犯したり、攻撃者によって妥協されたり、不整合した目標を追求した場合、インサイダーの脅威を引き起こす可能性がある。
我々は、内部エージェント配置のセキュリティを改善するためのAI制御方法として、ハニーポットを提案する。
事前の配備評価にのみハニーポットを使用するのではなく、ディフェンダーは生産環境全体で有害な行動の機会を減らし、誤った行動を検出し、悪意のあるエージェントを犯し、攻撃を抑える必要がある。
このようなハニーポットは、実際のデプロイメント条件下での誤動作を誘発し、たとえチェーンオブ思想の監視性が低下しても悪意のあるエージェントを特定し、セキュリティチームに対してエージェントの誤動作に関する信頼性の高い警告を提供し、多くのエージェントインスタンスに対して安価にスケールすることができる。
ハニーポットの存在は、どの機会が現実であるかの不確実性をもたらすため、悪意のあるエージェントが攻撃されることを防ぎ、誤った行動の頻度を下げる。
我々はハニーポットの限界を議論し、エージェント能力が向上するにつれて、ハニーポットが有効であることを期待する理由を与える。
最後に,ハニーポットのロバスト性を検証すること,ハニーポットの検出効率を他のモニタリング手法と比較すること,犯罪や抑止効果を理解すること,支援基盤を構築することなど,ハニーポットの有効性を計測し,改善するための重要な研究課題を概説する。
関連論文リスト
- CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。
この機能は、フィッシングに機密情報を公開する。
CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
論文 参考訳（メタデータ） (2026-10-06T05:07:33Z) - AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents [2.0181862894014446]
我々は、自律的な侵入テストエージェント用に調整された最初のクローズドループハニーポットであるAgentTrapを紹介した。
AgentTrapはセンチネルエンドポイントを使用して、良質な干渉、保護されたアプリケーションに根ざしたステートフルな偽装、行動誘導エスカレーションを回避する。
防御がない場合と比較して、AgentTrapは実際の攻撃成功率を95.8%から79.2%に下げ、18.8%で攻撃者のAPIキーを引き出すことに成功した。
論文 参考訳（メタデータ） (2026-10-02T06:07:37Z) - LLM-Based Penetration Testing in the Presence of Honeypots [0.08699280339422537]
大規模言語モデル(LLM)エージェントは、攻撃的なサイバーセキュリティタスクにますます採用されている。
LLMを駆使した攻撃者は異質なアーティファクトを推論し、ハニーポットの疑念を使って標的選択の決定を導くことができる。
LLM攻撃剤のハニーポット対応予算配分に関する体系的研究を行った。
論文 参考訳（メタデータ） (2026-09-08T01:09:03Z) - Breaking the Secret: Economic Interventions for Combating Collusion in Embodied Multi-Agent Systems [22.697901881084068]
自律エージェント間の衝突は、エンボディ化されたマルチエージェントシステムにおいて重要なセキュリティ脅威となる。
本稿では,エージェントの報酬構造を変えることで,共謀を緩和するインセンティブ的介入手法を提案する。
実験結果から,本手法はシステム効率を保ちながら,欠陥の誘発による癒着を効果的に抑制できることが示唆された。
論文 参考訳（メタデータ） (2026-04-26T03:13:47Z) - Towards Agentic Honeynet Configuration [0.8873265946210988]
ハニーポット(Honeypots)は、脅威情報を集めるために脆弱なサービスをエミュレートする詐欺システムである。
実践的ネットワークと計算資源では、露出可能なハニーポットの数を制限する。
この研究は、進行中の攻撃に対して、ハニーポットの露光を自律的に管理するAI駆動のエージェントアーキテクチャを調査する。
論文 参考訳（メタデータ） (2026-03-14T21:15:49Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。
敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
論文 参考訳（メタデータ） (2025-10-03T12:47:21Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - MELON: Provable Defense Against Indirect Prompt Injection Attacks in AI Agents [60.30753230776882]
LLMエージェントは間接的プロンプトインジェクション(IPI)攻撃に対して脆弱であり、ツール検索情報に埋め込まれた悪意のあるタスクはエージェントをリダイレクトして不正なアクションを取ることができる。
マスク機能によって修正されたマスク付きユーザでエージェントの軌道を再実行することで攻撃を検知する新しいIPIディフェンスであるMELONを提案する。
論文 参考訳（メタデータ） (2025-02-07T18:57:49Z) - Breaking ReAct Agents: Foot-in-the-Door Attack Will Get You In [5.65782619470663]
本稿では,直感的かつ効果的な手法でReActエージェントをどのように活用できるかを検討する。
実験の結果,間接的プロンプトインジェクション攻撃は,後続の悪意ある行為を行うエージェントの可能性を著しく高めることができることがわかった。
この脆弱性を軽減するために,エージェントが実行中の動作の安全性を再評価する簡単なリフレクション機構の実装を提案する。
論文 参考訳（メタデータ） (2024-10-22T12:24:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。