論文の概要: When Agents Talk: Honeytokens under Shared Memory

• arxiv url: http://arxiv.org/abs/2608.11436v1
• Date: Tue, 11 Aug 2026 21:03:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.387365
• Title: When Agents Talk: Honeytokens under Shared Memory
• Title（参考訳）: エージェントが話すとき: 共有記憶下でのハネトケン
• Abstract要約: 2026年のサイバー能力評価では、短命なAIエージェントが共有パッケージリポジトリを永続メモリにしました。 より広範囲な評価は、Hugging Faceへの侵入で頂点に達した。 情報を共有し、信頼されたポリシーを実践できるアタッカーに認識されることなく、ミツバチは信頼できるエージェントに無害になるのか?
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: During a 2026 cyber-capability evaluation, short-lived AI agents turned a shared package repository into persistent memory, passing exploit findings to later agents and rebuilding the channel after it was removed. The broader evaluation culminated in an intrusion into Hugging Face. This episode raises a question for defensive deception: can a honeytoken be harmless to trusted agents without becoming recognisable to an attacker who shares their information and can implement the trusted policy? The answer is no. A trusted rule that selects genuine objects while avoiding decoys can be copied by the attacker, while a total-variation bound limits legitimate compatibility when decoys resemble genuine objects. Shared memory creates a second leakage channel by pooling weak fingerprints. For a fixed candidate, repeated non-triggering probes drive the minimum Bayes classification error to zero when type-dependent response laws differ and are known or learnable. If probing triggers containment, learning also requires the coalition to remain active long enough. Transfer across objects requires a stable deployment rule and information that orients the classes. A separate detection bound distinguishes reliable token activation from reliable attack coverage. The architectural response is to keep token identity in a private reference monitor and route legitimate agents through a provenance-enforcing broker. This produces high-confidence detection only for a specified policy violation. Honeytokens remain useful sensors, but a separate security boundary is still required.
• Abstract（参考訳）: 2026年のサイバー能力評価において、短命なAIエージェントは共有パッケージリポジトリを永続的なメモリに変換し、エクスプロイトの発見を後続のエージェントに渡すとともに、削除後にチャネルを再構築した。 より広範囲な評価は、Hugging Faceへの侵入で頂点に達した。 情報を共有し、信頼されたポリシーを実践できるアタッカーに認識されることなく、ミツバチは信頼できるエージェントに無害になるのか? 答えはノーです。 デコイを回避しながら本物のオブジェクトを選択する信頼されたルールは、攻撃者によってコピーされる。 共有メモリは弱い指紋をプールすることで第2の漏洩チャネルを生成する。 固定された候補に対して、繰り返し非トリガープローブは、型依存応答則が異なる場合、最小ベイズ分類誤差をゼロにする。 調査が封じ込められた場合、学習は連立政権が十分な期間活動し続けることを要求する。 オブジェクトを渡すには、安定したデプロイメントルールとクラスを指向する情報が必要です。 別個の検出バウンダリは、信頼できるトークンアクティベーションと信頼できる攻撃カバレッジを区別する。 アーキテクチャ上の反応は、トークンのIDをプライベートリファレンスモニタに保持し、プロファイナンス強化ブローカを通じて正当なエージェントをルーティングすることだ。 これにより、特定のポリシー違反に対してのみ高い信頼度を検出することができる。 ハネトケンは有用なセンサーだが、別のセキュリティ境界が必要である。

関連論文リスト

• Zero-Knowledge Predicate Proofs Between AI Agents: A Measured, Cross-Protocol Gateway and the Source-Integrity Gap [0.0]
  マルチエージェントAIプラットフォームは、ステージングからプロダクションへ素早く移行するが、エージェントが信頼を確立する方法はまだ初歩的だ。 提案から実行システムまで,エージェント間での検証可能なデータ最小化を行う。 32ビットのしきい値述語は6.2msで証明され、608バイトのBulletproofs証明で1.0msで検証される。
  論文  参考訳（メタデータ） (2026-08-30T23:16:17Z)
• Safeguards Based on Copyable Context Cannot Provide Reliable Safety for LLMs [61.39153106347947]
  大規模な言語モデルのセーフガードは、答えがどのように使われるかを見る前に、答えるかどうかを決定する。 同じ回答は、認定されたプロフェッショナルやアタッカーを助け、攻撃者は、良心的な要求とインタラクション履歴を模倣することができる。 我々は、下流での使用に関する証拠からモデルがリリースした能力を分離する。その証拠がコピー可能である場合、有効な回答を保ちながら、アタッカー支援の正確な最悪のフロアを導出する。
  論文  参考訳（メタデータ） (2026-07-30T09:59:08Z)
• Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming [8.592488240217625]
  本研究では, 1 つのエージェント研究環境を用いて, 生産用 LLM エージェントの自動リピートについて検討した。 脆弱性仮説を提案し、ファルシファイアを構築し、有効な攻撃をインスタンス化し、サンドボックス化されたハーネスで実行し、検証された結果をVulnerability Concept Graph(VCG)にプロモートする。 直接および間接的な攻撃をカバーする3つのシナリオに関するClude CodeとCodexの裏側で、発見された概念は、モデルとエージェント間で再利用可能な脆弱性コアを明らかにしている。
  論文  参考訳（メタデータ） (2026-07-13T15:31:04Z)
• Cognitive Firewall: A Proactive, Zero-Trust, Multi-Gate Framework for LLM Safety [4.989841843916001]
  本稿では,プロアクティブなランタイム監視フレームワークであるCognitive Firewallについて述べる。 4つのジェイルブレイクベンチマークと良心的な安全テストセットの実験は、Cognitive Firewallがシングルターン、マルチターン、オーソリティベース、人為的な攻撃で攻撃の成功を大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-01T06:36:29Z)
• AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
  本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。 3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。 これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
  論文  参考訳（メタデータ） (2026-05-25T18:53:22Z)
• The Misattribution Gap: When Memory Poisoning Looks Like Model Failure in Agentic AI Systems [1.0262304700896199]
  EmphSemantic Norm Drift (SND) をエージェント不正行為の第3の経路として定式化する。 SNDでは、ポリシーフォーマットの文書が通常のアップロードを通じて共有ベクターストアに入り、その後、信頼されたシステムコンテキストとして再現れる。 偽合成検査は87.5%の精度と偽陽性のゼロの因果関係を識別する。
  論文  参考訳（メタデータ） (2026-05-12T20:21:47Z)
• ARCANE: Cross-Campaign Attacker Re-identification via Passive Beacon Telemetry -- A Bayesian Network Framework for Longitudinal Cyber Attribution [0.2538209532048867]
  ARCANEは、キャンペーンや組織全体で受動的テレメトリを集約し、永続的な敵の指紋を構築する確率的フレームワークである。 その結果,交叉群集だけでは帰属の曖昧さを解消できないことが明らかとなった。 アトリビューションの精度は、回避の増大の下で安定しており、主な制限は、敵の適応よりも特徴の区別が難しいことを示唆している。
  論文  参考訳（メタデータ） (2026-04-27T16:11:58Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Not All Prompts Are Secure: A Switchable Backdoor Attack Against Pre-trained Vision Transformers [51.0477382050976]
  この作業でスイッチトークンと呼ばれる追加のプロンプトトークンは、バックドアモードをオンにすることができ、良心的なモデルをバックドアモードに変換することができる。 事前訓練されたモデルを攻撃するため、SWARMと呼ばれる攻撃はトリガを学習し、スイッチトークンを含むトークンをプロンプトする。 多様な視覚認識タスクの実験は、切り替え可能なバックドア攻撃の成功を確認し、95%以上の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-05-17T08:19:48Z)
• Backdoor Attack against Speaker Verification [86.43395230456339]
  学習データを汚染することにより,話者検証モデルに隠れたバックドアを注入できることを示す。 また,既存のバックドア攻撃が話者認証攻撃に直接適用できないことも実証した。
  論文  参考訳（メタデータ） (2020-10-22T11:10:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。