論文の概要: Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents

• arxiv url: http://arxiv.org/abs/2609.35576v1
• Date: Mon, 28 Sep 2026 16:34:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 20:44:30.451622
• Title: Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents
• Title（参考訳）: シェアボーンAIウイルス:LSMエージェントをまたがるメモリホッピング攻撃
• Abstract要約: 本研究では,このチャネルが自己伝播攻撃を可能にする障害モードについて検討する。 アーティファクトを介して導入された敵コンテンツがアシスタントの永続記憶に格納される、アーティファクトを介する伝搬を導入する。 攻撃は複数の独立したアシスタントにまたがって伝播し、拡張された相互作用シーケンスに持続する。
• 参考スコア（独自算出の注目度）: 33.34663538789592
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models are increasingly deployed as stateful assistants that retain information across interactions and use tools to read, modify, and create persistent artifacts. As these artifacts are shared between users, they form an indirect communication channel between otherwise independent assistants. We study a failure mode in which this channel enables self-propagating attacks. We introduce artifact-mediated propagation, where adversarial content introduced through an artifact (e.g. a report), is stored in an assistant's persistent memory, reproduced in a subsequently created artifact, and acquired by another assistant that later reads it. We evaluate this process in temporal human-agent universes that model artifact exchange between independently operated assistants over time, measuring whether an attack survives successive hand-offs, how many hops it reaches, and how broadly it spreads. We find that attacks can propagate across multiple independent assistants and persist over extended interaction sequences. In larger simulated environments, even GPT-5.6 Luna exhibits substantial spread, reaching 60-80% of agents with propagation chains extending to eight hops. These results show that persistent artifacts can act as durable carriers of adversarial state, allowing attacks to outlive individual interactions and spread across isolated assistants.
• Abstract（参考訳）: 大規模な言語モデルは、インタラクションに関する情報を保持し、永続的なアーティファクトを読み、修正し、生成するためのツールを使用するステートフルなアシスタントとして、ますます多くデプロイされている。 これらのアーティファクトはユーザ間で共有されるため、他の独立したアシスタント間の間接的なコミュニケーションチャネルを形成する。 本研究では,このチャネルが自己伝播攻撃を可能にする障害モードについて検討する。 人工物(例えばレポート)を通じて導入された敵対的コンテンツは、アシスタントの永続記憶に格納され、その後生成された人工物に再生され、その後他のアシスタントによって取得される。 我々は、時間とともに個別に操作されたアシスタント間の人工物交換をモデル化し、攻撃が連続したハンドオフに耐えられるかどうか、ホップの到達回数、そしてそれがいかに広範に広がるかを計測する時間的人間エージェント宇宙において、このプロセスを評価した。 攻撃は複数の独立したアシスタントにまたがって伝播し、拡張された相互作用シーケンスに持続する。 より大きなシミュレーション環境では、GPT-5.6 ルナでさえかなりの広がりを示し、伝播鎖が8つのホップに伸びる60-80%のエージェントに達する。 これらの結果は、永続的なアーティファクトが敵状態の耐久キャリアとして機能し、個々の相互作用を克服し、孤立したアシスタントにまたがる攻撃を可能にすることを示している。

関連論文リスト

• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• Context-Fractured Decomposition Attacks on Tool-Using LLM Agents: Exploiting Artifact Provenance Gaps [10.07589034106101]
  ジェイルブレイクの防御は、孤立したテキストではなく、クロスステップの構成について理にかなっている必要がある。 ツール利用 LLM エージェントのデプロイ障害モード, 改善ギャップを運用する。 トレースレベルの診断で障害モードを計測し、検証可能な緩和方向を概説する。
  論文  参考訳（メタデータ） (2026-06-08T06:29:42Z)
• ARCANE: Cross-Campaign Attacker Re-identification via Passive Beacon Telemetry -- A Bayesian Network Framework for Longitudinal Cyber Attribution [0.2538209532048867]
  ARCANEは、キャンペーンや組織全体で受動的テレメトリを集約し、永続的な敵の指紋を構築する確率的フレームワークである。 その結果,交叉群集だけでは帰属の曖昧さを解消できないことが明らかとなった。 アトリビューションの精度は、回避の増大の下で安定しており、主な制限は、敵の適応よりも特徴の区別が難しいことを示唆している。
  論文  参考訳（メタデータ） (2026-04-27T16:11:58Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• Sim-to-Real Causal Transfer: A Metric Learning Approach to Causally-Aware Interaction Representations [58.96953392466609]
  エージェント相互作用の現代的表現の因果認識を詳細に検討する。 近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。 本稿では,因果アノテーションを用いて潜在表現を規則化するメトリクス学習手法を提案する。
  論文  参考訳（メタデータ） (2023-12-07T18:57:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。