論文の概要: VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents
- arxiv url: http://arxiv.org/abs/2609.38270v1
- Date: Tue, 29 Sep 2026 14:13:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.449934
- Title: VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents
- Title（参考訳）: ウイルスカスケード:LDMを動力とするレコメンダーエージェントにおける協調反射のハイジャック
- Abstract要約: LLMを利用したエージェントレコメンデータシステムは、ユーザやアイテムを自律的なエージェントとしてインスタンス化する。
単一のエージェントに注入された敵対的証拠は、正当な嗜好の物語に合理化することができる。
我々は,意味的および構造的攻撃面を共同で形成する最初のブラックボックスターゲットプロモーションアタックである Virus Cascade を提案する。
- 参考スコア（独自算出の注目度）: 6.518256839387337
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Advancing beyond traditional static scoring models, LLM-powered agentic recommender systems (LLM-ARS) instantiate users and items as autonomous agents, whose semantic states are dynamically refined through a recurrent process known as collaborative reflection. While this mechanism improves recommendation quality, it simultaneously introduces a systemic vulnerability: adversarial evidence injected into a single agent can be rationalised into a legitimate preference narrative, written back into memory, and propagated to other agents through interaction contexts. We term the local rationalisation process reflection laundering, and its system-wide escalation through collaborative reflection collaborative-reflection hijacking. Existing attacks on recommender systems, whether based on interaction-level data poisoning or text-level adversarial perturbations, assume static pipelines and thus cannot exploit this recurrent, multi-agent amplification pathway. To bridge this gap, we first conduct a controlled vulnerability analysis that establishes two exploitable properties underlying collaborative-reflection hijacking: reflective persistence and cross-agent propagation. Then building on these findings, we propose VirusCascade, the first black-box targeted promotion attack that jointly shapes semantic and structural attack surfaces: the former ensures the target item is naturally rationalised as satisfying broad user preferences, the latter positions it for system-wide propagation. Extensive experiments on four real-world datasets across diverse LLM-ARS architectures demonstrate that VirusCascade consistently achieves state-of-the-art targeted exposure under evaluated stealth constraints, reaching a mean E@20 of 0.384 and surpassing the strongest baseline by an absolute margin of +0.185.
- Abstract（参考訳）: 従来の静的スコアリングモデルを超えて、LLM-ARS(LLM-ARS)はユーザとアイテムを自律エージェントとしてインスタンス化する。
このメカニズムはレコメンデーションの品質を改善する一方で、同時にシステム的脆弱性を導入する。単一のエージェントに注入された敵対的証拠は、正当な嗜好の物語に合理化され、メモリに書き戻され、相互作用コンテキストを通じて他のエージェントに伝達される。
我々は、局所的合理化プロセスのリフレクション洗浄と、協調的リフレクション-リフレクションハイジャックによるシステム全体のエスカレーションを述べる。
既存のリコメンデータシステムに対する攻撃は、相互作用レベルのデータ中毒やテキストレベルの逆転摂動に基づいており、静的パイプラインを仮定しているため、この繰り返しマルチエージェント増幅経路を利用することはできない。
このギャップを埋めるために、我々はまず制御された脆弱性分析を行い、協調反射ハイジャックの基礎となる2つの悪用可能な特性、すなわち反射持続性とエージェント間伝播を確立する。
そして、これらの知見に基づいて、意味的および構造的攻撃面を共同で形成する最初のブラックボックスターゲットプロモーションアタックであるVrusCascadeを提案する。
多様なLLM-ARSアーキテクチャにわたる4つの実世界のデータセットに対する大規模な実験により、VirusCascadeは評価されたステルス制約の下で常に最先端のターゲット露光を達成し、平均E@20 0.384 に達し、最強のベースラインを+0.185 で上回った。
関連論文リスト
- Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity [2.0524609401792397]
我々は,汎用マルチエージェントシステムからの攻撃と防御をエージェントベースの協調フィルタリング設定に適応させる。
我々は,接続の2つの側面が攻撃と防御の結果をどう表現するかを特徴付ける。
探索的拡張として、予測攻撃結果によるCF構成のランク付けにおいて、疫病に触発された静的メトリクスの適用性を評価する。
論文 参考訳（メタデータ） (2026-08-04T07:49:58Z) - When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - IterInject: Indirect Prompt Injection Against LLM Agents via Feedback-Guided Iterative Optimization [33.58630045185762]
既存の攻撃は、エージェント固有の防御に適応できない静的ペイロードに依存している。
インジェクション,診断,診断のループを閉じるフィードバック誘導反復型フレームワークである oursys を導入する。
ステップは、失敗パターンから新しい偽の種を生成し、戦略空間を自己進化させる。
論文 参考訳（メタデータ） (2026-05-23T17:00:06Z) - Prompt-Unknown Promotion Attacks against LLM-based Sequential Recommender Systems [51.504307822017985]
大規模言語モデルを用いたシーケンシャルレコメンデータシステム(LLM-SRS)は,最近顕著な性能を示した。
本稿では, LLM-SRSにおけるアイテムプロモーション攻撃について, 攻撃者に対してシステムプロンプトと被害者モデルの両方が未知な状況下で, より現実的な状況下で検討する。
論文 参考訳（メタデータ） (2026-04-26T10:09:26Z) - RetroAgent: From Solving to Evolving via Retrospective Dual Intrinsic Feedback [54.39884046754265]
RetroAgentは、エージェントが複雑なインタラクティブ環境をマスターできるオンラインRLフレームワークである。
実験の結果,RetroAgentはSOTA(State-of-the-art)の性能を達成できた。
論文 参考訳（メタデータ） (2026-03-09T16:23:33Z) - MIRAGE: Misleading Retrieval-Augmented Generation via Black-box and Query-agnostic Poisoning Attacks [47.46936341268548]
Retrieval-Augmented Generation (RAG)システムでは、コーパス中毒という致命的な攻撃面が導入されている。
我々は,厳格なブラックボックスとクエリ非依存環境のために設計された,新しい多段階毒素パイプラインであるMIRAGEを提案する。
大規模な実験により、MIRAGEは攻撃効果とステルスネスの両方において既存のベースラインを著しく上回っていることが示された。
論文 参考訳（メタデータ） (2025-12-09T06:38:16Z) - Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。
ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。
実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
論文 参考訳（メタデータ） (2025-10-06T14:48:39Z) - STARec: An Efficient Agent Framework for Recommender Systems via Autonomous Deliberate Reasoning [54.28691219536054]
我々は、自律的な熟考的推論機能を備えたレコメンデータシステムを支援する、ゆっくり考えられた拡張エージェントフレームワークSTARecを紹介する。
我々は,先進的推論モデルと嗜好整合型報酬形成から構造化知識の蒸留を組み合わせた2段階のパラダイムであるアンカー強化訓練を開発する。
MovieLens 1MとAmazon CDsベンチマークの実験では、STARecは最先端のベースラインと比較して、大幅なパフォーマンス向上を実現している。
論文 参考訳（メタデータ） (2025-08-26T08:47:58Z) - DrunkAgent: Stealthy Memory Corruption in LLM-Powered Recommender Agents [31.542621203252295]
大規模言語モデル (LLM) を利用したエージェントは、リコメンデータシステム (RS) でますます使われている。
本稿では,LSMを用いたリコメンデータエージェントにおけるメモリベースの脆弱性について,初めて体系的に検討する。
我々はDrunkAgentという新しいブラックボックス攻撃フレームワークを提案する。
論文 参考訳（メタデータ） (2025-03-31T07:35:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。