論文の概要: The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems

• arxiv url: http://arxiv.org/abs/2609.27155v1
• Date: Tue, 22 Sep 2026 23:39:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.802682
• Title: The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems
• Title（参考訳）: 類似性に基づく勧告システムにおけるエージェントに対する多段階攻撃
• Abstract要約: ソーシャルメディアプラットフォームに展開する自動エージェントの脆弱性について検討する。 エージェント中毒に関する既存の研究は、敵がエージェントに有毒物質を暴露できると仮定している。 我々は、現実的な有毒なポストを作るアルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 11.614473236446962
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: With recent advancements in large language models (LLMs) and LLM-based agents, these agents are becoming increasingly autonomous and gaining broader access to act on users' behalf on the internet. However, the vulnerability of automated agents deployed on social media platforms (e.g., for managing a user's personal account) remains underexplored. Existing studies on agent poisoning typically assume that the adversary can expose poisoned content to the agent. Although such an attack is direct and effective, it is more easily detected and mitigated. In the context of social media platforms, this leaves open whether the recommendation system itself would surface such content to the agent in a more subtle manner. Through theoretical analysis, we show that the like-score mechanism used in OASIS can be exploited, and we characterize the conditions under which a multi-stage chain of poisoned posts can steer the agent's feed. Based on these insights, we further develop an algorithm that crafts realistic poisoned posts. Experiments support our theoretical findings and demonstrate the effectiveness of the proposed algorithm. Notably, by exploiting the like-score feedback loop, the attack causes the recommendation system to select poisoned posts even when their user-post similarity falls below the retrieval threshold.
• Abstract（参考訳）: 近年の大規模言語モデル (LLM) と LLM ベースのエージェントの進歩により、これらのエージェントはますます自律的になり、インターネット上でのユーザの行動に広くアクセスできるようになる。 しかし、ソーシャルメディアプラットフォーム(例えば、ユーザの個人アカウントを管理するために)にデプロイされる自動エージェントの脆弱性は、まだ調査されていない。 エージェント中毒に関する既存の研究は、通常、敵はエージェントに毒分を暴露することができると仮定している。 このような攻撃は直接的かつ効果的であるが、より容易に検出され緩和される。 ソーシャルメディアプラットフォームでは、レコメンデーションシステム自体がそのようなコンテンツをより微妙な方法でエージェントに提示するかどうかが明らかになる。 理論的解析により、OASISで用いられる類似スコア機構を活用できることを示し、有毒なポストの多段階連鎖がエージェントのフィードを制御できる条件を特徴付ける。 これらの知見に基づいて、現実的な有毒なポストを作るアルゴリズムをさらに開発する。 実験は理論的な結果をサポートし,提案アルゴリズムの有効性を実証する。 特に、このようなスコアフィードバックループを利用することで、ユーザポストの類似性が検索しきい値を下回った場合でも、レコメンデーションシステムは有害なポストを選択する。

関連論文リスト

• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• Benchmarking the Robustness of Agentic Systems to Adversarially-Induced Harms [31.01865239234458]
  本稿では,エージェントから有害な作用を誘発する攻撃に対するエージェントシステムの堅牢性を評価する。 本稿では,エージェントシステムに対する害の新たな分類法と,新たなベンチマークであるBAD-ACTSを提案する。 BAD-ACTSは、異なるアプリケーション環境におけるエージェントシステムの4つの実装と、有害なアクションの188の高品質な例のデータセットで構成されている。
  論文  参考訳（メタデータ） (2025-08-22T15:53:22Z)
• Towards Unifying Quantitative Security Benchmarking for Multi Agent Systems [0.0]
  AIシステムの進化 自律エージェントが協力し、情報を共有し、プロトコルを開発することでタスクを委譲するマルチエージェントアーキテクチャをますます展開する。 そのようなリスクの1つはカスケードリスクである。あるエージェントの侵入はシステムを通してカスケードし、エージェント間の信頼を利用して他人を妥協させる。 ACI攻撃では、あるエージェントに悪意のあるインプットまたはツールエクスプロイトが注入され、そのアウトプットを信頼するエージェント間でカスケードの妥協とダウンストリーム効果が増幅される。
  論文  参考訳（メタデータ） (2025-07-23T13:51:28Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Breaking ReAct Agents: Foot-in-the-Door Attack Will Get You In [5.65782619470663]
  本稿では,直感的かつ効果的な手法でReActエージェントをどのように活用できるかを検討する。 実験の結果,間接的プロンプトインジェクション攻撃は,後続の悪意ある行為を行うエージェントの可能性を著しく高めることができることがわかった。 この脆弱性を軽減するために,エージェントが実行中の動作の安全性を再評価する簡単なリフレクション機構の実装を提案する。
  論文  参考訳（メタデータ） (2024-10-22T12:24:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。