論文の概要: Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity

• arxiv url: http://arxiv.org/abs/2608.03272v1
• Date: Tue, 04 Aug 2026 07:49:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 07:04:20.705611
• Title: Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity
• Title（参考訳）: 接続性による多エージェント協調フィルタリングシステムの攻撃と防御
• Abstract要約: 我々は,汎用マルチエージェントシステムからの攻撃と防御をエージェントベースの協調フィルタリング設定に適応させる。 我々は,接続の2つの側面が攻撃と防御の結果をどう表現するかを特徴付ける。 探索的拡張として、予測攻撃結果によるCF構成のランク付けにおいて、疫病に触発された静的メトリクスの適用性を評価する。
• 参考スコア（独自算出の注目度）: 2.0524609401792397
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent collaborative filtering (CF) systems coordinate autonomous LLM-powered user and item agents through natural-language interaction to refine preferences and generate recommendations. These systems inherit vulnerabilities from both their data-driven nature and their multi-agent interactions, which manifest in distinct ways. Understanding how connectivity modulates vulnerability in these systems could facilitate the development of more robust recommendation pipelines. In this work, we adapt attacks and defenses from the general multi-agent systems (MAS) literature to the agent-based CF setting, evaluating them under systematically varied connectivity in the AgentCF framework, where CF connectivity is characterized along two axes: (i) candidate count (the number of item candidates per turn per user, measuring user-side interaction density) and (ii) catalog concentration (the degree of item catalog overlap across users). Our contributions include: (1) Adaptation: we reproduce MAS-inspired attacks and defenses in the agentic CF domain, confirming partial transferability of original observations. (2) Characterization: we characterize how the two aspects of connectivity shape attack and defense outcomes, revealing role asymmetries between user and item agents, non-monotonic temporal dynamics in attack efficacy, and divergent patterns across dissemination and extraction attack goals. Additionally, as an exploratory extension, we assess the applicability of epidemic-inspired static metrics in ranking CF configurations by expected attack outcome, potentially enabling cost-efficient robustness assessment. Implementation is available at https://github.com/anjunhu/ConnACF
• Abstract（参考訳）: マルチエージェント協調フィルタリング(CF: Multi-agent collaborative filtering)システムは、自然言語によるインタラクションを通じて、自律LLMを利用するユーザとアイテムエージェントを協調し、好みを洗練し、レコメンデーションを生成する。 これらのシステムは、データ駆動性と異なる方法で現れるマルチエージェント相互作用の両方から脆弱性を継承する。 これらのシステムの脆弱性をどのように修正するかを理解することで、より堅牢なレコメンデーションパイプラインの開発が容易になる。 本研究では,汎用マルチエージェントシステム(MAS)の文献からの攻撃と防御をエージェントベースCF設定に適応させ,エージェントCFフレームワークにおいて,CF接続を2つの軸に沿って特徴付ける系統的に異なる接続性で評価する。 一 候補者数(利用者一人当たりの項目数、利用者側相互作用密度)及び (二 カタログの集中度(利用者間でのカタログの重複度) 適応: エージェントCF領域におけるMASにインスパイアされた攻撃と防御を再現し, 元の観測結果の一部の伝達性を確認した。 2) 接続形態の攻撃と防御効果の2つの側面, ユーザエージェントとアイテムエージェントの非対称性, 攻撃効果の非単調な時間的ダイナミクス, 普及と攻撃目標の分散パターンを特徴付ける。 さらに、探索的拡張として、予測攻撃結果によってCF構成のランク付けにおいて、疫病に触発された静的メトリクスの適用性を評価し、コスト効率の高いロバストネス評価を可能にする可能性がある。 実装はhttps://github.com/anjunhu/ConnACFで公開されている。

関連論文リスト

• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• When Agents Go Rogue: Activation-Based Detection of Malicious Behaviors in Multi-Agent Systems [14.51256195199332]
  LLMベースのMulti-Agent Systems (MAS) はエージェントとインタラクションのレベルでの脆弱性のため、重大なセキュリティ上の課題に直面している。 既存のMASセキュリティディフェンスは、意味論的に明示的な悪意のある攻撃と、MASトポロジの明示的なグラフベースのモデリングとエージェントレベルの相互作用という、2つのコア前提に基づいて構築されている。 我々は,MASにおける悪意行動検出のためのアクティベーションベースのフレームワークであるAcMASを提案する。
  論文  参考訳（メタデータ） (2026-07-07T21:12:27Z)
• GAMMAF: A Common Framework for Graph-Based Anomaly Monitoring Benchmarking in LLM Multi-Agent Systems [0.42970700836450487]
  本稿では,オープンソースのベンチマークプラットフォームであるGammaf(LLM Multi-Agent System Framework用のグラフベースの異常モニタリング)を紹介する。 Gammafは、新しい防御機構ではなく、合成マルチエージェントインタラクションデータセットを生成するために設計された包括的な評価アーキテクチャである。
  論文  参考訳（メタデータ） (2026-04-27T13:45:14Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Towards Adaptive, Scalable, and Robust Coordination of LLM Agents: A Dynamic Ad-Hoc Networking Perspective [31.81236449944822]
  RAPSは、LLMエージェントの適応性、拡張性、堅牢な調整のための、評判の高いパブリッシュ・サブスクライブ・パラダイムである。 RAPSは2つの一貫性のあるオーバーレイを組み込んでいる: (i) リアクティブ・サブスクライブ(reactive Subscription) エージェントがその意図を動的に洗練することを可能にし、 (ii) ベイジアン・レピュテーション(Bayesian Reputation)。
  論文  参考訳（メタデータ） (2026-02-08T15:26:02Z)
• Multi-Agent Collaborative Intrusion Detection for Low-Altitude Economy IoT: An LLM-Enhanced Agentic AI Framework [60.72591149679355]
  低高度経済の急速な拡大により、インターネット・オブ・モノ(LAE-IoT)ネットワークは前例のないセキュリティ上の課題を生んだ。 従来の侵入検知システムは、空中IoT環境のユニークな特徴に対処できない。 LAE-IoTネットワークにおける侵入検出を強化するための大規模言語モデル(LLM)対応エージェントAIフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-25T12:47:25Z)
• Emergent Coordination in Multi-Agent Language Models [2.504366738288215]
  マルチエージェントシステムが高次構造の兆候を示すかどうかをテストするための情報理論フレームワークを提案する。 この情報分解により、マルチエージェントLLMシステムに動的に出現するかどうかを測定することができる。 我々は,エージェントの直接通信を使わずに,単純な推測ゲームを用いた実験に本フレームワークを適用した。
  論文  参考訳（メタデータ） (2025-10-05T11:26:41Z)
• STARec: An Efficient Agent Framework for Recommender Systems via Autonomous Deliberate Reasoning [54.28691219536054]
  我々は、自律的な熟考的推論機能を備えたレコメンデータシステムを支援する、ゆっくり考えられた拡張エージェントフレームワークSTARecを紹介する。 我々は,先進的推論モデルと嗜好整合型報酬形成から構造化知識の蒸留を組み合わせた2段階のパラダイムであるアンカー強化訓練を開発する。 MovieLens 1MとAmazon CDsベンチマークの実験では、STARecは最先端のベースラインと比較して、大幅なパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2025-08-26T08:47:58Z)
• Towards Unifying Quantitative Security Benchmarking for Multi Agent Systems [0.0]
  AIシステムの進化 自律エージェントが協力し、情報を共有し、プロトコルを開発することでタスクを委譲するマルチエージェントアーキテクチャをますます展開する。 そのようなリスクの1つはカスケードリスクである。あるエージェントの侵入はシステムを通してカスケードし、エージェント間の信頼を利用して他人を妥協させる。 ACI攻撃では、あるエージェントに悪意のあるインプットまたはツールエクスプロイトが注入され、そのアウトプットを信頼するエージェント間でカスケードの妥協とダウンストリーム効果が増幅される。
  論文  参考訳（メタデータ） (2025-07-23T13:51:28Z)
• AnyMAC: Cascading Flexible Multi-Agent Collaboration via Next-Agent Prediction [77.62279834617475]
  本稿では,グラフ構造ではなくシーケンシャル構造を用いて,マルチエージェント協調を再考するフレームワークを提案する。 提案手法は,(1)各ステップで最も適したエージェントロールを選択するNext-Agent Predictionと,(2)各エージェントが前ステップから関連する情報にアクセスできるようにするNext-Context Selectionの2つの重要な方向に焦点を当てる。
  論文  参考訳（メタデータ） (2025-06-21T18:34:43Z)
• AgentCF: Collaborative Learning with Autonomous Language Agents for Recommender Systems [112.76941157194544]
  本稿では,エージェントベースの協調フィルタリングにより,レコメンデータシステムにおけるユーザとイテムのインタラクションをシミュレートするエージェントCFを提案する。 我々は、ユーザだけでなく、アイテムをエージェントとして、創造的に考慮し、両方のエージェントを同時に最適化する協調学習アプローチを開発します。 全体として、最適化されたエージェントは、ユーザ・イテム、ユーザ・ユーザ・ユーザ、アイテム・イテム、集合的インタラクションなど、フレームワーク内での多様なインタラクションの振る舞いを示す。
  論文  参考訳（メタデータ） (2023-10-13T16:37:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。