論文の概要: Don't Trust Stubborn Neighbors: A Security Framework for Agentic Networks

• arxiv url: http://arxiv.org/abs/2603.15809v1
• Date: Mon, 16 Mar 2026 18:41:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-18 17:42:06.946935
• Title: Don't Trust Stubborn Neighbors: A Security Framework for Agentic Networks
• Title（参考訳）: Stubborn Neighborsを信頼するな - エージェントネットワークのセキュリティフレームワーク
• Authors: Samira Abedini, Sina Mavali, Lea Schönherr, Martin Pawelczyk, Rebekka Burkholz,
• Abstract要約: 悪意または妥協されたエージェントは、誤った情報を伝達し、集合的な結果を操作するために通信チャネルを利用することができる。 本研究では,社会科学からFriedkin-Johnsen意見形成モデルを借りて,このような操作がいかに広まるかを検討する。 本稿では,エージェント間の信頼を動的に調整し,敵の影響力を抑えることによって脅威を軽減する新しいメカニズムを提案する。
• 参考スコア（独自算出の注目度）: 32.791374704820925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Model (LLM)-based Multi-Agent Systems (MASs) are increasingly deployed for agentic tasks, such as web automation, itinerary planning, and collaborative problem solving. Yet, their interactive nature introduces new security risks: malicious or compromised agents can exploit communication channels to propagate misinformation and manipulate collective outcomes. In this paper, we study how such manipulation can arise and spread by borrowing the Friedkin-Johnsen opinion formation model from social sciences to propose a general theoretical framework to study LLM-MAS. Remarkably, this model closely captures LLM-MAS behavior, as we verify in extensive experiments across different network topologies and attack and defense scenarios. Theoretically and empirically, we find that a single highly stubborn and persuasive agent can take over MAS dynamics, underscoring the systems' high susceptibility to attacks by triggering a persuasion cascade that reshapes collective opinion. Our theoretical analysis reveals three mechanisms to increase system security: a) increasing the number of benign agents, b) increasing the innate stubbornness or peer-resistance of agents, or c) reducing trust in potential adversaries. Because scaling is computationally expensive and high stubbornness degrades the network's ability to reach consensus, we propose a new mechanism to mitigate threats by a trust-adaptive defense that dynamically adjusts inter-agent trust to limit adversarial influence while maintaining cooperative performance. Extensive experiments confirm that this mechanism effectively defends against manipulation.
• Abstract（参考訳）: 大規模言語モデル (LLM) ベースのマルチエージェントシステム (MAS) は,Web 自動化や反復計画,協調的な問題解決といったエージェントタスクに対して,ますます多くデプロイされている。 しかし、彼らのインタラクティブな性質は、新たなセキュリティリスクをもたらしている。悪意のあるまたは侵害されたエージェントは、通信チャネルを利用して誤情報を伝達し、集合的な結果を操作することができる。 本稿では,Friedkin-Johnsen世論形成モデルを社会科学から借用し,LLM-MAS研究のための一般的な理論的枠組みを提案する。 注目すべきは、このモデルがLLM-MASの挙動を密に捉え、異なるネットワークトポロジと攻撃および防御シナリオにわたる広範な実験で検証することである。 理論的に、経験的に、1つの非常に頑丈で説得力のあるエージェントがMASのダイナミクスを乗っ取ることができ、集団的見解を想起させる説得カスケードを起動することで、システムによる攻撃に対する高い感受性を示す。 私たちの理論分析では、システムのセキュリティを高めるための3つのメカニズムが明らかにされています。 a) 良性エージェントの数を増やすこと b) エージェントの生まれつきの頑固さまたはピア抵抗を増加させる、又は c) 潜在的な敵に対する信頼を減らすこと。 スケーリングは計算コストが高く、ネットワークのコンセンサスに到達する能力は低下するので、信頼適応型防御によって脅威を軽減する新しいメカニズムを提案し、協調性能を維持しながら、敵の影響力を制限するためにエージェント間信頼を動的に調整する。 大規模な実験により、このメカニズムが操作を効果的に防ぐことが確認された。

関連論文リスト

• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• SoK: Trust-Authorization Mismatch in LLM Agent Interactions [16.633676842555044]
  大規模言語モデル(LLM)は、外の世界と対話できる自律エージェントへと急速に進化している。 本稿ではエージェント・インタラクション・セキュリティのための統一型フォーマルレンズを提供する。 本稿では,信頼と権限のギャップに着目した新たなリスク分析モデルを提案する。
  論文  参考訳（メタデータ） (2025-12-07T16:41:02Z)
• SentinelNet: Safeguarding Multi-Agent Collaboration Through Credit-Based Dynamic Threat Detection [22.242243610133215]
  大規模言語モデル(LLM)を用いたマルチエージェントシステム(MAS)の信頼性と意思決定能力に悪質なエージェントが重大な脅威をもたらす マルチエージェントコラボレーションにおいて,悪意ある動作を積極的に検出・緩和する,最初の分散化フレームワークであるSentinelNetを提案する。 MASベンチマークの実験では、SentinelNetは2回の討論ラウンドで100%近く、悪意のあるエージェントのほぼ完全な検出を実現し、漏洩したベースラインからシステム精度の95%を回復している。
  論文  参考訳（メタデータ） (2025-10-17T21:10:35Z)
• Disagreements in Reasoning: How a Model's Thinking Process Dictates Persuasion in Multi-Agent Systems [49.69773210844221]
  本稿では,説得力はモデルスケールの関数である,という一般的な仮説に挑戦する。 一連のマルチエージェントの説得実験を通じて、パーサーション・デュナリティ(Persuasion Duality)と呼ばれる基本的なトレードオフを明らかにする。 以上の結果から, LRMの推理過程は説得に対する抵抗性が大きく, 当初の信念をより堅固に維持していることが明らかとなった。
  論文  参考訳（メタデータ） (2025-09-25T12:03:10Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Who's the Mole? Modeling and Detecting Intention-Hiding Malicious Agents in LLM-Based Multi-Agent Systems [25.6233463223145]
  大規模言語モデル(LLM-MAS)を用いたマルチエージェントシステムにおける意図隠蔽脅威について検討する。 高いステルス性を維持しながらタスク完了を微妙に妨害する4つの代表的な攻撃パラダイムを設計する。 これらの脅威に対処するために,心理学に着想を得た検出フレームワークであるAgentXposedを提案する。
  論文  参考訳（メタデータ） (2025-07-07T07:34:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。