論文の概要: How does Adversarial Influence Scale in Multi-Agent Systems?

• arxiv url: http://arxiv.org/abs/2609.30028v2
• Date: Tue, 29 Sep 2026 16:55:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:25.592865
• Title: How does Adversarial Influence Scale in Multi-Agent Systems?
• Title（参考訳）: マルチエージェントシステムにおける敵対的影響尺度
• Abstract要約: 本研究は,集団の規模が拡大し,習熟者が普及するにつれて,詐欺に対する感受性がいかにスケールするかを考察する。 欠陥率, 当初正しいエージェントが不正確な最終回答に切り替える頻度は, この割合で直線的に上昇する。
• 参考スコア（独自算出の注目度）: 23.392788498957497
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Multi-agent deliberation can improve performance, but what happens when some agents do not act in good faith? In practice, an agent may be deceptive and work to subvert the group, whether through its own objectives or external instruction. We study how susceptibility to deception scales as groups increase in size and deceivers become more prevalent. It is not the number of agents in the group that matters, but the proportion of deceivers. We observe that the defection rate, how often initially correct agents switch to an incorrect final answer, rises linearly with this proportion. Whereas humans in comparable conformity studies are reliably swayed only when misleading confederates form a majority, LLM agents defect regularly even when deceivers remain a minority. Susceptibility also depends on which models are interacting, especially on the honest agent side. Unexpectedly, allowing deceivers to coordinate privately can make them less effective. Altogether, our results show that adding more agents is therefore not a sufficient defense, because the adversary can simply scale with the group.
• Abstract（参考訳）: マルチエージェントの議論はパフォーマンスを向上させることができるが、あるエージェントが誠実に振る舞わなかったらどうなるのか? 実際には、エージェントは詐欺的であり、自身の目的や外部の指示によっても、グループを転覆させようとする。 本研究は,集団の規模が拡大し,習熟者が普及するにつれて,詐欺に対する感受性がいかにスケールするかを考察する。 問題となるのはグループ内のエージェントの数ではなく、偏見の比率である。 欠陥率, 当初正しいエージェントが不正確な最終回答に切り替える頻度は, この割合で直線的に上昇する。 同等の適合性研究の人間は、誤解を招く連合体が多数を占める場合にのみ確実に揺れるが、LDMエージェントは少数派のままでも定期的に欠陥する。 感受性は、どのモデルが相互作用しているか、特に正直なエージェント側に依存する。 予期せぬことに、シーバーがプライベートにコーディネートできるようにすれば、それらがより効果的になる。 以上の結果から, 対戦相手は単純にグループをスケールできるため, より多くのエージェントを追加することは十分な防御策ではないことが示唆された。

関連論文リスト

• Aligned Alone, Misaligned Together: Forecasting Adversarial Capture in LLM Agent Populations [4.215221129670858]
  AIの安全性評価単位は依然として個々のモデルであるが、言語モデルエージェントは、相互作用する集団にますますデプロイされている。 本研究では,言語モデルモニタの集団が警告をエスカレートするか削除するかを判断するセキュリティトリアージタスクについて検討する。 ひとりのエージェントが判断する2つの警告が、ほぼ同一で、集団的な振る舞いをはるかに遠ざけていることがわかりました。
  論文  参考訳（メタデータ） (2026-08-23T14:49:59Z)
• Misinformation Propagation in Benign Multi-Agent Systems [11.967259729189388]
  マルチエージェントシステムは、医学的診断、法的な分析、法医学的な意思決定など、ハイテイクな環境にますます導入されている。 彼らの信頼性は、単一のエージェントが誤った、あるいは誤解を招くコンテキストから推論した場合、危険にさらされる可能性がある。 本研究は、意図に基づく誤報を良性単エージェントおよび多エージェントシステムに注入することにより、このリスクを研究する。
  論文  参考訳（メタデータ） (2026-06-15T13:40:01Z)
• Examining Agents' Bias Amplification versus Suppression in Multi-Agent Systems [5.210390383114933]
  バイアスのあるエージェントがシステム全体の公平性に大きく影響することを示す。 エージェントが一様にバイアスにさらされると、システム全体のバイアスは増加し、個々のエージェントのバイアスの加算和を超える。
  論文  参考訳（メタデータ） (2026-05-27T07:53:29Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• When Agents See Humans as the Outgroup: Belief-Dependent Bias in LLM-Powered Agents [30.859825973762018]
  本稿は、LSMによるエージェントは、人口統計バイアス(例えば、性別、宗教)だけでなく、グループ間バイアスも最小限の「us」と「them」の手がかりで示していることを示している。 エージェントは他のAIエージェントを内集団として扱うことができ、人間を外集団として扱うことができる。
  論文  参考訳（メタデータ） (2026-01-01T07:18:36Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
  オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。 エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。 このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
  論文  参考訳（メタデータ） (2023-02-15T01:57:57Z)
• Learning to Incentivize Other Learning Agents [73.03133692589532]
  我々は、学習インセンティブ関数を用いて、RLエージェントに他のエージェントに直接報酬を与える能力を持たせる方法を示す。 このようなエージェントは、一般的なマルコフゲームにおいて、標準のRLと対戦型エージェントを著しく上回っている。 私たちの仕事は、マルチエージェントの未来において共通の善を確実にする道のりに沿って、より多くの機会と課題を指しています。
  論文  参考訳（メタデータ） (2020-06-10T20:12:38Z)
• Scalable Multi-Agent Inverse Reinforcement Learning via Actor-Attention-Critic [54.2180984002807]
  マルチエージェント逆逆強化学習 (MA-AIRL) は, 単エージェントAIRLをマルチエージェント問題に適用する最近の手法である。 本稿では,従来の手法よりもサンプル効率が高く,スケーラブルなマルチエージェント逆RLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-24T20:30:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。