論文の概要: LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades

• arxiv url: http://arxiv.org/abs/2610.30769v1
• Date: Thu, 22 Oct 2026 05:42:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.227309
• Title: LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades
• Title（参考訳）: LLMマルチエージェントシステムはハーディングとランウェイのカスケードに適している
• Abstract要約: 大規模言語モデル(LLM)は、他者の選択に応えて協調するマルチエージェントシステムでますます機能する。 この脆弱性は、レコメンデータシステムにおけるマルチエージェントコラボレーション、自動評価、複雑な問題解決、不正な共謀に影響を及ぼす。
• 参考スコア（独自算出の注目度）: 7.712795189267857
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) increasingly operate in multi-agent systems where they collaborate by responding to others' choices, creating endogenous feedback loops with vulnerability to social influence, herding behavior and runaway cascades. Following the design of the classic Music Lab experiment, we tested this vulnerability in large populations of LLM agents that recommended unfamiliar songs, with or without exposure to cumulative recommendation counts. Exposure led to runaway cascades that generated extreme and unpredictable collective recommendations increasingly divergent from a song's intrinsic appeal. Compared to humans, LLM populations were generally far more susceptible to herding behavior, and unlike humans, LLM cascades were less able to self-correct. This vulnerability has implications for multi-agent collaboration in recommender systems, automated evaluation, complex problem-solving, and unauthorized conspiracies.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、他者の選択に反応して協力し、社会的影響への脆弱性のある内在的なフィードバックループ、牧草行動、暴走カスケードを生成するマルチエージェントシステムでますます機能する。 クラシック・ミュージック・ラボ(Music Lab)の実験の後、私たちはこの脆弱性を多くのLSMエージェントで検証し、不慣れな曲を推薦し、累積的な推薦数に晒すか、無関係に推薦した。 露出は暴走するカスケードにつながり、曲の本質的な魅力から次第に分離する、極端で予測不可能な集団的なレコメンデーションを生み出した。 人間に比べ、LSMの個体群は概して牧畜行動の影響を受けやすく、人間とは異なり、LSMの個体群は自己修正が困難であった。 この脆弱性は、レコメンデータシステムにおけるマルチエージェントコラボレーション、自動評価、複雑な問題解決、不正な共謀に影響を及ぼす。

関連論文リスト

• Prompt Inversion Attack against Collaborative Inference of Large Language Models [14.786666134508645]
  本稿では、悪意のある参加者が、前の参加者が送信したアクティベーションを通じて入力プロンプトを回復しようとする、プロンプト・インバージョン・アタック(PIA)の概念を紹介する。 Llama-65Bモデルを用いてSkytraxデータセットの88.4%のトークン精度を実現する。
  論文  参考訳（メタデータ） (2025-03-12T03:20:03Z)
• Preference Leakage: A Contamination Problem in LLM-as-a-judge [69.96778498636071]
  審査員としてのLLM(Large Language Models)とLLMに基づくデータ合成は、2つの基本的なLLM駆動型データアノテーション法として登場した。 本研究では, 合成データ生成器とLCMに基づく評価器の関連性に起因するLCM-as-a-judgeの汚染問題である選好リークを明らかにする。
  論文  参考訳（メタデータ） (2025-02-03T17:13:03Z)
• Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration [68.29746557968107]
  本稿では,多エージェント協調のための新しいフレームワークを提案する。これは,効率的な自己調整のための強化アドバンテージフィードバック(Reinforced Advantage feedback, ReAd)を導入する。 Over-AIと難解なRoCoBenchの実験は、ReAdが成功率のベースラインを超え、エージェントの相互作用ステップを著しく減少させることを示している。
  論文  参考訳（メタデータ） (2024-05-23T08:33:19Z)
• Challenges Faced by Large Language Models in Solving Multi-Agent Flocking [17.081075782529098]
  フラッキング(Flocking)とは、システム内の複数のエージェントが衝突を避け、望ましい形成を維持しながら互いに近づこうとする行動である。 近年,大規模言語モデル (LLM) は,個々の意思決定者として様々な協調課題を解くという印象的な能力を示している。 本稿では,マルチエージェント・フロッキングにおいてLLMが直面する課題について論じ,今後の改善分野を提案する。
  論文  参考訳（メタデータ） (2024-04-06T22:34:07Z)
• ReST meets ReAct: Self-Improvement for Multi-Step Reasoning LLM Agent [50.508669199496474]
  外部知識に基づいて推論と行動を行うReAct-style LLMエージェントを開発した。 エージェントをReSTライクな手法で改良し,従来の軌道上で反復的に訓練する。 引き起こされた大きなモデルから始まり、アルゴリズムのたった2イテレーションの後に、微調整された小さなモデルを生成することができる。
  論文  参考訳（メタデータ） (2023-12-15T18:20:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。