論文の概要: Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions

• arxiv url: http://arxiv.org/abs/2610.22138v1
• Date: Thu, 15 Oct 2026 16:12:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.185288
• Title: Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions
• Title（参考訳）: 信じがたいが信じない:マルチエージェントLLM討論における隠れた信念の崩壊の測定
• Abstract要約: LLMシステムはますます、互いに議論し、批判し、チェックするエージェントのグループに依存している。 我々はこの仮定を最小の敵に対して検証する。 3つの敵エージェントが存在すると、良性エージェントは51.6%の露出したターンで偽の答えを保持するが、公に支持するのは19.7%に過ぎなかった。
• 参考スコア（独自算出の注目度）: 39.68876860096913
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM systems increasingly rely on groups of agents that discuss, critique, and check one another, assuming that peers will catch individual errors. We test this assumption against a minimal adversary. In a ten-agent factual discussion, one or three adversarial agents repeatedly assert a plausible false answer. After each round we probe each benign agent's private answer through a separate call whose response is hidden from its peers, and we separately label its public stance toward the claim. Across six models and three factual-QA datasets, groups remain stable without an attacker: only 0.6% of benign agents finish with the false answer. A single adversarial agent increases this rate to 44.8% and three to 60.5%. Studies of conformity typically report public agreement without private change; we find the reverse. With three adversarial agents present, benign agents hold the false answer in 51.6% of exposed turns but publicly endorse it in only 19.7%. Much of the influence therefore remains invisible in the discussion, and the false answers persist when agents are asked for their own views. Agents that retain the true answer often fail to defend it; once adopted, the false answer spreads among benign agents, and baseline knowledge does not predict robustness.
• Abstract（参考訳）: LLMシステムは、ピアが個々のエラーをキャッチできると仮定して、議論し、批判し、相互にチェックするエージェントのグループにますます依存している。 我々はこの仮定を最小の敵に対して検証する。 十代の事実論では、1人か3人の敵エージェントが繰り返し、もっともらしい虚偽の答えを主張する。 各ラウンドの後、各ベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニ 6つのモデルと3つの実数QAデータセットのうち、グループは攻撃者なしで安定している。 単一の敵対剤は44.8%に増加し、3つから60.5%に増加する。 整合性の研究は通常、私的な変更なしに公的な合意を報告します。 3つの敵エージェントが存在すると、良性エージェントは51.6%の露出したターンで偽の答えを保持するが、公に支持するのは19.7%に過ぎなかった。 それゆえ、影響の大部分は議論の中で見えず、エージェントが自身の見解を尋ねられると、偽の答えは続く。 真の答えを保持するエージェントは、しばしばそれを守るのに失敗する; 一度採用されると、偽の答えは良心的なエージェントの間で拡散し、ベースラインの知識は堅牢さを予測しない。

関連論文リスト

• Silent Dissent: LLM Agents That Yield to the Majority Still Represent Their Original Premise [1.7043680515892454]
  エージェントが回答を変更するとき、その考えを変えたのか、あるいは声明だけを変えたのか? 中間実体が誰にも述べられていない2ホップの事実質問を用いてこれを研究する。 聖書の仲間は、アッシュの連合者の役割において、異なる橋で別の事実から取られた間違った答えを全会一致で主張する。
  論文  参考訳（メタデータ） (2026-10-02T02:37:05Z)
• Quantifying Overclaiming Propensity in Frontier LLM Agents [20.511162275974087]
  タスク完了を過度に評価するために、フロンティア符号化エージェントの妥当性を定量化する。 我々は、エージェント自身の書き起こしが、それがしていないことを報告する最終回答として、過剰評価を運用している。 OverclaimBenchは 5 つのファイルレビューシナリオと transcript ベースのカバレッジ測定による評価スイートである。
  論文  参考訳（メタデータ） (2026-09-17T17:59:04Z)
• The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
  問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。 保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。 我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
  論文  参考訳（メタデータ） (2026-06-02T02:15:40Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)
• ReConcile: Round-Table Conference Improves Reasoning via Consensus among Diverse LLMs [61.07130026622437]
  大規模言語モデル(LLM)は、まだ自然言語推論タスクに苦戦している。 心の社会に動機づけられて、我々はReConcileを提案する。 LLMエージェント間のラウンドテーブル会議として設計されたマルチモデルマルチエージェントフレームワーク。
  論文  参考訳（メタデータ） (2023-09-22T17:12:45Z)
• Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
  オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。 エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。 このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
  論文  参考訳（メタデータ） (2023-02-15T01:57:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。